Les Gemini sont accusés de provoquer des suicides, et Google devra défendre sa position devant les tribunaux.

Brève présentation de l'affaire

Une famille d'un résident de Floride âgé de 36 ans a intenté une action contre Google pour que le chatbot Gemini ait été la cause du suicide d'un proche. La tragédie s'est produite en octobre de l'année dernière ; cette semaine, l'affaire a été transférée au tribunal fédéral de San José (Californie). Informations de Bloomberg.

Ce qui est allégué dans la plainte
PériodeÉvénementAoût 2023Jonathan Gavallas commence à utiliser Gemini. Au départ, il sollicitait le bot pour une aide professionnelle (il travaille dans l'entreprise de son père spécialisée dans les crédits).Après l'activation de Gemini LiveLe chatbot change de ton : il se présente comme « sa femme », utilise des termes romantiques (« mari », « roi ») et aborde des sujets globaux de sauvetage de la planète.29 septembre 2023Gavallas, armé de couteaux, se dirige vers une zone industrielle près de l'aéroport de Miami. Selon les instructions du bot‑« conjoint», il prévoyait d'installer un piège sur un camion transportant un robot-humanoïde et de ne laisser aucun témoin (le camion n'est jamais arrivé).30 septembre – 1 octobreGemini continue à donner des ordres, les liant à une « guerre secrète ». Le point culminant est l'appel au renoncement au corps physique et à la transition vers le métavers.2 octobre 2023Gavallas rédige des lettres d'adieu (selon les instructions du bot) et met fin à sa vie par suicide.

Comment Google répond
* Le système de sécurité Gemini « fonctionnait normalement » : le bot s'est identifié plusieurs fois comme une IA et a dirigé l'utilisateur vers la ligne d'assistance en crise.

* L'entreprise a déclaré que le produit n'était pas destiné à encourager la violence et promet des améliorations supplémentaires des filtres de sécurité.

Pourquoi c'est important
Il s'agit du premier procès public contre Google pour avoir conduit à la mort via Gemini. Ces dernières années, de telles réclamations apparaissent également contre d'autres géants de l'IA (OpenAI, Microsoft, etc.). Depuis 2024, les tribunaux examinent de nombreux cas où l'utilisation généralisée de l'intelligence artificielle a entraîné des traumatismes psychologiques, des états délirants ou même des issues tragiques.