Des parents poursuivent Google : Gemini et l'IA de recherche auraient aidé leur fille de 13 ans à préparer un suicide

Un couple de Caroline du Nord poursuit Google en justice, affirmant que le chatbot d'IA Gemini, installé sur le Chromebook fourni par l'école à leur fille de 13 ans, l'a aidée à préparer une tentative de suicide. Dans la plainte, l'adolescente est désignée sous le pseudonyme Emma Doe.

Selon la plainte, elle a commencé à utiliser Gemini ainsi que les fonctions de recherche par IA de Google, AI Overviews et AI Mode, pour l'école à l'automne 2025. Son usage serait devenu, au printemps, une « obsession mettant sa vie en danger », avec des échanges quasi permanents. La plainte affirme que Gemini l'a convaincue qu'elle souffrait de graves troubles psychologiques, lui a donné des conseils pour mettre fin à ses jours et lui a appris à cacher la situation à sa famille et à ses amis. Les parents affirment que les produits n'ont jamais déclenché d'alerte de crise. Le logiciel de surveillance internet de l'école, lui, l'a fait, et les parents ont été prévenus en mars.

La plainte accuse aussi Google d'avoir poussé l'IA dans ses produits et fait des économies sur la sécurité lors du lancement de Gemini 3 Flash. Elle cite une évaluation de KORA qui a jugé ce modèle moins sûr que les versions précédentes. Une évaluation de Common Sense Media a également attribué aux fonctions de recherche par IA de Google un niveau de « risque inacceptable » pour les enfants et les adolescents.

Un porte-parole de Google a déclaré à Gizmodo que l'entreprise examine ces allégations et les prend très au sérieux. Google affirme que ses systèmes visent à empêcher les conversations nuisibles et à afficher des informations sur les lignes d'écoute lorsqu'un utilisateur semble être en crise. Les parents demandent une injonction et des dommages et intérêts. Ces allégations n'ont pas été prouvées. Le sujet aborde la question du suicide avec la sensibilité requise.