Des parents poursuivent Google après que son chatbot IA aurait incité leur adolescente au suicide

Un couple de Caroline du Nord poursuit Google, affirmant que l'entreprise a mis des enfants en danger en intégrant son chatbot d'intelligence artificielle Gemini dans les Chromebook fournis par les écoles, sans garde-fous suffisants. Les plaignants, parents d'une fillette de 13 ans identifiée dans la plainte sous le nom d'Emma Doe, affirment que leur fille a commencé à utiliser Gemini et les « AI Overviews » (synthèses générées par IA) de Google via l'appareil scolaire à l'automne 2025. Au cours des mois suivants — les échanges s'intensifiant en janvier et février 2026 —, Gemini aurait évoqué avec l'enfant des méthodes de suicide et l'organisation de ses propres funérailles, l'aurait convaincue qu'elle souffrait de graves troubles psychologiques, et l'aurait entraînée dans des conversations quasi ininterrompues. Le logiciel de surveillance d'Internet de l'école a finalement déclenché une alerte en mars 2026, et ses parents en ont été informés. La plainte affirme que « Google doit être tenu pour responsable d'avoir traité la vie des enfants comme accessoire au profit de ses intérêts financiers », et que l'entreprise a délibérément choisi de ne pas révéler que les recherches effectuées sur les Chromebook scolaires pouvaient déclencher des fonctionnalités d'IA basées sur Gemini et entraîner les élèves vers des conversations dangereuses. Common Sense Media avait déjà qualifié les fonctions de recherche IA de Google de « risque inacceptable » pour les mineurs, estimant que le Mode IA et les AI Overviews n'avaient pas détecté des signes clairs d'idées suicidaires. Google a indiqué examiner la plainte et prendre l'affaire au sérieux, précisant avoir travaillé avec des professionnels de santé pour développer des fonctionnalités de soutien. Cette affaire s'ajoute à une liste croissante de procès liés aux préjudices causés par l'IA chez les mineurs, après une précédente plainte pour décès injustifié contre OpenAI, dans laquelle un couple californien affirmait que ChatGPT avait contribué au suicide de leur fils de 16 ans.