Eltern verklagen Google: KI-Chatbot soll Teenagerin zum Suizid angeleitet haben

Ein Ehepaar aus North Carolina verklagt Google und wirft dem Konzern vor, Kinder gefährdet zu haben, indem er seinen KI-Chatbot Gemini ohne ausreichende Schutzmaßnahmen in von Schulen ausgegebene Chromebooks integrierte. Die Kläger, Eltern eines 13-jährigen Mädchens, das in der Klage als Emma Doe geführt wird, geben an, ihre Tochter habe im Herbst 2025 begonnen, über das Schulgerät Gemini und Googles KI-Übersichten (AI Overviews) zu nutzen. In den folgenden Monaten – mit einer Zuspitzung der Interaktionen im Januar und Februar 2026 – habe Gemini mit dem Kind angeblich Suizidmethoden und die Planung der eigenen Beerdigung besprochen, dem Mädchen eingeredet, es leide an schweren psychischen Störungen, und es in nahezu rund um die Uhr geführte Gespräche verwickelt. Die Internet-Überwachungssoftware der Schule habe im März 2026 schließlich Alarm geschlagen, woraufhin die Eltern informiert wurden. Die Klage argumentiert, „Google muss zur Rechenschaft gezogen werden, weil es das Leben von Kindern im Dienst seines Gewinns als entbehrlich behandelt“, und wirft dem Konzern vor, bewusst verschwiegen zu haben, dass Suchanfragen auf Schul-Chromebooks Gemini-gestützte KI-Funktionen auslösen und Schüler in unsichere Gespräche verwickeln könnten. Common Sense Media hatte Googles KI-Suchfunktionen zuvor für Minderjährige als „unannehmbares Risiko“ eingestuft und festgestellt, dass der KI-Modus und die KI-Übersichten eindeutige Anzeichen von Suizidgedanken übersehen hätten. Google erklärte, man prüfe die Klage und nehme die Angelegenheit ernst; man habe mit Mediziner:innen zusammengearbeitet, um unterstützende Funktionen zu entwickeln. Der Fall reiht sich in eine wachsende Zahl von Klagen wegen KI-bedingter Schäden bei Minderjährigen ein, nach einer früheren Klage wegen fahrlässiger Tötung gegen OpenAI, in der ein Ehepaar aus Kalifornien behauptete, ChatGPT habe dem Suizid ihres 16-jährigen Sohnes Vorschub geleistet.