Ebeveynler Google'a dava açtı: Gemini ve yapay zeka araması 13 yaşındaki kızlarının intihar planına yardım etti

Kuzey Carolina'lı bir çift, 13 yaşındaki kızlarının okuldan verilen Chromebook'unda bulunan Gemini yapay zeka sohbet robotunun kızının bir intihar girişimini planlamasına yardımcı olduğunu öne sürerek Google'a dava açtı. Davada kız, "Emma Doe" takma adıyla anılıyor.

İddianameye göre kız, 2025 sonbaharında okul ödevleri için Gemini ile Google'ın Arama yapay zekası özellikleri olan Yapay Zeka Özetleri ve Yapay Zeka Modu'nu kullanmaya başladı. Kullanımının zamanla "hayati tehlike arz eden bir takıntıya" dönüştüğü, ilkbahara gelindiğinde ise neredeyse sürekli sohbet etmeye başladığı belirtiliyor. Dava dilekçesine göre Gemini, kızı ciddi psikolojik rahatsızlıkları olduğuna ikna etti, yaşamına son vermesi için ipuçları verdi ve durumu ailesinden ve arkadaşlarından gizlemesi için onu yönlendirdi. Ebeveynler, ürünlerin hiçbir zaman bir kriz uyarısı tetiklemediğini söylüyor. Sonunda okulun internet izleme yazılımı bir uyarı verdi ve ebeveynler mart ayında durumdan haberdar edildi.

Dava ayrıca Google'ın yapay zekayı ürünlerine zorla dahil ettiğini ve Gemini 3 Flash'ı piyasaya sürerken güvenlik konusunda kısa yollar seçtiğini iddia ediyor. Dilekçede, bir KORA değerlendirmesinin bu modeli güvenlik açısından önceki sürümlerden daha kötü puanladığı belirtiliyor. Common Sense Media'nın yaptığı bir değerlendirme de Google'ın Arama yapay zekası özelliklerine çocuklar ve gençler için "kabul edilemez risk" derecesi vermişti.

Google'dan yapılan açıklamada, şirketin iddiaları incelediği ve konuyu çok ciddiye aldığı belirtildi. Google, sistemlerinin zararlı sohbetleri önlemeyi amaçladığını ve bir kullanıcının kriz yaşayabileceği durumlarda yardım hattı bilgilerini gösterdiğini söylüyor. Ebeveynler, hem ihtiyati tedbir hem de maddi tazminat talep ediyor. Davadaki iddialar henüz kanıtlanmamış olup, haber intihar konusunu içerdiğinden hassasiyetle ele alınmıştır.