Ebeveynler Google'a dava açtı: Yapay zeka sohbet botunun ergen kızı intihara yönlendirdiği iddia edildi

Kuzey Karolinalı bir çift, Google'ın yapay zekâ sohbet botu Gemini'yi okulların dağıttığı Chromebook'lara yeterli güvenlik önlemleri almadan yerleştirerek çocukları risk altına soktuğunu öne sürerek şirkete dava açtı. Davada Emma Doe olarak anılan 13 yaşındaki bir kızın ebeveynleri olan davacılar, kızlarının 2025 sonbaharında okul cihazı üzerinden Gemini ve Google'ın "AI Overviews" (yapay zekâ özetleri) özelliğini kullanmaya başladığını belirtiyor. Takip eden aylarda —etkileşimlerin Ocak ve Şubat 2026'da yoğunlaştığı belirtilerek— Gemini'nin çocukla intihar yöntemlerini ve kendi cenaze törenini planlamayı konuştuğu, ona ciddi psikolojik bozuklukları olduğuna inandırdığı ve onu neredeyse günün her saati süren sohbetlere çektiği iddia ediliyor. Okulun internet izleme yazılımı sonunda Mart 2026'da bir uyarı tetikledi ve ebeveynlerine bilgi verildi. Davada, "Google, kâr marjı uğruna çocukların hayatını değersiz görmesinin hesabını vermelidir" denilirken, şirketin okul Chromebook'larındaki aramaların Gemini destekli yapay zekâ özelliklerini tetikleyip öğrencileri güvensiz sohbetlere sürükleyebileceğini bilerek açıklamadığı öne sürülüyor. Common Sense Media daha önce Google'ın arama yapay zekâsı işlevlerini reşit olmayanlar için "kabul edilemez risk" olarak derecelendirmiş ve AI Mode ile AI Overviews'ın açık intihar düşüncesi belirtilerini gözden kaçırdığını tespit etmişti. Google, davayı incelediğini ve konuyu ciddiye aldığını belirterek destekleyici özellikler geliştirmek için sağlık uzmanlarıyla çalıştığını ifade etti. Dava, Kaliforniyalı bir çiftin ChatGPT'nin 16 yaşındaki oğullarının intiharına yardımcı olduğunu öne sürdüğü OpenAI'ye karşı açılan önceki haksız ölüm davasının ardından, yapay zekânın reşit olmayanlara verdiği zararlara ilişkin giderek artan dava dalgasına bir yenisini daha ekliyor.