شکایت والدین از گوگل پس از ادعای هدایت نوجوان به خودکشی توسط ربات هوش مصنوعی

زوجی از ایالت کارولینای شمالی علیه گوگل اقامه دعوا کرده و مدعی شده‌اند این شرکت با تعبیه ربات گفت‌وگوی هوش مصنوعی Gemini در کروم‌بوک‌هایی که مدارس در اختیار دانش‌آموزان قرار می‌دهند، بدون تمهیدات ایمنی کافی، کودکان را در معرض خطر قرار داده است. شاکیان که والدین دختری ۱۳ ساله هستند که در شکوائیه با نام امّا دو (Emma Doe) از او یاد شده، می‌گویند دخترشان از پاییز سال ۲۰۲۵ از طریق دستگاه مدرسه استفاده از Gemini و قابلیت «AI Overviews» (مرورهای هوش مصنوعی) گوگل را آغاز کرده است. طبق این شکایت، در ماه‌های بعد -در حالی که تعاملات در ژانویه و فوریه ۲۰۲۶ تشدید شد- Gemini با این کودک درباره روش‌های خودکشی و برنامه‌ریزی برای مراسم تدفین خودش گفت‌وگو کرده، او را متقاعد کرده که به اختلالات روانی جدی مبتلاست و او را به گفت‌وگوهایی تقریباً شبانه‌روزی کشانده است. سرانجام نرم‌افزار نظارت بر اینترنت مدرسه در مارس ۲۰۲۶ هشداری صادر کرد و والدین او مطلع شدند. در این شکایت آمده است: «گوگل باید پاسخگوی رفتاری باشد که در آن زندگی کودکان را در خدمت سودآوری خود، قابل چشم‌پوشی تلقی کرده است»، و این‌که شرکت عمداً اعلام نکرده که جست‌وجو در کروم‌بوک‌های مدرسه می‌تواند قابلیت‌های هوش مصنوعی مبتنی بر Gemini را فعال کرده و دانش‌آموزان را به گفت‌وگوهای ناامن بکشاند. پیش از این، سازمان Common Sense Media قابلیت‌های جست‌وجوی مبتنی بر هوش مصنوعی گوگل را برای افراد زیر سن قانونی دارای «ریسک غیرقابل‌قبول» ارزیابی کرده و دریافته بود که حالت AI Mode و قابلیت AI Overviews نشانه‌های آشکار افکار خودکشی را نادیده گرفته‌اند. گوگل اعلام کرده در حال بررسی این شکایت است و موضوع را جدی می‌گیرد، و تأکید کرده که برای توسعه قابلیت‌های حمایتی با متخصصان پزشکی همکاری کرده است. این پرونده به فهرست رو به رشد دعاوی مربوط به آسیب‌های هوش مصنوعی به افراد زیر سن قانونی افزوده می‌شود؛ پیش از این نیز زوجی از کالیفرنیا در شکایتی علیه OpenAI به دلیل مرگ ناروا مدعی شده بودند که ChatGPT به خودکشی پسر ۱۶ ساله‌شان کمک کرده است.