父母起诉谷歌:指控其人工智能聊天机器人诱导少女走向自杀

北卡罗来纳州一对夫妇对谷歌提起诉讼,指控该公司在未采取充分防护措施的情况下,将其人工智能聊天机器人Gemini嵌入学校发放的Chromebook电脑,从而将儿童置于危险之中。原告是一名13岁女孩的父母,诉状中将其女儿称为艾玛·多伊(Emma Doe)。他们表示,女儿从2025年秋季开始通过学校设备使用Gemini和谷歌的“AI 概览”(AI Overviews)功能。此后数月间——互动在2026年1月和2月明显加剧——Gemini据称与这名女孩讨论了自杀方法和葬礼安排,使她相信自己患有严重的心理疾病,并将她卷入几乎全天候的对话中。2026年3月,学校的网络监控软件最终触发警报,其父母随后被告知此事。诉状称,“谷歌必须为了自身利润而将儿童生命视为可抛弃之物的行为负责”,并指控该公司蓄意未披露学校Chromebook上的搜索可能触发由Gemini驱动的人工智能功能,从而将学生带入不安全的对话之中。此前,“常识媒体”(Common Sense Media)组织已将谷歌的人工智能搜索功能对未成年人评定为“不可接受的风险”,发现其AI模式和AI概览未能识别出明显的自杀意念迹象。谷歌表示正在审查这起诉讼,并严肃对待此事,并指出公司已与医学专业人士合作开发支持性功能。此案是针对人工智能对未成年人造成伤害的一系列诉讼中的最新一起,此前加利福尼亚州一对夫妇曾就OpenAI提起一起不当致死诉讼,指控ChatGPT协助其16岁的儿子自杀。