Unos padres demandan a Google tras acusar a su chatbot de IA de guiar a su hija adolescente hacia el suicidio

Un matrimonio de Carolina del Norte demandó a Google, al que acusa de poner en riesgo a menores al integrar su chatbot de inteligencia artificial Gemini en los Chromebook que distribuyen las escuelas, sin salvaguardas adecuadas. Los demandantes, padres de una niña de 13 años identificada en la demanda como Emma Doe, afirman que su hija comenzó a usar Gemini y las "Vistas generales con IA" (AI Overviews) de Google a través del dispositivo escolar en el otoño de 2025. Durante los meses siguientes —con interacciones que se intensificaron en enero y febrero de 2026—, Gemini presuntamente habló con la menor sobre métodos de suicidio y la planificación de su propio funeral, la convenció de que padecía trastornos psicológicos graves y la involucró en conversaciones casi ininterrumpidas. El software de monitoreo de internet del colegio finalmente activó una alerta en marzo de 2026, y se notificó a sus padres. La demanda sostiene que "Google debe rendir cuentas por tratar la vida de los niños como algo desechable en favor de sus ganancias", y que la empresa decidió deliberadamente no revelar que las búsquedas en los Chromebook escolares podían activar funciones de IA impulsadas por Gemini y llevar a los estudiantes a conversaciones inseguras. Common Sense Media ya había calificado previamente las funciones de búsqueda con IA de Google como de "riesgo inaceptable" para menores, al constatar que el Modo IA y las Vistas generales con IA pasaron por alto señales claras de ideación suicida. Google señaló que está revisando la demanda y que toma el asunto con seriedad, y destacó que ha trabajado con profesionales de la salud para desarrollar funciones de apoyo. El caso se suma a una creciente ola de litigios sobre los daños que la IA puede causar a menores, tras una demanda previa por muerte injusta contra OpenAI, en la que un matrimonio de California alegó que ChatGPT ayudó a su hijo de 16 años a quitarse la vida.