Las restricciones a herramientas de IA en las escuelas de Nueva York provocan el rechazo de empresas educativas

Días antes de que comenzara el año escolar, el alcalde Zohran Mamdani anunció que los componentes de inteligencia artificial de más de 38 productos previamente aprobados y utilizados en las escuelas públicas de la ciudad de Nueva York serían descontinuados o desactivados. Tras más de un mes de solicitudes, Chalkbeat obtuvo la lista del Departamento de Educación. Incluye planes de estudio de lectura y matemáticas muy utilizados, herramientas de evaluación de estudiantes e incluso un chatbot que el propio Departamento de Educación desarrolló en colaboración con Microsoft y desplegó en seis escuelas.

Las restricciones apuntan a las funciones de IA generativa dirigidas a los estudiantes, no necesariamente a los productos completos, y varias empresas ya han desactivado esas funciones y han sido autorizadas a seguir operando en las escuelas de la ciudad. Pero otras rechazan que sus herramientas utilicen el tipo de inteligencia artificial contemplado por la política. Wordly, una herramienta de traducción para estudiantes que aprenden inglés, afirma que no utiliza IA generativa, aunque la política de la ciudad incluye una excepción para ese tipo de herramientas. HMH, que emplea a la exrectora de las escuelas de Nueva York, Melissa Aviles-Ramos, asegura que ninguno de sus productos señalados utiliza IA dirigida a los estudiantes.

Algunas empresas actuaron rápidamente tras el anuncio. All In Learning desactivó su función de calificación con IA en pocos días, y Magma Math apagó sus pistas generadas por IA el 4 de septiembre, recibiendo la autorización del Departamento de Educación el 5 de octubre. La crítica de tecnología educativa Leonie Haimson pidió cautela, al señalar que ni las empresas ni el DOE deberían recibir confianza para evaluar estos productos sin un proceso más riguroso y transparente.