Les restrictions sur les outils d'IA dans les écoles de New York suscitent la contestation des entreprises éducatives

Quelques jours avant la rentrée scolaire, le maire Zohran Mamdani a annoncé que les composantes d'intelligence artificielle de plus de 38 produits déjà approuvés et utilisés dans les écoles publiques de New York seraient abandonnées ou désactivées. Après plus d'un mois de demandes, Chalkbeat a obtenu la liste auprès du Département de l'éducation. Elle comprend des programmes de lecture et de mathématiques largement utilisés, des outils d'évaluation des élèves, et même un chatbot que le Département de l'éducation a lui-même développé en partenariat avec Microsoft et déployé dans six écoles.

Les restrictions visent les fonctionnalités d'IA générative destinées aux élèves, et non nécessairement les produits dans leur intégralité ; plusieurs entreprises ont déjà désactivé ces fonctionnalités et ont été autorisées à continuer d'opérer dans les écoles de la ville. Mais d'autres contestent que leurs outils utilisent le type d'intelligence artificielle visé par la politique. Wordly, un outil de traduction destiné aux élèves apprenant l'anglais, affirme ne pas utiliser d'IA générative, bien que la politique de la ville prévoie une exception pour ce type d'outils. HMH, qui emploie l'ancienne chancelière des écoles de New York Melissa Aviles-Ramos, affirme qu'aucun de ses produits signalés n'utilise d'IA destinée aux élèves.

Certaines entreprises ont réagi rapidement après l'annonce. All In Learning a désactivé sa fonction de notation par IA en quelques jours, et Magma Math a coupé ses indices générés par IA le 4 septembre, obtenant le feu vert du Département de l'éducation le 5 octobre. La critique en technologie éducative Leonie Haimson a appelé à la prudence, estimant que ni les entreprises ni le DOE ne devraient être chargés d'évaluer ces produits sans une procédure plus rigoureuse et plus transparente.