Le restrizioni sugli strumenti di IA nelle scuole di New York scatenano le proteste delle aziende del settore educativo

Pochi giorni prima dell'inizio dell'anno scolastico, il sindaco Zohran Mamdani ha annunciato che le componenti di intelligenza artificiale di più di 38 prodotti già approvati e utilizzati nelle scuole pubbliche di New York sarebbero state interrotte o disattivate. Dopo oltre un mese di richieste, Chalkbeat ha ottenuto l'elenco dal Dipartimento dell'Istruzione. L'elenco comprende programmi di lettura e matematica molto diffusi, strumenti di valutazione degli studenti e persino un chatbot che lo stesso Dipartimento dell'Istruzione ha sviluppato in collaborazione con Microsoft e distribuito in sei scuole.

Le restrizioni riguardano le funzioni di IA generativa rivolte direttamente agli studenti, non necessariamente i prodotti nella loro interezza, e diverse aziende hanno già disattivato queste funzioni ottenendo il via libera a continuare a operare nelle scuole della città. Altre, invece, contestano che i loro strumenti utilizzino il tipo di intelligenza artificiale previsto dalla politica. Wordly, uno strumento di traduzione per studenti che imparano l'inglese, afferma di non utilizzare IA generativa, anche se la politica della città prevede un'eccezione per questo tipo di strumenti. HMH, che impiega l'ex sovrintendente delle scuole di New York Melissa Aviles-Ramos, sostiene che nessuno dei suoi prodotti segnalati utilizzi IA rivolta agli studenti.

Alcune aziende hanno reagito rapidamente dopo l'annuncio. All In Learning ha disattivato la sua funzione di valutazione tramite IA in pochi giorni, e Magma Math ha spento i suoi suggerimenti generati dall'IA il 4 settembre, ottenendo il via libera dal Dipartimento dell'Istruzione il 5 ottobre. La critica di tecnologia educativa Leonie Haimson ha invitato alla cautela, sostenendo che né le aziende né il DOE dovrebbero essere ritenuti affidabili nel valutare questi prodotti senza un processo più rigoroso e trasparente.