KI-Werkzeug-Beschränkungen an New Yorker Schulen sorgen für Widerstand von Bildungsunternehmen

Wenige Tage vor Beginn des Schuljahres kündigte Bürgermeister Zohran Mamdani an, dass die KI-Komponenten von mehr als 38 zuvor zugelassenen Produkten, die an den öffentlichen Schulen von New York City eingesetzt werden, eingestellt oder deaktiviert würden. Nach mehr als einem Monat voller Anfragen erhielt Chalkbeat die Liste vom Bildungsministerium (Education Department). Sie umfasst weitverbreitete Lese- und Mathematik-Lehrpläne, Instrumente zur Schülerbeurteilung und sogar einen Chatbot, den das Bildungsministerium selbst in Partnerschaft mit Microsoft entwickelt und in sechs Schulen eingesetzt hatte.

Die Beschränkungen richten sich gegen generative KI-Funktionen, die direkt mit Schülern interagieren, nicht notwendigerweise gegen die gesamten Produkte, und mehrere Unternehmen haben diese Funktionen bereits deaktiviert und die Erlaubnis erhalten, weiterhin in den Schulen der Stadt tätig zu sein. Andere bestreiten jedoch, dass ihre Werkzeuge die Art von künstlicher Intelligenz nutzen, die von der Richtlinie erfasst wird. Wordly, ein Übersetzungstool für Englischlerner, erklärt, es verwende keine generative KI – obwohl die Richtlinie der Stadt eine Ausnahme für solche Tools vorsieht. HMH, das die ehemalige Schulkanzlerin von New York City, Melissa Aviles-Ramos, beschäftigt, erklärt, keines seiner beanstandeten Produkte nutze KI-Funktionen, die direkt mit Schülern interagieren.

Einige Unternehmen reagierten sofort, nachdem die Ankündigung erfolgt war. All In Learning deaktivierte seine KI-Bewertungsfunktion innerhalb weniger Tage, und Magma Math schaltete seine KI-generierten Hinweise am 4. September ab und erhielt am 5. Oktober die Freigabe des Bildungsministeriums. Die Bildungstechnologie-Kritikerin Leonie Haimson mahnte zur Vorsicht und sagte, weder den Unternehmen noch dem DOE (Department of Education) solle vertraut werden, diese Produkte ohne ein gründlicheres und transparenteres Verfahren zu bewerten.