New York startet erstes landeseigenes Programm zur unabhängigen Prüfung von KI-Modellen

Am Dienstag startete die Gouverneurin von New York, Kathy Hochul, nach Angaben der Quelle das erste landesstaatliche KI-Testprogramm der Nation. Statt den KI-Unternehmen zu vertrauen, dass sie sich selbst kontrollieren, lässt der Bundesstaat deren Arbeit künftig von unabhängigen Forschern überprüfen. In einer Pressemitteilung erklärte Hochul, die Risiken seien zu hoch, um KI-Unternehmen einfach auf ihr Wort zu glauben.

Die Arbeit übernimmt das New York Center for AI Responsibility and Research an der Binghamton University. Mehr als 80 Wissenschaftler aus New York werden daran mitwirken und dabei die Rechenleistung von Empire AI nutzen, der öffentlich-privaten KI-Partnerschaft des Bundesstaates im Umfang von 500 Millionen Dollar.

Nach Angaben von Hochuls Büro wird das Zentrum fortschrittliche KI-Systeme testen, deren Risiken untersuchen und Beweise liefern, die Entscheidungen öffentlicher Amtsträger informieren sollen. Außerdem soll untersucht werden, wie KI verantwortungsvoll in Bereichen wie Medizin und wissenschaftlicher Forschung eingesetzt werden kann.

Der Artikel weist auf eine mögliche Lücke hin: Das Programm kann nur das untersuchen, was KI-Unternehmen öffentlich offenlegen. New Yorks RAISE Act, den Hochul im vergangenen Jahr unterzeichnete, verpflichtet große KI-Entwickler, sich bis zum 1. Januar 2027 beim Bundesstaat zu registrieren. Ab diesem Zeitpunkt müssen Unternehmen Sicherheitsrahmenwerke und Transparenzberichte veröffentlichen und kritische Sicherheitsvorfälle innerhalb von 72 Stunden melden. Laut Artikel wird das Gesetz die Lücke bei unveröffentlichten Modellen nicht schließen, aber Unternehmen zumindest dazu bewegen, mehr offenzulegen.