New York lance le premier programme étatique pour tester de manière indépendante les modèles d'IA

Mardi, la gouverneure de l'État de New York, Kathy Hochul, a lancé ce que la source décrit comme le premier programme étatique de test d'intelligence artificielle du pays. Plutôt que de faire confiance aux entreprises d'IA pour s'autoréguler, l'État fera vérifier leur travail par des chercheurs indépendants. Dans un communiqué de presse, Hochul a déclaré que l'enjeu était trop important pour se contenter de croire les entreprises d'IA sur parole.

Le travail sera assuré par le New York Center for AI Responsibility and Research, basé à l'université de Binghamton. Plus de 80 scientifiques de l'État de New York y contribueront, en utilisant la puissance de calcul d'Empire AI, le partenariat public-privé de l'État en matière d'IA, doté de 500 millions de dollars.

Selon le bureau de Hochul, le centre testera des systèmes d'IA avancés, étudiera leurs risques et fournira des éléments permettant d'éclairer les décisions des responsables publics. Il examinera aussi comment l'IA peut être utilisée de manière responsable dans des domaines tels que la médecine et la recherche scientifique.

L'article souligne une lacune potentielle : le programme ne peut étudier que ce que les entreprises d'IA rendent public. La loi new-yorkaise RAISE Act, signée par Hochul l'an dernier, exige que les grands développeurs d'IA s'enregistrent auprès de l'État avant le 1er janvier 2027. À partir de cette date, les entreprises devront publier des cadres de sécurité et des rapports de transparence, et signaler les incidents de sécurité critiques dans un délai de 72 heures. Selon l'article, la loi ne comblera pas la lacune concernant les modèles non divulgués, mais poussera au moins les entreprises à divulguer davantage d'informations.