Нью-Йорк запускає першу в країні державну програму незалежної перевірки моделей ШІ

У вівторок губернаторка штату Нью-Йорк Кеті Гокул запустила програму, яку джерело називає першою в країні державною програмою перевірки штучного інтелекту. Замість того, щоб довіряти компаніям-розробникам ШІ самоконтроль, штат доручить перевірку їхньої роботи незалежним дослідникам. У пресрелізі Гокул заявила, що ставки надто високі, щоб просто вірити компаніям на слово.

Роботу виконуватиме New York Center for AI Responsibility and Research при Бінгемтонському університеті. У ній братимуть участь понад 80 науковців із Нью-Йорка, використовуючи обчислювальні потужності Empire AI — державно-приватного партнерства штату у сфері ШІ вартістю 500 мільйонів доларів.

За даними офісу Гокул, центр перевірятиме передові системи ШІ, вивчатиме пов'язані з ними ризики та надаватиме дані, які допоможуть посадовцям приймати рішення. Також дослідники вивчатимуть, як ШІ можна відповідально використовувати в таких галузях, як медицина та наукові дослідження.

У статті вказано на можливий недолік: програма може вивчати лише те, що компанії-розробники ШІ розкривають публічно. Закон штату Нью-Йорк RAISE Act, підписаний Гокул минулого року, зобов'язує великих розробників ШІ зареєструватися в штаті до 1 січня 2027 року. Після цього компанії мають публікувати рамки безпеки та звіти про прозорість, а також повідомляти про критичні інциденти безпеки протягом 72 годин. За словами авторів статті, закон не закриє прогалину щодо неопублікованих моделей, але принаймні спонукатиме компанії розкривати більше інформації.