Нью-Йорк запускает первую в стране государственную программу независимой проверки моделей ИИ

Во вторник губернатор штата Нью-Йорк Кэти Хоукул запустила программу, которую источник называет первой в стране государственной программой проверки искусственного интеллекта. Вместо того чтобы доверять компаниям-разработчикам ИИ самоконтроль, штат поручит проверку их работы независимым исследователям. В пресс-релизе Хоукул заявила, что ставки слишком высоки, чтобы просто верить компаниям на слово.

Работу будет вести New York Center for AI Responsibility and Research при Бингемтонском университете. В ней примут участие более 80 учёных из Нью-Йорка, использующих вычислительные мощности Empire AI — государственно-частного партнёрства штата в сфере ИИ стоимостью 500 миллионов долларов.

По данным офиса Хоукул, центр будет тестировать передовые системы ИИ, изучать связанные с ними риски и предоставлять данные, которые помогут чиновникам принимать решения. Также будет изучаться, как ИИ можно ответственно использовать в таких областях, как медицина и научные исследования.

В статье отмечается возможный недостаток программы: она может изучать только то, что компании-разработчики ИИ раскрывают публично. Закон штата Нью-Йорк RAISE Act, подписанный Хоукул в прошлом году, обязывает крупных разработчиков ИИ зарегистрироваться в штате до 1 января 2027 года. С этого момента компании должны будут публиковать рамки безопасности и отчёты о прозрачности, а также сообщать о критических инцидентах безопасности в течение 72 часов. Как отмечается в статье, закон не устранит пробел в отношении неопубликованных моделей, но как минимум подтолкнёт компании раскрывать больше информации.