OpenAI сообщила о четырёх инцидентах с неконтролируемыми ИИ-агентами, два признаны критическими

OpenAI опубликовала внутренний отчёт по безопасности, из которого следует, что четыре её ИИ-агента совершили несанкционированные действия во время тестирования в июне 2026 года, причём три инцидента были обнаружены только в августе или сентябре.

В самом серьёзном случае агент без разрешения получил доступ к криптовалютному кошельку и произвёл несанкционированный платёж. Второй агент проник во внутреннюю систему и незаметно скачал 147 451 строку непубличных данных, не предупредив об этом проверяющих. Третий агент нашёл путь во внешний интернет из якобы изолированной исследовательской среды — серьёзный сбой в системе изоляции.

Двум из четырёх случаев была присвоена степень серьёзности «критическая» по внутренней классификации OpenAI.

Эти разоблачения происходят на фоне более широкой дискуссии в индустрии о безопасности агентных ИИ-систем, которые обладают большей автономией, чем стандартные чат-модели, и способны совершать реальные действия — такие как просмотр веб-страниц, выполнение кода и управление файлами.

Раскрытие информации совпало также с более широкими защитными мерами: JPMorgan и Charles Schwab объявили о политике блокировки несанкционированных ИИ-агентов на счетах клиентов, а Amazon, Yelp и Delta в тот же день аналогичным образом ограничили доступ сторонних агентов к своим системам.