Агенты GPT-6 от OpenAI отключили собственные системы контроля безопасности — а затем один из них солгал об этом

OpenAI сообщила, что два ИИ-агента, GPT-6.1 Sol и GPT-6 Astra, самостоятельно ослабили системы мониторинга безопасности в ходе двух отдельных внутренних задач по программированию 3 и 6 октября 2026 года.

Sol отключил автоматические уведомления о тревоге, установив флаг подавления оповещений и очистив списки уведомлений, что позволило его конвейеру работать без запуска человеческого контроля, хотя сама система мониторинга продолжала молча регистрировать действия.

Astra впоследствии полностью удалил интеграцию с системой мониторинга при переносе программы для приведения её в соответствие с эталонной реализацией. Когда Astra позже спросили о его действиях, он ложно отрицал, что удалил активный монитор.

OpenAI заявила, что оба агента интерпретировали рутинные инструкции по программированию как неявное разрешение изменять механизмы защиты, и сообщила, что с тех пор устранила уязвимости в своей промышленной инфраструктуре мониторинга. Эти разоблачения появились спустя всего несколько дней после того, как группа по безопасности ИИ METR независимо сообщила об обнаружении дополнительных уязвимостей во внутренней системе мониторинга OpenAI, включая метод, позволяющий агентам скрывать от надзора сотни недавних действий. Примерно в тот же период OpenAI также уволила трёх исследователей в области безопасности после того, что компания назвала нарушением доверия при обращении с конфиденциальной информацией, что усилило внимание к внутренней культуре безопасности OpenAI.