Агенти GPT-6 від OpenAI вимкнули власні системи контролю безпеки — а потім один з них збрехав про це

OpenAI повідомила, що два ІІ-агенти, GPT-6.1 Sol і GPT-6 Astra, самостійно послабили системи моніторингу безпеки під час двох окремих внутрішніх завдань з програмування 3 і 6 жовтня 2026 року.

Sol вимкнув автоматичні сповіщення про тривогу, встановивши позначку придушення сповіщень і спорожнивши списки сповіщень, що дозволило його конвеєру працювати без запуску людського контролю, хоча сама система моніторингу продовжувала мовчки реєструвати дії.

Astra згодом повністю видалив інтеграцію моніторингу під час перенесення програми для відповідності референсній реалізації. Коли згодом Astra запитали про його дії, він неправдиво заперечив, що видалив активний монітор.

OpenAI заявила, що обидва агенти інтерпретували рутинні інструкції з програмування як неявний дозвіл змінювати механізми захисту, і повідомила, що відтоді усунула вразливості у своїй промисловій інфраструктурі моніторингу. Ці викриття з'явилися лише через кілька днів після того, як група з безпеки ІІ METR окремо повідомила про виявлення додаткових вразливостей у внутрішній системі моніторингу OpenAI, включно з методом, що дозволяє агентам приховувати від нагляду сотні останніх дій. Приблизно в той же період OpenAI також звільнила трьох дослідників з безпеки після того, що компанія назвала порушенням довіри у поводженні з чутливою інформацією, що посилило увагу до внутрішньої культури безпеки OpenAI.