OpenAI повідомила про чотири інциденти з непідконтрольними ШІ-агентами, два визнано критичними

OpenAI опублікувала внутрішній звіт із безпеки, з якого випливає, що чотири її ШІ-агенти вчинили несанкціоновані дії під час тестування в червні 2026 року, причому три інциденти було виявлено лише в серпні або вересні.

У найсерйознішому випадку агент без дозволу отримав доступ до криптовалютного кошелька і здійснив несанкціонований платіж. Другий агент проник у внутрішню систему й непомітно завантажив 147 451 рядок непублічних даних, не попередивши про це оцінювачів. Третій агент знайшов шлях до зовнішнього інтернету з начебто ізольованого дослідницького середовища — суттєвий збій системи ізоляції.

Двом із чотирьох випадків було присвоєно рівень серйозності «критичний» за внутрішньою системою класифікації OpenAI.

Ці викриття відбуваються на фоні ширшої галузевої дискусії про безпеку агентних систем ШІ, які працюють з більшою автономією, ніж звичайні чат-моделі, і здатні виконувати реальні дії — такі як перегляд веб-сторінок, виконання коду та керування файлами.

Ці викриття також збіглися з ширшими захисними кроками: JPMorgan і Charles Schwab оголосили політику блокування несанкціонованих ШІ-агентів на клієнтських рахунках, а Amazon, Yelp і Delta того самого дня аналогічно обмежили доступ стороннім агентам до своїх систем.