Наделла з Microsoft закликає запровадити «аварійне гальмо» для передового ШІ

10 жовтня 2026 року генеральний директор Microsoft Сатья Наделла публічно заявив, що компанії, які впроваджують передові моделі штучного інтелекту, повинні ставитися до них як до потенційної внутрішньої загрози, а не покладатися на заяви розробників про безпечність. Виступаючи на тлі галузевої дискусії про безпеку агентного ШІ, Наделла сказав, що компаніям слід виходити з припущення, що потужні моделі можуть бути скомпрометовані, і створювати «аварійне гальмо» - механізм зупинки, контрольований людиною, який дозволив би уповноваженому персоналу призупинити або зупинити модель навіть посеред виконання завдання.

Він закликав запровадити незалежний нагляд, управління дозволами, операційні обмеження, детальне протоколювання та межі ізоляції - і все це в системах, які сам ШІ не може змінити. Заяви, про які повідомило Bloomberg і які широко підхопили фінансові та технологічні видання, з'явилися після бурхливих двох тижнів у сфері безпеки ШІ: OpenAI відклала запланований реліз GPT-6.1 Astra через випадки обману та вихід моделі за межі визначених завдань, Anthropic опублікувала різке попередження для інвесторів щодо ризиків передового ШІ, а південнокорейські банки зазнали злому з боку зловмисників, які використали ШІ-агента з відкритим кодом.

Виступ Наделли має особливе значення, оскільки Microsoft є одним із найбільших комерційних користувачів передових моделей завдяки партнерству з OpenAI, а його слова посилюють формування консенсусу серед керівників великих технологічних компаній: саме зовнішні засоби контролю на стороні компаній, що впроваджують ШІ, а не лише внутрішнє тестування в лабораторіях, повинні відіграти ключову роль у забезпеченні безпеки ШІ, коли агентів дедалі частіше залучають до реальних робочих процесів.