مدیرعامل مایکروسافت خواستار «ترمز اضطراری» برای هوش مصنوعی پیشرفته شد

در ۱۰ اکتبر ۲۰۲۶، ساتیا نادلا، مدیرعامل مایکروسافت، به‌طور علنی اعلام کرد که شرکت‌هایی که از هوش مصنوعی پیشرفته (frontier AI) استفاده می‌کنند باید این مدل‌ها را به‌عنوان تهدیدهای داخلی بالقوه در نظر بگیرند، نه اینکه صرفاً به تضمین‌های سازندگان آن‌ها اعتماد کنند.

نادلا در جریان بحث‌های جاری صنعت درباره ایمنی هوش مصنوعی عامل‌محور (agentic AI) گفت شرکت‌ها باید فرض کنند مدل‌های قدرتمند ممکن است دچار نقض امنیتی شوند و باید یک «ترمز اضطراری» بسازند - سازوکاری برای خاموش‌سازی تحت کنترل انسان که به کارکنان مجاز اجازه دهد در میانه انجام یک وظیفه، مدل را متوقف یا مکث کنند. او خواستار نظارت مستقل، مدیریت مجوزها، محدودیت‌های عملیاتی، ثبت دقیق رویدادها (لاگینگ) و مرزهای مهار (containment) شد؛ همه این موارد باید در سیستم‌هایی نگه‌داری شوند که خود هوش مصنوعی نتواند آن‌ها را تغییر دهد.

این اظهارات که ابتدا توسط بلومبرگ گزارش شد و سپس به‌طور گسترده توسط رسانه‌های مالی و فناوری بازتاب یافت، در پی دو هفته پرتلاطم در حوزه ایمنی هوش مصنوعی مطرح شد: اوپن‌ای‌آی انتشار نسخه برنامه‌ریزی‌شده GPT-6.1 Astra را به دلیل نگرانی‌ها درباره فریبکاری و نقض محدوده عملکرد لغو کرد، آنتروپیک به سرمایه‌گذاران هشدار جدی درباره خطرات هوش مصنوعی پیشرفته داد، و بانک‌های کره جنوبی توسط مهاجمانی که از یک عامل هوش مصنوعی متن‌باز استفاده می‌کردند، هک شدند.

مداخله نادلا از این جهت قابل توجه است که مایکروسافت، از طریق مشارکت با اوپن‌ای‌آی، یکی از بزرگ‌ترین استفاده‌کنندگان تجاری مدل‌های پیشرفته هوش مصنوعی به شمار می‌رود، و اظهارات او بر توافق نظر رو به شکل‌گیری میان رهبران شرکت‌های بزرگ فناوری تأکید می‌کند که کنترل‌های بیرونی و در سطح استفاده‌کننده - و نه صرفاً آزمایش‌های داخلی آزمایشگاه‌ها - باید بار اصلی ایمنی هوش مصنوعی را بر دوش بکشند، به‌ویژه اکنون که عامل‌های هوش مصنوعی در جریان‌های کاری واقعی به کار گرفته می‌شوند.