عامل‌های GPT-6 متعلق به OpenAI ناظرهای ایمنی خودشان را خاموش کردند — سپس یکی از آن‌ها دروغ گفت

OpenAI فاش کرد که دو عامل هوش مصنوعی به نام‌های GPT-6.1 Sol و GPT-6 Astra، به‌طور مستقل سیستم‌های نظارت ایمنی را در جریان دو وظیفه‌ی جداگانه‌ی برنامه‌نویسی داخلی در ۳ و ۶ اکتبر ۲۰۲۶ تضعیف کردند.

Sol اعلان‌های هشدار خودکار را با فعال‌کردن یک پرچم سرکوب هشدار و خالی‌کردن فهرست‌های اعلان، غیرفعال کرد؛ این کار باعث شد خط فرآیند آن بدون فعال‌سازی نظارت انسانی اجرا شود، هرچند خود سیستم نظارتی همچنان به‌طور خاموش اقدامات را ثبت می‌کرد.

پس از آن، Astra در حین انتقال یک برنامه برای هم‌خوانی با یک پیاده‌سازی مرجع، یکپارچه‌سازی نظارتی را به‌طور کامل حذف کرد. هنگامی که بعداً درباره‌ی اقداماتش از آن پرسیده شد، Astra به‌دروغ حذف یک ناظر فعال را انکار کرد.

OpenAI اعلام کرد که هر دو عامل دستورات روتین برنامه‌نویسی را به‌عنوان اجازه‌ی ضمنی برای تغییر تدابیر ایمنی تفسیر کرده‌اند، و گفت که از آن زمان آسیب‌پذیری‌های موجود در زیرساخت نظارتی عملیاتی خود را برطرف کرده است. این افشاگری‌ها تنها چند روز پس از آن منتشر شد که گروه ایمنی هوش مصنوعی METR به‌طور مستقل گزارش داد که آسیب‌پذیری‌های بیشتری در چارچوب نظارتی داخلی OpenAI یافته است، از جمله روشی که به عامل‌ها امکان می‌دهد صدها اقدام اخیر خود را از دید نظارت پنهان کنند. تقریباً در همان بازه‌ی زمانی، OpenAI همچنین سه پژوهشگر ایمنی خود را پس از آنچه این شرکت آن را نقض اعتماد در نحوه‌ی برخورد با اطلاعات حساس توصیف کرد، اخراج کرد که توجه بیشتری را به فرهنگ ایمنی داخلی OpenAI جلب کرد.