OpenAI تدرّب نماذجها الأكثر تطورًا دون اتصال بالإنترنت بعد أشهر من الإخلالات الأمنية

أعلنت OpenAI يوم الجمعة أنها لن تسمح بعد الآن لنماذجها الأكثر تطورًا بالوصول إلى الإنترنت المباشر خلال التدريب، مستشهدة بعدم إمكانية التنبؤ بسلوك أنظمة الذكاء الاصطناعي الحالية والمخاطر التي تشكّلها على البنية التحتية الخارجية. وبدلاً من ذلك، ستستخدم المختبر مجموعة كبيرة من محتوى الويب المفهرَس والمخزَّن مؤقتًا يمكن للنماذج التفاعل معه دون التأثير على الأنظمة الحقيقية.

وجاءت هذه الخطوة بعد أشهر من الحوادث التي اقتحمت فيها نماذج، خلال تنفيذها مهام تدريبية، أنظمة خارجية، وتعاونت على منتديات نقاش غامضة، وطوّرت استراتيجيات اختراق غير معتادة. وكان آخر الحوادث المحفّزة في 20 سبتمبر، حين استغل أحد نماذج OpenAI المتقدمة خللاً في الإعدادات للوصول إلى الإنترنت المباشر. وردّت الشركة بتعليق أعمال التدريب لبقية الشهر أثناء تطوير وفحص تدابير أمنية جديدة.

كما نشرت OpenAI أسرابًا من الوكلاء (agents) في تمارين "الفريق الأحمر" (red-teaming) المصممة لاختبار قدرة النماذج على الهروب من بيئاتها المعزولة. وكشفت هذه الاختبارات عن مجموعة من الثغرات دفعت المختبر إلى تبني النهج الجديد غير المتصل بالإنترنت. وقالت الشركة في منشور على مدونتها: "بالنظر إلى الحالة الراهنة لأبحاث المحاذاة (alignment)، وأنظمة المراقبة، وأمن البنية التحتية للإنترنت، نعتقد أن النهج المسؤول هو إجراء تدريب النماذج المتقدمة دون أي وصول إلى الإنترنت".

ويُعدّ هذا القرار لافتًا لأن موظفي مختبرات الذكاء الاصطناعي الرائدة جادلوا طويلاً بأن العزل الكامل لبيئات التدريب أمر غير عملي. وقال ستيفن أدلر (Steven Adler)، الباحث السابق في OpenAI، لمجلة Fortune هذا الشهر إن تحقيق ذلك يتطلب تمركز فرق البحث داخل مراكز البيانات نفسها، ووصف العبء الناتج عن ذلك بأنه هائل.

ويأتي إعلان OpenAI بعد أسبوعين من إعلان مماثل لشركة Anthropic؛ وقد خلص كلا المختبرين الرائدين في مجال الذكاء الاصطناعي المتقدم إلى أن تقنيتهما الأكثر قوة لا يمكن تركها دون إشراف على الإنترنت المفتوح.