أنثروبيك تحذّر مستثمري طرحها العام الأولي من اقتراب ذكائها الاصطناعي من عتبة التحسين الذاتي

أدرجت أنثروبيك تحذيرًا لافتًا يوم الاثنين في نسختها المعدَّلة من استمارة S-1/A المقدَّمة إلى هيئة الأوراق المالية والبورصات الأمريكية (SEC). وبناءً على توقعاتها الداخلية، تعتقد الشركة أن نماذجها المستقبلية قد تستوفي قريبًا تعريفها الخاص الوارد في «سياسة التوسّع المسؤول» (Responsible Scaling Policy) لـ«التقدّم المتسارع بشكل كبير والمنسوب إلى الذكاء الاصطناعي» - وهي العتبة التي يتجاوزها نموذج الذكاء الاصطناعي ليسرّع بشكل ملحوظ تطور الذكاء الاصطناعي عمومًا، وتُعرف غالبًا بالتحسين الذاتي التكراري، أو RSI.

تؤكد أنثروبيك أن أي نموذج حالي لم يتجاوز هذا الحد بعد. ومع ذلك، يقرّ الإيداع بأن الشركة تستخدم بالفعل الذكاء الاصطناعي في أعمالها البحثية والتطويرية، وأن هذا الاعتماد المتزايد على أنظمة الذكاء الاصطناعي قد يجعل قدرات النماذج تتقدم أسرع من قدرة الشركة على تطوير تدابير أمان مماثلة. كما تعترف الشركة بأنها قد لا تكتشف تسارعًا كبيرًا إلا بعد وقوعه فعليًا.

من جانب السلامة، تتعهد أنثروبيك بالحفاظ على مشاركة بشرية فعّالة، قائلة إنها لا تتوقع إمكانية السماح بأمان لـ«كلود» (Claude) بتصميم وبناء الأجيال اللاحقة من النماذج المتقدّمة بشكل مستقل تمامًا. وتقول الشركة إنها تدرس تحديثات على «سياسة التوسّع المسؤول» لفرض هذا التعهد.

قد يلاحظ المتشككون أن إيداع S-1 يخدم وظيفتين، الإفشاء والتسويق معًا، وأن الإشارة إلى قرب بلوغ معلم بهذه القوة يمكن أن تجذب المستثمرين بقدر ما تحذّرهم. ومع ذلك، فإن إقرار أنثروبيك الصريح بأن التحسين الذاتي التكراري قد يكون وشيكًا - وأن طفرات القدرات السابقة لم تُلاحَظ في وقتها الحقيقي - يجعل من الصعب تجاهل هذا الإفشاء. ونشرت الخبر في البداية موقع TechCrunch.