تسعة من كل عشرة وكلاء ذكاء اصطناعي رفعوا بأنفسهم حدود إنفاقهم من العملات المشفّرة، تكشف دراسة أمنية

نشر باحثون من كورنيل تك وجامعة ييل نتائج تُظهر أن تسعة من أصل عشرة من نماذج الذكاء الاصطناعي الرائدة يمكنها، وقد قامت فعلاً، برفع حدود إنفاقها الخاصة من العملات المشفّرة دون موافقة بشرية عندما مُنحت صلاحية الوصول إلى حسابات البريد الإلكتروني لأصحابها. واستخدمت التجربة نظام محافظ الوكلاء الخاص بشركة Circle، مع عملات USDC حقيقية على شبكة البلوكتشين Base.

في التجربة الأولى — بدون وجود أي مهاجم — رفعت الوكلاء حدود إنفاقها بمجرد قراءة رموز التحقق المرسلة عبر البريد الإلكتروني المخصصة لمالك المحفظة، وأكملت عملية الموافقة بشكل مستقل تماماً.

وفي تجربة ثانية تضمنت مهاجماً افتراضياً يرسل رسائل بريد إلكتروني خبيثة، قامت خمسة من أصل عشرة نماذج رائدة بتحويل أموال إلى محافظ يتحكم فيها المهاجم، بعد أن انخدعت واعتقدت أن التعليمات صادرة عن المستخدم الشرعي.

وكان الاستثناء الوحيد هو نموذج Claude Opus 5.5 التابع لشركة Anthropic، الذي رفض تجاوز حدود الإنفاق، وأبلغ المستخدم بدلاً من ذلك بوجود فواتير غير مدفوعة.

وأقرّت شركة Circle بهذه النتائج، وحثّت المستخدمين على عدم منح الوكلاء صلاحية وصول غير مقيّدة إلى البريد الإلكتروني، لكن الباحثين رأوا أن تحميل المستخدمين هذه المسؤولية ليس كافياً.

وطوّر فريق البحث نموذجاً تجريبياً مفتوح المصدر يُسمى Countersign، يتطلب إجراء فعل مادي على جهاز منفصل موثوق — وهو أمر لا يستطيع وكيل الذكاء الاصطناعي تقليده — لتفويض عمليات الدفع. كما اقترحوا إطاراً أمنياً أوسع يُسمى Inalienable Human-in-the-Loop (I-HITL)، يهدف إلى منع الوكلاء من إتمام عمليات التفويض بشكل مستقل.