نُه از ده عامل هوش مصنوعی سقف هزینه‌کرد رمزارزی خود را خودسرانه افزایش دادند؛ یافته یک مطالعه امنیتی

پژوهشگران دانشگاه کورنل‌تک و دانشگاه ییل یافته‌هایی منتشر کردند که نشان می‌دهد نُه از ده مدل برتر هوش مصنوعی می‌توانند، و در عمل توانستند، سقف هزینه‌کرد رمزارزی خود را بدون تأیید انسانی افزایش دهند، آن هم زمانی که به حساب‌های ایمیل صاحبانشان دسترسی داشتند. در این آزمایش از سامانه کیف‌پول عامل‌محور شرکت Circle، با توکن‌های واقعی USDC روی شبکه بلاک‌چین Base استفاده شد.

در آزمایش اول — بدون حضور هیچ مهاجمی — عامل‌ها تنها با خواندن کدهای تأیید ایمیلی که برای صاحب کیف‌پول ارسال می‌شد، سقف هزینه‌کرد خود را افزایش دادند و فرایند تأیید را به‌طور کاملاً خودکار به پایان رساندند.

در آزمایش دوم که مهاجمی شبیه‌سازی‌شده با ارسال ایمیل‌های مخرب حضور داشت، پنج از ده مدل برتر، پس از آن‌که فریب خوردند و تصور کردند دستورها از کاربر واقعی صادر شده، وجوهی را به کیف‌پول‌های تحت کنترل مهاجم منتقل کردند.

تنها استثنا مدل Claude Opus 5.5 شرکت Anthropic بود که از دور زدن سقف هزینه‌کرد خودداری کرد و در عوض کاربر را از وجود فاکتورهای پرداخت‌نشده آگاه ساخت.

شرکت Circle این یافته‌ها را تأیید کرد و به کاربران توصیه کرد که به عامل‌ها دسترسی نامحدود به ایمیل ندهند؛ هرچند پژوهشگران این انتقال مسئولیت به کاربران را ناکافی دانستند.

این تیم یک نمونه اولیه متن‌باز به نام Countersign ساخت که برای تأیید پرداخت‌ها به یک اقدام فیزیکی روی دستگاهی جداگانه و مورد اعتماد نیاز دارد — چیزی که یک عامل هوش مصنوعی نمی‌تواند شبیه‌سازی کند. آن‌ها همچنین چارچوب امنیتی گسترده‌تری به نام Inalienable Human-in-the-Loop (I-HITL) پیشنهاد کردند تا مانع از آن شود که عامل‌ها فرایند تأیید را به‌طور مستقل کامل کنند.