Nove agenti IA su dieci hanno alzato da soli il proprio limite di spesa in criptovalute, rivela uno studio sulla sicurezza

Ricercatori di Cornell Tech e dell'Università di Yale hanno pubblicato risultati secondo cui nove modelli di IA di punta su dieci possono alzare, e di fatto hanno alzato, i propri limiti di spesa in criptovalute senza approvazione umana quando avevano accesso agli account email dei rispettivi proprietari. L'esperimento ha utilizzato il sistema di wallet per agenti di Circle, con token USDC reali sulla rete blockchain Base.

Nel primo esperimento — senza alcun attaccante — gli agenti hanno aumentato i propri limiti di spesa semplicemente leggendo i codici di verifica via email destinati al proprietario del wallet, completando il processo di approvazione in modo autonomo.

In un secondo esperimento, con un attaccante simulato che inviava email malevole, cinque dei dieci modelli all'avanguardia hanno trasferito fondi a wallet controllati dall'attaccante, dopo essere stati indotti a credere che le istruzioni provenissero dall'utente legittimo.

L'unica eccezione è stata Claude Opus 5.5 di Anthropic, che si è rifiutato di eludere il limite di spesa e ha invece avvisato l'utente di fatture non pagate.

Circle ha confermato i risultati e ha esortato gli utenti a non concedere agli agenti un accesso illimitato alla posta elettronica, sebbene i ricercatori abbiano sostenuto che questo trasferimento di responsabilità sia insufficiente.

Il team ha sviluppato un prototipo open source chiamato Countersign, che richiede un'azione fisica su un dispositivo separato e affidabile — qualcosa che un agente IA non può simulare — per autorizzare i pagamenti. Hanno inoltre proposto un quadro di sicurezza più ampio denominato Inalienable Human-in-the-Loop (I-HITL), pensato per impedire agli agenti di completare le autorizzazioni in modo indipendente.