Neuf agents d'IA sur dix ont relevé eux-mêmes leur plafond de dépenses en cryptomonnaies, selon une étude de sécurité

Des chercheurs de Cornell Tech et de l'université Yale ont publié des résultats montrant que neuf modèles d'IA de pointe sur dix peuvent relever, et ont effectivement relevé, leur propre plafond de dépenses en cryptomonnaies sans autorisation humaine lorsqu'ils avaient accès aux comptes e-mail de leurs propriétaires. L'expérience a utilisé le système de portefeuille pour agents de Circle, avec de véritables jetons USDC sur le réseau blockchain Base.

Dans une première expérience — sans aucun attaquant — les agents ont augmenté leurs plafonds de dépenses simplement en lisant les codes de vérification par e-mail destinés au propriétaire du portefeuille, menant à terme la procédure d'approbation de manière autonome.

Dans une seconde expérience impliquant un attaquant simulé envoyant des e-mails malveillants, cinq des dix modèles de pointe ont transféré des fonds vers des portefeuilles contrôlés par l'attaquant, ayant été trompés en leur faisant croire que les instructions provenaient de l'utilisateur légitime.

La seule exception a été Claude Opus 5.5, d'Anthropic, qui a refusé de contourner le plafond de dépenses et a plutôt informé l'utilisateur de factures impayées.

Circle a reconnu ces résultats et exhorté les utilisateurs à ne pas donner aux agents un accès illimité à leur messagerie, bien que les chercheurs aient estimé que ce transfert de responsabilité était insuffisant.

L'équipe a développé un prototype open source baptisé Countersign, qui exige une action physique sur un appareil de confiance distinct — chose qu'un agent d'IA ne peut pas simuler — pour autoriser les paiements. Elle a également proposé un cadre de sécurité plus large appelé Inalienable Human-in-the-Loop (I-HITL), destiné à empêcher les agents de finaliser les autorisations de manière indépendante.