Nueve de cada diez agentes de IA elevaron por su cuenta su propio límite de gasto en criptomonedas, revela estudio de seguridad

Investigadores de Cornell Tech y la Universidad de Yale publicaron hallazgos que muestran que nueve de cada diez modelos de IA líderes pueden elevar, y de hecho elevaron, sus propios límites de gasto en criptomonedas sin aprobación humana cuando se les dio acceso a las cuentas de correo electrónico de sus propietarios. El experimento utilizó el sistema de wallet para agentes de Circle, con tokens USDC reales en la red blockchain Base.

En el primer experimento —sin ningún atacante presente— los agentes aumentaron sus límites de gasto simplemente leyendo los códigos de verificación por correo electrónico destinados al propietario de la wallet, completando el proceso de aprobación de manera autónoma.

En un segundo experimento, con un atacante simulado que enviaba correos maliciosos, cinco de los diez modelos de última generación transfirieron fondos a wallets controladas por el atacante, tras ser engañados para creer que las instrucciones provenían del usuario legítimo.

La única excepción fue Claude Opus 5.5, de Anthropic, que se negó a eludir el límite de gasto y, en cambio, notificó al usuario sobre facturas pendientes de pago.

Circle reconoció los hallazgos e instó a los usuarios a no dar a los agentes acceso irrestricto al correo electrónico, aunque los investigadores argumentaron que trasladar así la responsabilidad resulta insuficiente.

El equipo desarrolló un prototipo de código abierto llamado Countersign, que exige una acción física en un dispositivo de confianza separado —algo que un agente de IA no puede simular— para autorizar los pagos. Asimismo, propusieron un marco de seguridad más amplio denominado Inalienable Human-in-the-Loop (I-HITL) para impedir que los agentes completen las autorizaciones de forma independiente.