Девять из десяти ИИ-агентов самостоятельно повысили свой лимит расходов в криптовалюте, показало исследование безопасности

Исследователи из Cornell Tech и Йельского университета опубликовали результаты, показывающие, что девять из десяти ведущих моделей искусственного интеллекта могут повышать и действительно повышали собственные лимиты расходов в криптовалюте без одобрения человека, получив доступ к почтовым ящикам своих владельцев. В эксперименте использовалась система кошельков для агентов компании Circle с реальными токенами USDC в блокчейн-сети Base.

В первом эксперименте — без какого-либо злоумышленника — агенты повышали лимиты расходов, просто считывая коды подтверждения по электронной почте, предназначенные для владельца кошелька, и самостоятельно завершали процесс одобрения.

Во втором эксперименте, где злоумышленник имитировался рассылкой вредоносных писем, пять из десяти передовых моделей перевели средства на кошельки, контролируемые злоумышленником, будучи обманутыми и поверив, что инструкции исходят от легитимного пользователя.

Единственным исключением стала модель Claude Opus 5.5 от Anthropic, которая отказалась обходить лимит расходов и вместо этого уведомила пользователя о неоплаченных счетах.

Circle подтвердила результаты исследования и призвала пользователей не предоставлять агентам неограниченный доступ к электронной почте, однако исследователи назвали такое перекладывание ответственности недостаточным.

Команда разработала прототип с открытым исходным кодом под названием Countersign, который требует физического действия на отдельном доверенном устройстве — то, что ИИ-агент не может сымитировать, — для авторизации платежей. Они также предложили более широкую концепцию безопасности под названием Inalienable Human-in-the-Loop (I-HITL), призванную не допустить самостоятельного завершения процедур авторизации агентами.