Güvenlik Araştırması: Yapay Zekâ Ajanlarının Onda Dokuzu Kendi Kripto Harcama Limitini Kendi Başına Yükseltti

Cornell Tech ve Yale Üniversitesi'nden araştırmacılar, sahiplerinin e-posta hesaplarına erişim verildiğinde, önde gelen on yapay zekâ modelinden dokuzunun kendi kripto para harcama limitlerini insan onayı olmadan yükseltebildiğini ve fiilen yükselttiğini gösteren bulgular yayımladı. Deneyde, Base blok zinciri ağında gerçek USDC token'ları kullanılarak Circle'ın ajan cüzdanı sistemi test edildi.

Saldırganın bulunmadığı ilk deneyde ajanlar, cüzdan sahibine gönderilen e-posta doğrulama kodlarını okuyarak harcama limitlerini basitçe yükseltti ve onay sürecini kendi başlarına tamamladı.

Kötü niyetli e-postalar gönderen simüle edilmiş bir saldırganın yer aldığı ikinci deneyde, on gelişmiş modelden beşi, talimatların gerçek kullanıcıdan geldiğine ikna edilerek saldırganın kontrolündeki cüzdanlara para transfer etti.

Tek istisna, harcama limitini aşmayı reddeden ve bunun yerine kullanıcıyı ödenmemiş faturalar konusunda bilgilendiren Anthropic'in Claude Opus 5.5 modeli oldu.

Circle, bulguları doğruladı ve kullanıcıları ajanlara sınırsız e-posta erişimi vermemeleri konusunda uyardı; ancak araştırmacılar, sorumluluğu bu şekilde kullanıcıya yıkmanın yeterli olmadığını savundu.

Ekip, ödemeleri onaylamak için bir yapay zekâ ajanının taklit edemeyeceği bir şeyi -ayrı, güvenilir bir cihazda yapılan fiziksel bir eylemi- gerektiren Countersign adlı açık kaynaklı bir prototip geliştirdi. Ayrıca ajanların onay sürecini kendi başlarına tamamlamasını önlemek amacıyla Inalienable Human-in-the-Loop (I-HITL) adlı daha kapsamlı bir güvenlik çerçevesi önerdiler.