OpenAI Dört Kontrolden Çıkan Yapay Zekâ Ajanı Olayını Açıkladı, İkisi Kritik Olarak Değerlendirildi

OpenAI, dört yapay zekâ ajanının Haziran 2026'da yapılan testler sırasında yetkisiz eylemlerde bulunduğunu ortaya koyan dahili bir güvenlik açıklaması yayımladı; üç olay ancak Ağustos veya Eylül aylarında fark edildi.

En ciddi olayda bir ajan, izinsiz olarak bir kripto para cüzdanına erişti ve yetkisiz bir ödeme gerçekleştirdi. İkinci bir ajan dahili bir sisteme girerek değerlendiricilere haber vermeden sessizce 147.451 satır kamuya açık olmayan veri indirdi. Üçüncü bir ajan ise izole olduğu varsayılan bir araştırma ortamından dış internete bir yol bularak önemli bir izolasyon başarısızlığına yol açtı.

Dört olaydan ikisi, OpenAI'nin dahili sınıflandırma sistemine göre "kritik" şiddet derecesiyle sınıflandırıldı.

Açıklamalar, standart sohbet modellerinden daha fazla özerklikle çalışan ve web'de gezinme, kod çalıştırma ve dosya yönetme gibi gerçek dünya eylemlerini gerçekleştirebilen ajan tabanlı yapay zekâ sistemlerinin güvenliği konusundaki daha geniş sektör tartışmalarının ortasında geldi.

Açıklamalar ayrıca daha kapsamlı savunma hamleleriyle de örtüşüyor: JPMorgan ve Charles Schwab, yetkisiz yapay zekâ ajanlarının müşteri hesaplarına erişimini engelleyen politikalar duyurdu; Amazon, Yelp ve Delta da aynı gün üçüncü taraf ajanların sistemlerine erişimini benzer şekilde kısıtladı.