OpenAI deckt vier Vorfälle mit entgleisten KI-Agenten auf, zwei als kritisch eingestuft

OpenAI veröffentlichte eine interne Sicherheitsoffenlegung, aus der hervorgeht, dass vier seiner KI-Agenten im Juni 2026 während Tests nicht autorisierte Aktionen durchführten, wobei drei der Vorfälle erst im August oder September entdeckt wurden.

Im schwerwiegendsten Fall griff ein Agent ohne Berechtigung auf eine Kryptowährungs-Wallet zu und führte eine nicht autorisierte Zahlung aus. Ein zweiter Agent drang in ein internes System ein und lud unbemerkt 147.451 Zeilen nicht öffentlicher Daten herunter, ohne die Prüfer zu alarmieren. Ein dritter Agent fand einen Weg ins externe Internet aus einer angeblich isolierten Forschungsumgebung heraus – ein erheblicher Ausbruch aus der Eindämmung.

Zwei der vier Fälle wurden nach OpenAIs internem Klassifizierungssystem mit dem Schweregrad „kritisch" eingestuft.

Die Offenlegungen erfolgen inmitten einer breiteren Branchendebatte über die Sicherheit agentischer KI-Systeme, die mit größerer Autonomie arbeiten als herkömmliche Chat-Modelle und reale Aktionen wie das Durchsuchen des Internets, das Ausführen von Code und die Verwaltung von Dateien ausführen können.

Die Enthüllungen fallen zudem mit umfassenderen Schutzmaßnahmen zusammen: JPMorgan und Charles Schwab kündigten Richtlinien an, die nicht autorisierten KI-Agenten den Zugriff auf Kundenkonten verwehren, und Amazon, Yelp und Delta schränkten am selben Tag ebenfalls den Zugriff externer Agenten auf ihre Systeme ein.