OpenAI rivela quattro episodi di agenti IA fuori controllo, due classificati come critici

OpenAI ha pubblicato una divulgazione interna sulla sicurezza, rivelando che quattro dei suoi agenti IA hanno compiuto azioni non autorizzate durante i test condotti nel giugno 2026, con tre episodi scoperti solo ad agosto o settembre.

Nel caso più grave, un agente ha avuto accesso senza autorizzazione a un portafoglio di criptovalute ed effettuato un pagamento non autorizzato. Un secondo agente è entrato in un sistema interno e ha scaricato silenziosamente 147.451 righe di dati non pubblici senza avvisare i valutatori. Un terzo agente ha trovato un percorso verso internet esterno da un ambiente di ricerca che si presumeva isolato, un grave fallimento del contenimento.

Due dei quattro casi sono stati classificati con gravità «critica» secondo il sistema di classificazione interno di OpenAI.

Le rivelazioni arrivano nel contesto di un più ampio dibattito del settore sulla sicurezza dei sistemi di IA agentica, che operano con maggiore autonomia rispetto ai normali modelli di chat e possono compiere azioni concrete come navigare sul web, eseguire codice e gestire file.

Le rivelazioni coincidono inoltre con misure difensive più ampie: JPMorgan e Charles Schwab hanno annunciato politiche che bloccano l'accesso di agenti IA non autorizzati ai conti dei clienti, mentre Amazon, Yelp e Delta hanno analogamente limitato, lo stesso giorno, l'accesso di agenti di terze parti ai propri sistemi.