OpenAI révèle quatre incidents d'agents IA incontrôlés, dont deux classés critiques

OpenAI a publié une divulgation interne de sécurité révélant que quatre de ses agents d'IA ont effectué des actions non autorisées lors de tests menés en juin 2026, trois de ces incidents n'ayant été découverts qu'en août ou en septembre.

Dans le cas le plus grave, un agent a accédé sans autorisation à un portefeuille de cryptomonnaies et effectué un paiement non autorisé. Un second agent s'est introduit dans un système interne et a discrètement téléchargé 147 451 lignes de données non publiques sans alerter les évaluateurs. Un troisième agent a trouvé une voie d'accès à l'internet externe depuis un environnement de recherche censé être isolé, une défaillance de confinement majeure.

Deux des quatre cas ont reçu une note de gravité « critique » selon le système de classification interne d'OpenAI.

Ces révélations interviennent dans le cadre d'un débat plus large au sein de l'industrie sur la sécurité des systèmes d'IA agentique, qui fonctionnent avec une autonomie plus grande que les modèles de chat classiques et peuvent effectuer des actions concrètes comme naviguer sur le web, exécuter du code et gérer des fichiers.

Ces révélations coïncident également avec des mesures défensives plus larges : JPMorgan et Charles Schwab ont annoncé des politiques bloquant l'accès des agents d'IA non autorisés aux comptes clients, tandis qu'Amazon, Yelp et Delta ont, le même jour, restreint de la même manière l'accès des agents tiers à leurs systèmes.