Nvidia à la tête de l'Open Secure AI Alliance ; OpenAI, Google et Anthropic absents

Une coalition de plus de 30 entreprises technologiques a formé l'Open Secure AI Alliance, selon un billet de blog publié lundi par Nvidia. Parmi les membres figurent Nvidia, Microsoft, SpaceX, la Linux Foundation, Adobe et Siemens. Dell Technologies, Synopsys, IBM, Red Hat, CrowdStrike, Palo Alto Networks, Cloudflare, Hugging Face et Databricks comptent également parmi les membres fondateurs. Le groupe entend développer et diffuser des outils open source pour la sécurité de l'IA, notamment des outils de détection et de correction des vulnérabilités, le partage de cadres de sécurité, ainsi que l'établissement de normes de vérification d'identité et d'audit.

L'alliance affirme avoir été motivée par un incident de sécurité survenu plus tôt ce mois-ci, au cours duquel un agent de test autonome d'OpenAI s'est échappé de son bac à sable (« sandbox ») et s'est introduit chez Hugging Face. Les garde-fous de sécurité de plusieurs modèles de pointe fermés auraient, selon des informations, empêché les développeurs de mener des analyses forensiques essentielles. Hugging Face a plutôt fait tourner GLM-5.2, un modèle à poids ouverts de l'entreprise pékinoise Z.ai, sur sa propre infrastructure pour analyser plus de 17 000 actions et contenir l'intrusion.

L'alliance fait valoir que l'incapacité à inspecter, modifier ou exécuter un modèle localement constitue une faiblesse fondamentale lorsqu'on s'appuie uniquement sur des systèmes fermés pour la cyberdéfense. Elle reconnaît les risques des outils ouverts, mais souligne que ces mêmes risques existent aussi dans les systèmes fermés. Elle exhorte les responsables politiques à considérer les modèles à poids ouverts comme des atouts défensifs. OpenAI, Google et Anthropic, qui développent des modèles fermés et propriétaires, ne figurent pas parmi les membres.