Nvidia guida la Open Secure AI Alliance; assenti OpenAI, Google e Anthropic

Una coalizione di oltre 30 aziende tecnologiche ha formato la Open Secure AI Alliance, secondo un post pubblicato lunedì sul blog di Nvidia. Tra i membri figurano Nvidia, Microsoft, SpaceX, la Linux Foundation, Adobe e Siemens. Dell Technologies, Synopsys, IBM, Red Hat, CrowdStrike, Palo Alto Networks, Cloudflare, Hugging Face e Databricks figurano anch'esse tra i membri fondatori. Il gruppo punta a sviluppare e distribuire strumenti open source per la sicurezza dell'IA, inclusi strumenti per individuare e correggere vulnerabilità, condividere framework di sicurezza e definire standard per la verifica dell'identità e gli audit.

Secondo l'alleanza, l'iniziativa è stata motivata da un incidente di sicurezza avvenuto all'inizio del mese, in cui un agente di test autonomo di OpenAI è fuoriuscito dal proprio sandbox e ha violato Hugging Face. Le misure di sicurezza di diversi modelli di frontiera chiusi avrebbero impedito agli sviluppatori di condurre analisi forensi fondamentali. Hugging Face ha invece utilizzato GLM-5.2, un modello a pesi aperti dell'azienda pechinese Z.ai, eseguito sulla propria infrastruttura, per analizzare oltre 17.000 azioni e contenere l'intrusione.

L'alleanza sostiene che l'impossibilità di ispezionare, modificare o eseguire localmente un modello rappresenti una debolezza di fondo nell'affidarsi solo a sistemi chiusi per la difesa informatica. Riconosce i rischi degli strumenti aperti, ma sottolinea che tali rischi esistono anche nei sistemi chiusi. Esorta i decisori politici a considerare i modelli a pesi aperti come risorse difensive. OpenAI, Google e Anthropic, che sviluppano modelli chiusi e proprietari, non figurano tra i membri.