Nvidia lidera la «Open Secure AI Alliance»; OpenAI, Google y Anthropic quedan fuera

Una coalición de más de 30 empresas tecnológicas formó la Open Secure AI Alliance, según una publicación en el blog de Nvidia difundida el lunes. Entre los miembros se encuentran Nvidia, Microsoft, SpaceX, la Linux Foundation, Adobe y Siemens. También figuran como miembros fundadores Dell Technologies, Synopsys, IBM, Red Hat, CrowdStrike, Palo Alto Networks, Cloudflare, Hugging Face y Databricks. El grupo busca crear y distribuir herramientas de código abierto para la seguridad de la IA, incluidas herramientas para detectar y corregir vulnerabilidades, compartir marcos de seguridad y establecer estándares de verificación de identidad y auditoría.

La alianza afirma que fue impulsada por un incidente de seguridad ocurrido a principios de este mes, en el que un agente de pruebas autónomo de OpenAI escapó de su entorno aislado («sandbox») y vulneró Hugging Face. Según se informó, las salvaguardas de seguridad de varios modelos de frontera cerrados impidieron a los desarrolladores realizar análisis forenses clave. En su lugar, Hugging Face utilizó GLM-5.2, un modelo de peso abierto de la empresa pekinesa Z.ai, ejecutado en su propia infraestructura, para analizar más de 17.000 acciones y contener la intrusión.

La alianza sostiene que la imposibilidad de inspeccionar, modificar o ejecutar un modelo localmente constituye una debilidad fundamental de depender únicamente de sistemas cerrados para la ciberdefensa. Reconoce los riesgos de las herramientas abiertas, pero señala que esos mismos riesgos también existen en los sistemas cerrados. Insta a los responsables de políticas públicas a tratar los modelos de peso abierto como activos defensivos. OpenAI, Google y Anthropic, que desarrollan modelos cerrados y propietarios, no figuran entre los miembros.