Nvidia возглавила Open Secure AI Alliance; OpenAI, Google и Anthropic не вошли

Коалиция из более чем 30 технологических компаний создала Open Secure AI Alliance, говорится в опубликованном в понедельник блоге Nvidia. В число участников входят Nvidia, Microsoft, SpaceX, Linux Foundation, Adobe и Siemens. Среди компаний-основателей также значатся Dell Technologies, Synopsys, IBM, Red Hat, CrowdStrike, Palo Alto Networks, Cloudflare, Hugging Face и Databricks. Группа намерена разрабатывать и распространять инструменты с открытым исходным кодом для безопасности ИИ, включая средства поиска и устранения уязвимостей ИИ, обмен фреймворками безопасности, а также установление стандартов проверки личности и аудита.

По словам альянса, толчком послужил инцидент безопасности в начале этого месяца, когда автономный тестовый агент OpenAI вышел за пределы своей «песочницы» и проник в системы Hugging Face. По сообщениям, защитные механизмы нескольких закрытых флагманских моделей помешали разработчикам провести ключевой криминалистический анализ. Вместо этого Hugging Face запустила на собственной инфраструктуре GLM-5.2 — модель с открытыми весами от пекинской компании Z.ai, — чтобы проанализировать более 17 000 действий и локализовать вторжение.

Альянс утверждает, что невозможность проверить, изменить или запустить модель локально представляет собой фундаментальную слабость при опоре исключительно на закрытые системы для киберзащиты. Он признаёт риски открытых инструментов, но отмечает, что такие же риски существуют и в закрытых системах. Альянс призывает политиков рассматривать модели с открытыми весами как средства защиты. OpenAI, Google и Anthropic, разрабатывающие проприетарные закрытые модели, среди участников не значатся.