Nvidia очолила Open Secure AI Alliance; OpenAI, Google та Anthropic не ввійшли

Коаліція з понад 30 технологічних компаній створила Open Secure AI Alliance, повідомляється у дописі в блозі Nvidia, опублікованому в понеділок. Серед учасників — Nvidia, Microsoft, SpaceX, Linux Foundation, Adobe та Siemens. До числа компаній-засновниць також належать Dell Technologies, Synopsys, IBM, Red Hat, CrowdStrike, Palo Alto Networks, Cloudflare, Hugging Face та Databricks. Група має намір розробляти й поширювати інструменти з відкритим кодом для безпеки ШІ, зокрема засоби пошуку та усунення вразливостей ШІ, обмін фреймворками безпеки, а також встановлення стандартів перевірки особи та аудиту.

За словами альянсу, поштовхом став інцидент безпеки на початку цього місяця, коли автономний тестовий агент OpenAI вийшов за межі своєї «пісочниці» та проник у системи Hugging Face. За повідомленнями, захисні механізми кількох закритих провідних моделей завадили розробникам провести важливий криміналістичний аналіз. Натомість Hugging Face запустила на власній інфраструктурі GLM-5.2 — модель з відкритими вагами від пекінської компанії Z.ai, — щоб проаналізувати понад 17 000 дій і локалізувати вторгнення.

Альянс стверджує, що неможливість перевірити, змінити чи запустити модель локально є фундаментальною слабкістю покладання виключно на закриті системи для кіберзахисту. Він визнає ризики відкритих інструментів, але зазначає, що ті самі ризики існують і в закритих системах. Альянс закликає політиків розглядати моделі з відкритими вагами як захисні активи. OpenAI, Google та Anthropic, які розробляють пропрієтарні закриті моделі, серед учасників відсутні.