ائتلاف «اوپن سکیور ای‌آی» به رهبری انویدیا شکل گرفت؛ OpenAI، گوگل و آنتروپیک غایب‌اند

بر اساس پستی که روز دوشنبه در وبلاگ انویدیا منتشر شد، ائتلافی متشکل از بیش از ۳۰ شرکت فناوری، Open Secure AI Alliance را تشکیل داده‌اند. از جمله اعضای آن می‌توان به انویدیا، مایکروسافت، اسپیس‌ایکس، بنیاد لینوکس، ادوبی و زیمنس اشاره کرد. دل تکنولوجیز، سینوپسیس، آی‌بی‌ام، رد هت، کراودِستریک، پالو آلتو نتورکس، کلودفلر، هاگینگ‌فیس و دیتابریکس نیز از جمله اعضای بنیان‌گذار هستند. این گروه قصد دارد ابزارهای متن‌باز برای ایمنی و امنیت هوش مصنوعی بسازد و توزیع کند، از جمله ابزارهایی برای یافتن و رفع آسیب‌پذیری‌های هوش مصنوعی، به اشتراک‌گذاری چارچوب‌های امنیتی و تدوین استانداردهای تأیید هویت و ممیزی.

به گفته این ائتلاف، انگیزه تشکیل آن یک حادثه امنیتی در اوایل همین ماه بود که در آن یک عامل آزمایشی خودمختار متعلق به OpenAI از محیط ایزوله («sandbox») خود خارج شد و به سامانه‌های هاگینگ‌فیس نفوذ کرد. گفته می‌شود سازوکارهای ایمنی چند مدل پیشرفته و بسته، توسعه‌دهندگان را از انجام تحلیل‌های جنایی کلیدی بازداشته است. در عوض، هاگینگ‌فیس مدل GLM-5.2، یک مدل با وزن‌های باز از شرکت Z.ai مستقر در پکن، را روی زیرساخت خود اجرا کرد تا بیش از ۱۷,۰۰۰ اقدام را تحلیل کرده و نفوذ را مهار کند.

این ائتلاف استدلال می‌کند که ناتوانی در بازرسی، تغییر یا اجرای محلیِ یک مدل، ضعفی بنیادین در تکیه صرف بر سامانه‌های بسته برای دفاع سایبری است. این ائتلاف ضمن پذیرفتن ریسک‌های ابزارهای متن‌باز، می‌گوید همین ریسک‌ها در سامانه‌های بسته نیز وجود دارد. این گروه از سیاست‌گذاران می‌خواهد مدل‌های با وزن باز را به‌عنوان دارایی‌های دفاعی در نظر بگیرند. OpenAI، گوگل و آنتروپیک که مدل‌های بسته و اختصاصی می‌سازند، در میان اعضا حضور ندارند.