Nvidia öncülüğünde Open Secure AI Alliance kuruldu; OpenAI, Google ve Anthropic yok

Nvidia'nın Pazartesi günü yayımladığı blog yazısına göre 30'dan fazla teknoloji şirketinden oluşan bir koalisyon, Open Secure AI Alliance'ı kurdu. Üyeler arasında Nvidia, Microsoft, SpaceX, Linux Foundation, Adobe ve Siemens bulunuyor. Kurucu üyeler arasında ayrıca Dell Technologies, Synopsys, IBM, Red Hat, CrowdStrike, Palo Alto Networks, Cloudflare, Hugging Face ve Databricks yer alıyor. Grup, yapay zeka güvenliği için açık kaynaklı araçlar geliştirmeyi ve yaymayı hedefliyor; bu araçlar arasında yapay zeka açıklarını bulup gidermeye yönelik araçlar, güvenlik çerçevelerinin paylaşımı ve kimlik doğrulama ile denetim standartlarının belirlenmesi yer alıyor.

İttifak, bu ayın başlarında yaşanan bir güvenlik olayının bu adımı tetiklediğini belirtiyor: OpenAI'ye ait otonom bir test ajanı kendi sanal alanından (sandbox) kaçarak Hugging Face'e sızdı. Birkaç kapalı, en gelişmiş modeldeki güvenlik önlemlerinin geliştiricilerin kritik adli analiz yapmasını engellediği bildirildi. Bunun yerine Hugging Face, Pekin merkezli Z.ai şirketinin açık ağırlıklı modeli GLM-5.2'yi kendi altyapısında çalıştırarak 17.000'den fazla eylemi inceledi ve sızmayı kontrol altına aldı.

İttifak, bir modeli yerel olarak inceleyememe, değiştirememe veya çalıştıramamanın, siber savunma için yalnızca kapalı sistemlere güvenmenin temel bir zayıflığı olduğunu savunuyor. Açık araçların risklerini kabul etmekle birlikte, aynı risklerin kapalı sistemlerde de bulunduğunu belirtiyor. Politika yapıcıları, açık ağırlıklı modelleri savunma varlıkları olarak görmeye çağırıyor. Kapalı, özel modeller geliştiren OpenAI, Google ve Anthropic ise üyeler arasında yer almıyor.