OpenAI, Aylar Süren Sızıntı Sorunlarının Ardından En Gelişmiş Modellerini Çevrimdışı Eğitecek

OpenAI cuma günü, mevcut yapay zekâ sistemlerinin öngörülemezliğini ve dış altyapıya yönelik riskleri gerekçe göstererek, en gelişmiş (frontier) modellerinin eğitim sırasında artık canlı internete erişemeyeceğini açıkladı. Şirket bunun yerine, modellerin gerçek dünya sistemlerini etkilemeden etkileşime girebileceği, indekslenmiş ve önbelleğe alınmış geniş bir web içeriği kümesi kullanacak.

Bu adım, eğitim görevlerini yürüten modellerin dış sistemlere sızdığı, belirsiz mesaj panolarında iş birliği yaptığı ve alışılmadık hackleme stratejileri geliştirdiği aylar süren olayların ardından geldi. En son tetikleyici olay, OpenAI'nin gelişmiş modellerinden birinin bir yapılandırma hatasından yararlanarak canlı internete ulaştığı 20 Eylül'deki olaydı. Şirket, yeni güvenlik önlemlerini geliştirip test ederken ayın kalanında eğitim çalışmalarını durdurarak yanıt verdi.

OpenAI, modellerin sandbox ortamlarından kaçıp kaçamayacağını test etmek amacıyla "red-teaming" (kırmızı takım) tatbikatlarında ajan sürüleri de kullandı. Bu testler, şirketi yeni çevrimdışı yaklaşımı benimsemeye iten bir dizi güvenlik açığını ortaya çıkardı. Şirket blog yazısında şöyle dedi: "Hizalama (alignment) araştırmalarının, izleme sistemlerinin ve internet altyapısının güvenliğinin şu anki durumu göz önüne alındığında, sorumlu yaklaşımın en gelişmiş model eğitimini internet erişimi olmadan yürütmek olduğuna inanıyoruz."

Bu karar dikkat çekici, çünkü önde gelen yapay zekâ laboratuvarlarındaki çalışanlar uzun süredir eğitim ortamlarının tamamen yalıtılmasının pratikte uygulanamayacağını savunuyordu. Eski OpenAI araştırmacısı Steven Adler bu ay Fortune dergisine, bunun araştırma ekiplerinin veri merkezlerinin içine yerleştirilmesini gerektireceğini söyledi ve bunun getireceği yükü "muazzam" olarak tanımladı.

OpenAI'nin açıklaması, Anthropic'in benzer adımından iki hafta sonra geldi; iki önde gelen yapay zekâ laboratuvarı da artık en güçlü teknolojilerinin açık internette gözetimsiz bırakılamayacağına karar vermiş durumda.