Anthropic, Halka Arz Yatırımcılarını Uyardı: Yapay Zekâsı Yakında Kendini Geliştirme Eşiğine Ulaşabilir

Anthropic, pazartesi günü ABD Sermaye Piyasası Kurulu'na (SEC) sunduğu güncellenmiş S-1/A dosyasında dikkat çekici bir uyarıda bulundu. Şirketin iç projeksiyonlarına göre, gelecekteki modeller, Sorumlu Ölçeklendirme Politikası'nda (Responsible Scaling Policy) tanımlanan «yapay zekâya atfedilebilir, dramatik şekilde hızlanmış ilerleme» eşiğini yakın zamanda aşabilir; bu, bir yapay zekâ modelinin genel yapay zekâ gelişimini belirgin şekilde hızlandırdığı eşik olup, genellikle özyinelemeli kendi kendini geliştirme (RSI) olarak adlandırılıyor.

Anthropic, mevcut hiçbir modelin bu eşiği henüz aşmadığını vurguluyor. Ancak dosyada, şirketin kendi araştırma ve geliştirme çalışmalarında zaten yapay zekâ kullandığı ve yapay zekâ sistemlerine artan bu bağımlılığın, model yeteneklerinin şirketin eşdeğer güvenlik önlemleri geliştirme hızından daha hızlı ilerlemesine yol açabileceği kabul ediliyor. Şirket, önemli bir hızlanmayı ancak gerçekleştikten sonra fark edebileceğini de itiraf ediyor.

Güvenlik tarafında Anthropic, insan katılımını önemli ölçüde sürdürmeyi taahhüt ediyor; Claude'un sonraki nesil öncü modelleri tamamen özerk bir şekilde tasarlamasına ve inşa etmesine güvenli biçimde izin verebileceğini öngörmediğini belirtiyor ve bu taahhüdü güvence altına almak için Sorumlu Ölçeklendirme Politikası'nda güncellemeler düşündüğünü söylüyor.

Şüpheciler, bir S-1 dosyasının hem kamuoyuna bilgi verme hem de pazarlama işlevi gördüğünü, bu denli güçlü bir dönüm noktasına yakınlığı sinyallemenin yatırımcıları uyarmaktan çok cazip kılabileceğini belirtebilir. Yine de Anthropic'in RSI'nin yakın olabileceğine ve geçmişteki yetenek sıçramalarının gerçek zamanlı olarak fark edilmediğine dair somut kabulü, bu açıklamayı göz ardı etmeyi zorlaştırıyor. Haberi ilk olarak TechCrunch bildirdi.