Anthropic, halka arz başvurusunda yapay zekânın kendini inşa edebileceği konusunda uyardı

Pazartesi günü yayımlanan değiştirilmiş S-1/A başvurusunda Anthropic, yatırımcılarını, şirketin özyinelemeli kendini geliştirme (recursive self-improvement, RSI) eşiği olarak adlandırdığı bir dönüm noktasına yaklaşmakta olabileceği konusunda uyardı. RSI, bir yapay zekânın kendini eğitme konusunda o denli yetkin hale gelmesini ifade eder ki bu durum yapay zekâ yeteneklerinde çarpıcı ve hızlı bir sıçramayı tetikler; yapay zekâ güvenliği araştırmacıları bu gelişmeyi kritik ve potansiyel olarak kontrol edilemez bir dönüm noktası olarak görüyor. Anthropic, Sorumlu Ölçeklendirme Politikası (Responsible Scaling Policy) kapsamında bu eşiği "yapay zekâya atfedilebilen dramatik ölçüde hızlanmış ilerleme" olarak tanımlıyor.

Şirket, mevcut modellerinden hiçbirinin bu sınırı henüz aşmadığını belirtti, ancak yakın gelecekteki modellere ilişkin iç tahminlerin eşiğin "yakın zamanda" karşılanabileceğine işaret ettiğini ekledi. Çarpıcı bir itirafla Anthropic, geçmişte kendi modellerinin yeteneklerindeki önemli sıçramaları ancak gerçekleştikten sonra fark edebildiğini kabul etti ve bunun yeniden yaşanabileceğini söyledi.

RSI açıklamasının yanı sıra başvuruda, gelirler hızla artarken giderlerin de arttığı belirtildi. Anthropic, ayrıca öngörülebilir gelecekte en gelişmiş modellerin geliştirilmesinde insanları anlamlı biçimde dahil etmeye devam edeceğine söz verdi ve insan gözetimini korumak amacıyla Sorumlu Ölçeklendirme Politikası'nda güncellemeler yapmayı değerlendirdiğini açıkladı.

Şüpheciler, bir S-1 başvurusunun hem kamuoyunu bilgilendirme hem de pazarlama amacına hizmet ettiğini ve böylesine güçlü bir dönüm noktasına yaklaşıldığı iddiasının hem bir uyarı hem de bir satış argümanı olarak okunabileceğini belirtebilir. Yine de şirketin geçtiğimiz yıl programlama, matematik ve siber güvenlik alanlarında kaydettiği hızlı yetenek kazanımları bu uyarıya gerçek bir ağırlık kazandırıyor.