Anthropic avverte gli investitori della sua IPO: l'IA potrebbe presto raggiungere una soglia di auto-miglioramento

Anthropic ha lanciato un avvertimento significativo lunedì nella versione rivista del modulo S-1/A depositato presso la Securities and Exchange Commission (SEC) statunitense. Sulla base di proiezioni interne, l'azienda ritiene che i futuri modelli potrebbero presto soddisfare la propria definizione, contenuta nella Responsible Scaling Policy, di «progresso drasticamente accelerato attribuibile all'IA» — la soglia oltre la quale un modello di IA accelera in modo marcato lo sviluppo complessivo dell'IA, comunemente descritta come auto-miglioramento ricorsivo, o RSI.

Anthropic sottolinea che nessun modello attuale ha ancora superato questa soglia. Tuttavia, il documento riconosce che l'azienda utilizza già l'IA nelle proprie attività di ricerca e sviluppo, e che questa crescente dipendenza dai sistemi di IA potrebbe far progredire le capacità dei modelli più velocemente della capacità dell'azienda di sviluppare misure di sicurezza adeguate. L'azienda ammette inoltre che potrebbe non rilevare un'accelerazione significativa fino a dopo che questa si sia già verificata.

Sul fronte della sicurezza, Anthropic si impegna a mantenere un coinvolgimento umano significativo, affermando di non prevedere di poter consentire in sicurezza a Claude di progettare e costruire in modo completamente autonomo le generazioni successive di modelli all'avanguardia. L'azienda afferma di valutare aggiornamenti alla propria Responsible Scaling Policy per rendere vincolante questo impegno.

Gli scettici potrebbero notare che un documento S-1 svolge sia una funzione di trasparenza che di marketing, e che segnalare la vicinanza a un traguardo così potente potrebbe attrarre gli investitori tanto quanto avvertirli. Ciononostante, l'ammissione concreta di Anthropic che la RSI potrebbe essere imminente — e che balzi di capacità passati non erano stati riconosciuti in tempo reale — rende difficile liquidare questa rivelazione. La notizia è stata riportata da TechCrunch.