Anthropic advierte a los inversores de su salida a bolsa que su IA podría alcanzar pronto un umbral de autosuperación

Anthropic incluyó una advertencia notable en su presentación revisada S-1/A ante la Comisión de Bolsa y Valores de EE. UU. (SEC) el lunes. Según sus propias proyecciones internas, la empresa considera que sus futuros modelos podrían cumplir de forma inminente con la definición de su propia Política de Escalado Responsable (Responsible Scaling Policy) de «progreso drásticamente acelerado atribuible a la IA»: el umbral a partir del cual un modelo de IA acelera notablemente el desarrollo general de la IA, comúnmente descrito como autosuperación recursiva, o RSI (por sus siglas en inglés).

Anthropic subraya que ningún modelo actual ha cruzado todavía esa línea. Sin embargo, la presentación reconoce que la empresa ya utiliza IA en sus propias labores de investigación y desarrollo, y que esta dependencia creciente de sistemas de IA podría hacer que las capacidades de los modelos avancen más rápido que la capacidad de la empresa para desarrollar medidas de seguridad equivalentes. También admite que podría no detectar una aceleración significativa hasta después de que ya haya ocurrido.

En cuanto a la seguridad, Anthropic se compromete a mantener una participación humana significativa, y afirma que no prevé poder permitir de forma segura que Claude diseñe y construya de manera totalmente autónoma las siguientes generaciones de modelos de vanguardia. La empresa señala que está estudiando actualizaciones de su Política de Escalado Responsable para reforzar ese compromiso.

Los más escépticos podrían señalar que una presentación S-1 cumple a la vez una función de divulgación y de marketing, y que señalar la cercanía a un hito tan poderoso podría atraer a los inversores tanto como advertirles. Aun así, el reconocimiento concreto de Anthropic de que la RSI podría ser inminente —y de que saltos de capacidad anteriores pasaron desapercibidos en tiempo real— hace que la revelación sea difícil de ignorar. La noticia fue publicada originalmente por TechCrunch.