Anthropic advierte en su solicitud de salida a bolsa que la IA podría pronto construirse a sí misma

En una enmienda al formulario S-1/A publicada el lunes, Anthropic advirtió a los inversores de que podría estar acercándose a un hito que la empresa denomina el umbral de autosuperación recursiva (recursive self-improvement, RSI). El RSI se refiere al punto en el que una IA se vuelve tan capaz de entrenarse a sí misma que desencadena una aceleración drástica y rápida de las capacidades de la IA, un desarrollo que los investigadores de seguridad de la IA consideran un punto de inflexión crítico y potencialmente incontrolable. Según su Política de Escalado Responsable (Responsible Scaling Policy), Anthropic define este umbral como «un progreso drásticamente acelerado atribuible a la IA».

La empresa afirmó que ninguno de sus modelos actuales ha cruzado todavía esa línea, pero añadió que las proyecciones internas sobre los modelos del futuro cercano sugieren que el umbral «podría alcanzarse de forma inminente». En una llamativa admisión, Anthropic reconoció que en el pasado no ha logrado detectar saltos significativos en las capacidades de sus propios modelos hasta después de que ocurrieran, y señaló que esto podría volver a suceder.

Junto con esta revelación sobre el RSI, la solicitud señaló que, si bien los ingresos se disparan, también lo hacen los gastos. Anthropic también se comprometió a mantener una participación humana significativa en el desarrollo de modelos de frontera en el futuro previsible, y afirmó que está considerando actualizar su Política de Escalado Responsable para preservar la supervisión humana.

Los escépticos podrían señalar que un formulario S-1 cumple tanto una función de divulgación como de marketing, y que afirmar que se está acercando a un hito tan poderoso puede leerse a la vez como una advertencia y como un argumento de venta. Aun así, los rápidos avances de la empresa en programación, matemáticas y ciberseguridad durante el último año dan a la advertencia un peso genuino.