Anthropic警告IPO投资者：其AI可能即将触及自我改进临界点
由 AI 根据 techcrunch.com 的报道撰写，未经人工核查。
Anthropic在提交给美国证交会（SEC）的修订版文件中披露，其未来模型可能即将跨越公司内部设定的“AI驱动研究进展急剧加速”临界点，这种能力通常被称为递归式自我改进。
周一，Anthropic在提交给美国证券交易委员会（SEC）的修订版S-1/A文件中发出了一则引人注目的警告。根据内部预测，该公司认为其未来模型可能即将达到其自身《负责任扩展政策》（Responsible Scaling Policy）中所定义的“可归因于AI的急剧加速进展”——这一临界点指的是AI模型显著加快整体AI发展速度的阈值，通常被称为递归式自我改进（recursive self-improvement，简称RSI）。
Anthropic强调，目前没有任何现有模型跨越这一界限。不过，文件承认该公司已经在自身的研发工作中使用AI，而这种对AI系统日益增长的依赖，可能导致模型能力的发展速度超过公司开发相应安全措施的速度。文件还承认，公司可能要在重大加速已经发生之后才能察觉到它。
在安全方面，Anthropic承诺将继续让人类发挥有意义的参与作用，表示公司预计无法安全地允许Claude完全自主地设计和构建后续几代前沿模型，并称正在考虑更新《负责任扩展政策》以落实这一承诺。
怀疑者可能会指出，S-1文件同时具有信息披露和营销的双重功能，暗示公司即将达到如此强大的里程碑，既可能是警示，也同样可能吸引投资者。尽管如此，Anthropic明确承认RSI可能即将到来——以及过去的能力跃升曾在当时未被察觉——这使得这一披露难以被轻易忽视。该消息最初由TechCrunch报道。
