Anthropic在IPO申请文件中警告：AI或将很快具备自我构建的能力
由 AI 根据 techcrunch.com 的报道撰写，未经人工核查。
Anthropic在更新的IPO申请文件中披露，其未来的模型可能「即将」跨越递归式自我改进的门槛——这是AI加速自身发展的速度超过人类评估能力的临界点。
在周一公布的经修订的S-1/A申请文件中，Anthropic警告投资者，公司可能正接近其所称的「递归式自我改进」（recursive self-improvement，简称RSI）门槛。RSI指的是AI具备自我训练能力、以至于引发AI能力急剧且迅速加速提升的临界点——AI安全研究人员将这一发展视为关键且可能无法控制的转折点。根据其《负责任扩展政策》（Responsible Scaling Policy），Anthropic将这一门槛定义为「可归因于AI的急剧加速进展」。
该公司表示，目前尚无任何模型跨越这一界限，但补充说，其对近期未来模型的内部预测显示，这一门槛「可能即将」被达到。令人瞠目的是，Anthropic承认此前曾未能及时察觉自身模型能力的重大飞跃，往往是事后才发现，并表示类似情况可能再次发生。
除了有关RSI的披露外，该申请文件还指出，公司营收迅猛增长的同时，支出也在攀升。Anthropic还承诺，在可预见的未来将继续让人类有意义地参与前沿模型的开发，并表示正考虑更新其《负责任扩展政策》，以维持人类监督。
持怀疑态度的人可能会指出，S-1申请文件兼具信息披露和营销功能，而关于即将逼近如此重大里程碑的说法，既可以被解读为警示，也可以被解读为一种营销卖点。尽管如此，该公司过去一年在编程、数学和网络安全方面的快速能力提升，使这一警告具有真实的说服力。
