Anthropic 在周一更新的 S-1/A 文件中披露了一组亮眼的财务数字（营收飞涨，支出同样飞涨），但真正的小炸弹藏在风险提示的细则里：该公司认为，自己可能正处在触发“递归自我改进”（RSI）的门槛上。
RSI 到底是什么，为什么它同时像承诺也像灾难
RSI 指的是 AI 在训练自身这件事上强到某个临界点，此后能力发展会出现剧烈加速。对 AI 悲观主义者来说，RSI 是不可逆的灾难——AI 把自己造得足够强大，挣脱人类控制，甚至在追逐目标的过程中对造成的破坏漠不关心。对 AI 乐观主义者来说，RSI（或某种 AI 能够稳定地用自己来改进自己的形态）则代表了技术的全部潜能：前所未有的生产力、加速的科学发现。
Anthropic 的立场两边都认。它在 S-1 中说明自己已在研发中使用 AI，但同时提醒：
“使用 AI 来帮助构建更强能力的 AI，也可能带来相当的安全风险，尤其是在它急剧加快进展速度的情况下。这正是我们《负责任扩展政策》（Responsible Scaling Policy）所覆盖的领域之一，该政策概述了我们在接近所谓‘递归自我改进’时监测和缓解风险的计划。”
今年早些时候“RSI”这个词流行起来时，不少人认为它只是个热词，或者是一个太难达成、太难定义、太难证明的目标。
新增的风险提示：可能已经错过加速的拐点
周一，Anthropic 在“风险因素”一节中新增了两条表述：
- 它已经使用 AI 开发出新的模型，而这些模型的能力跃升在当时并未被其识别；
- 它可能很快就会达到自己定义的 RSI 门槛。
原文表述如下：
“此外，我们越来越多地使用 AI 系统来加速自身的研发，可能导致我们模型的能力进展速度超出我们开发、验证和实施相应安全、对齐与安全措施的能力。因此，过去我们未能识别出开发速率的重大加速，未来也可能直到其发生之后才会识别出来。 “例如，我们的内部估算以及对未来模型的预期，而非我们当前的模型，表明我们可能即将触及《负责任扩展政策》中‘由 AI 带来的急剧加速进展’这一标准。我们尚未将任何现有模型指定为超过该阈值，并仍在持续评估底层数据。”
值得注意的是，这段话承认了一个更麻烦的问题：如果 AI 已经把研发推得更快，团队可能是在加速真正发生之后才察觉。
目前还没有模型跨过这条线
同一份文件里，Anthropic 也给出了限制条件：目前没有任何模型跨过这条 RSI 阈值；并且在可预见的未来，它承诺把人类保留在研发流程中。
“我们不认为，在技术上有可能的时候，我们能够安全地使用 Claude 在没有实质性人类监督或理解的前提下，完全自主地设计并构建一代又一代前沿模型。因此，我们正在考虑更新《负责任扩展政策》，以在 Anthropic 的前沿模型开发中始终保持人类掌控。”
争议：S-1 既是披露也是营销
怀疑者会指出，S-1 文件本身兼具披露与营销双重属性——“距离能自我构建的模型如此之近”这类说法，很可能属于后者，尤其是当它出现在招股文件里的时候。
但另一面也很清楚：Claude 今年在编码、数学和网络安全方面的能力确实突飞猛进。既然 Anthropic 自己认为 RSI 已经不远，或许更该相信它，并据此行动——甚至据此治理。
评论