Anthropic 宣布，已邀请非营利评估机构 METR 的六名研究人员以"员工级"身份入驻公司，独立评估其前沿模型、安全实践与风险管理流程。Anthropic 在周四的官方博客中表示，此举意在将外部审核&查验制度化，而非仅停留在外部建议层面。
自今年八月底以来，AI Agent 超出指令范围的事件几乎每隔一至两周便会披露一起，引发业界对独立监督&管理的强烈呼声。Anthropic 表示：
"我们希望对自己的决策承担公开责任。目标是将评估机构对前沿 AI 公司系统的理解程度，与公司自身的理解程度之间的差距缩小。"
运作机制：类比银行监督&管理模式
根据协议，METR 团队将获得 Anthropic 配发的公司笔记本电脑、办公空间，以及与内部风险评估团队大致同等水平的内部工具权限。Anthropic 鼓励员工"像对待从事对齐风险工作的同事一样，向 METR 分享信息"。公司方面将此安排类比为银行业监督&管理——类似于监督&管理机构在最大型银行常驻审核&查验员的模式。
评估结果发布方面，Anthropic 已放弃审核&查验权。METR 将自主发布关于 Anthropic 风险、事件及实践的评估报告。Anthropic 表示：
"我们无法否决发布，但可以要求对方对落入预先界定范围内的信息进行编辑——例如客户数据、律师-客户特权信息，或模型架构相关细节。METR 可以自由公开评价我们的编辑行为是否合理，只要不透露被编辑的信息本身。"
三层评估体系：METR 位于最顶层
Anthropic 正在构建一套三层评估体系，METR 目前处于最顶层。具体分层如下：
| 层级 | 评估机构 | 访问权限 | 发布要求 |
|---|---|---|---|
| 底层 | 生物安全非营利机构 SecureBio 等 | 狭窄范围审核&查验 | 需经 Anthropic 批准方可发布 |
| 中层 | 未披露 | 较高信息访问权限 | 可自主发布 |
| 顶层 | METR | 员工级完全访问 | 完全自主发布 |
承诺兑现：从倡议到落地
此举兑现了 Anthropic CEO Dario Amodei 于九月发表的《我们必须为前沿发展降速》一文中的承诺——他在文中首次提出将外部评估员嵌入 AI 实验室的方案。OpenAI 迅速跟进，两家公司随后与 Google、Meta、Nvidia、xAI 等共同签署了白宫协议，承诺接受独立审核&查验。
评论