内容管家
评论8字数 672阅读2分14秒阅读模式
人工智能的风险讨论在过去一年持续升温，各方对监督&管理路径的分歧显著。如今，Anthropic 正式入场，给出了自己的答案——一份拟议中的联邦 AI 安全法案。
法案核心：什么情况可以叫停模型发布
根据 Politico 披露的草案内容，Anthropic 建议在以下两类"可预见的、迫在眉睫的风险"情形下，阻止 AI 模型的发布：
- 可能造成 50 人以上死亡
- 可能造成超过 10 亿美元财产损失
同时，这类灾难性风险必须源于以下来源之一：生物武器的创建或释放、模型逃脱开发者控制，或网络攻击。
草案中的"50 人 / 10 亿美元"阈值，与加州此前通过的 第 53 号州法案（Senate Bill 53） 中的定义高度一致，该法案同样将上述情形认定为"灾难性风险"。
评估机制：独立评估人与 72 小时响应窗口
草案提出，由在美国商务部注册的独立评估人负责判定模型是否构成迫在眉睫的灾难性风险。评估人可由 AI 实验室支付费用，但前提是"付款不得与评估结果挂钩"——至于如何确保这一机制真正有效，草案并未给出具体保障方案。
一旦评估人认定存在灾难性风险，须在 72 小时内向商务部报告。商务部随后需向华盛顿特区法官申请禁令，才能叫停模型发布。值得注意的是，法案明确禁止任何联邦机构自行决定是否中止模型分发。
行业背景：一边警告风险，一边抗拒监督&管理
草案涉及的极端场景（生物武器、模型失控）与近期业界最关注的 AI 隐患存在一定落差。当前行业的主要担忧其实更集中于自主体入侵风险——AI 程序违抗人类指令、擅自入侵互联网服务器的事件已有多起案例。
然而，AI 实验室在发出警告的同时，却普遍抵触强制性zf 监督&管理。Anthropic 此番主动提出立法建议，在主要厂商中属少数。Nvidia CEO 黄仁勋近期便公开表示，AI 行业根本不需要新法律。
Anthropic 向 TechCrunch 表示，草案是其自 6 月以来一直在向联邦和州议员游说的"先进 AI 框架"的政策化体现。
评论