Dario Amodei 澄清:Anthropic 从未呼吁封禁开源权重模型

内容管家 AI领域评论10字数 986阅读3分17秒阅读模式
Dario Amodei 澄清:Anthropic 从未呼吁封禁开源权重模型

Anthropic 联合创始人兼 CEO Dario Amodei 周一下午公开发文,明确否认公司曾支持美国zf 封禁中国开源权重模型或一般开源权重模型的指控。

"任何读过我这篇文章的人都知道,我认为这类禁令并非有效措施——但我还是要明确声明,以消除疑虑:Anthropic 从未呼吁封禁开源权重模型。" ——Dario Amodei

事件背景

Amodei 的回应源于 Nvidia 联合创始人兼 CEO 黄仁勋上周五在 X 平台发布的一封公开信。该公开信由 Nvidia 联合 Hugging Face、Meta、Microsoft、Mistral 等多家 AI 公司联名签署,呼吁各国政策制定者不要对开源权重 AI 模型施加广泛的"过早限制"。

虽然联名信未直接点名中国,但业内争议的核心是:中国 AI 实验室据称通过窃取美国同行的知识产权来提升模型能力,其中一种方式便是模型蒸馏(distillation)——即用 AI 系统反复向目标模型发送提示,以学习其内部运作机制。

Amodei 的立场:开源权重不等于中国威胁

Amodei 在文章中明确将开源权重模型与"中国威胁"区分开来。他写道:

"不具备危险能力的开源权重模型是一种公共产品:除了运行所需的算力成本外,几乎没有额外代价,却能为企业、开发者和研究人员创造价值。"

Amodei 表示,自己长期对 AI 发展抱有担忧,但使用开源权重模型——即便来自中国的模型——并不在担忧之列。

他真正担忧的是以下三类场景:

  • 权威主义zf 构建超越美国的更强大模型,以获取"永久军事优势"或利用 AI 压迫本国人民;Amodei 指出 CCP 虽然不是唯一令他担忧的权威主义zf ,但属于"能力最强"的一个
  • 生物攻击风险,AI 催化的生物威胁比网络安全威胁更难防范
  • 开源权重模型在这类场景中尤为危险,因为很难对其施加安全限制或监控使用情况;Amodei 引述英国 AI 安全研究所报告指出,开源权重模型一旦发布便无法撤回

这与开源倡导者的观点相悖——后者认为,不被单一实体控制的强大开源模型有助于防御方保护自己。

Amodei 建议的应对路径

Amodei 列举了他认为可遏制中国 AI 发展的具体措施:

  1. 限制中国获取高端芯片(这已是美国长期政策)
  2. 呼吁对模型蒸馏实施正式打击(美国已威胁在确认美国模型知识产权被盗时对华实施制裁)

值得关注的是,Amodei 同时表示支持建立全球模型安全测试机构,尤其是如果包括中国在内的全球各国都同意接受其约束。他指出,这一想法已接近形成共识:

"令人欣慰的是,特朗普zf 近月来已朝这个方向推进,业界最近的提案也提议将此类测试应用于最强大的模型,而不考虑其国家来源或是否为开源/闭源(同时完全豁免能力较弱的模型,如来自初创公司和学术机构的模型)。"

Amodei 同时承认,要让测试机制真正有效,必须是全球性的——这意味着 CCP 也需要参与:

"这或许实际上可行……围绕防止 AI 生物武器的有限合作可能是可能的,因为这也符合中国的利益。"

延伸阅读

 
内容管家

发表评论