Garry Tan 呼吁美国开放权重 AI 实验室蒸馏前沿模型

内容管家 AI领域评论3字数 918阅读3分3秒阅读模式
Garry Tan 呼吁美国开放权重 AI 实验室蒸馏前沿模型

Y Combinator 掌门人 Garry Tan 公开表态:对于中国 AI 实验室通过"蒸馏"技术从前沿模型厂商提取知识一事,美国监督&管理机构最好别插手——他甚至认为,美国本土的中小型开源权重模型厂商,也应该用同样的方式"回敬"美国前沿实验室。

蒸馏技术是什么

蒸馏(Distillation)指的是模型厂商大量 prompt 另一个模型,以学习其推理方式的技术。它是 AI 实验室训练新模型的常规且合法手段,本质上是让小模型从大模型的行为中"学到"知识。

Anthropic 的指控

Anthropic 本周发布了第二份威胁情报报告,指控中国实验室从事"非法蒸馏攻击",通过隐匿身份、伪造凭证等手段未经授权进行蒸馏。Anthropic CEO Dario Amodei 此前已公开呼吁美国监督&管理机构对蒸馏行为加强监督&管理。

Tan 的反驳:为什么他主张"不干预"

Tan 的立场与 Anthropic 截然不同。他向 TechCrunch 阐述了核心逻辑:

  1. 美国本土也可以蒸馏:他希望美国中小型开源权重实验室能够光明正大地使用同样的训练技术,从美国前沿实验室提取知识,从而为美国提供更强大的开源权重选项,而非让中国实验室独占这一领域。
  2. 不能只许州官放火:Tan 指出,前沿模型厂商当年训练时大量吸收人类知识——包括大量受版权保护的材料——从未事先征得权利人同意。既然如此,这些厂商现在反过来限制客户如何使用模型输出的信息,本身就是一种过度干预。
  3. 开放权重与前沿模型需要平衡:Tan 本人自称是个狂热的 AI 用户,曾形容自己患有"网络精神病"。他告诉 CNBC:"前沿实验室处于前沿、推动着进步。我们希望这能成为一个可持续的优质商业模式。同时也希望开源权重模型给人们带来自由和获取渠道。"

Tan 眼中的"AI 末日场景"

Tan 担心的不是 AI 失控,而是一种商业格局的终极垄断:

"AI 领域最糟糕的情景是,只有一家公司。它拥有最充裕的资本、最顶尖的 AI 研究人员,然后一路狂奔,突然之间行业变成一家独大的局面——这才是真正可怕的。"

他认为,如果所有前沿 AI 的巨大力量都集中于某一家专有厂商手中,那才是真正的灾难。

背景 / 核心变化 / 影响与建议

核心变化:Garry Tan 从"不反对中国蒸馏"进一步提出"美国也应该蒸馏"——不仅是消极容忍,更是主动建议美国开源权重实验室用同样手段获取竞争优势,并将此视为维护美国 AI 生态多样性的必要之举。

影响与建议:此事折射出开源权重派与专有模型派之间日益尖锐的利益冲突。对于政策制定者而言,如何在知识产权保护与开放生态之间取得平衡,正在成为一道没有标准答案的难题。

延伸阅读

 
内容管家

发表评论