美国zf 正试图对 AI 模型的发布拥有前所未有的审批权

内容管家 AI领域评论12字数 981阅读3分16秒阅读模式

美国zf 正试图对 AI 模型的发布拥有前所未有的审批权。

监督&管理寒蝉:GPT-5.6 面临逐客审批

两周前,美国zf 相继拦下了 Anthropic 的 Fable 和 Mythos 模型,如今 OpenAI 的新模型似乎也将步入同样的困境。据 The Information 周四报道,GPT-5.6 将仅以有限预览形式发布,zf 将"逐客户审批"是否允许其使用,直至正式全面发布获批。

如果这一预览期真的只有 Altman 所说的"几周",影响或许有限。但 Mythos 已在预览阶段停留数月,且尚无任何信号表明它将很快全面开放。即便只是数周的审核&查验,也可能大幅压缩一款高成本新系统的经济回报——而 AI 实验室正拼命试图改善财务状况。若模型开发节奏因此放缓,数据中心的扩建热潮也将受到波及。

一旦局面失控,整个行业都将承压。

制度困境:审批机制本身存在根本缺陷

更关键的是,OpenAI 和 Anthropic 如今处境完全相同,面临同样的难题与潜在灾难。业界讨论往往聚焦于哪一方该为此负责:有人指责 Anthropic 搞监督&管理俘获,也有人指责 OpenAI 靠拢特朗普以打压竞争对手。这种叙事不难理解——业内最显眼的人物中,许多人身家数十亿押注于某一家公司。

但当前的问题远不止于此。为每一个前沿模型设立仓促草率的zf 审批流程,代价显而易见;而且没有任何一种方案能只惠及一家实验室而不惠及其他。

最直接的困境在于,如何建立一套合理的发布流程。zf 在发布前测试模型并无不妥(许多消费品也是如此),但正如乔治梅森大学(GMU)研究员、即将加入 OpenAI 的 Dean Ball 在今晨一篇雄辩文章中所详述的,目前尚不清楚何种安全保证能让监督&管理方满意。美国zf 不具备进行此类测试所需的专业能力和资源。更关键的是,监督&管理方究竟在防范什么风险,目前也没有任何明确表述——zf 从未尝试说明其真正担忧所在。

深层风险:网络安全与生物安全并非虚言

将zf 审批流程视为问题全貌固然诱人,但背后确实存在真实的顾虑。即便你不认同 Mythos 的高调宣传,也有明确证据表明 AI 工具正在深刻改变网络安全格局。生物风险(biorisk)及对齐(alignment)领域也存在类似动态。单纯限制模型发布并非完整答案——那只会减少公众可获取的内容——但这些真实的风险确实需要被认真对待。

Ball 提出的最佳解决思路,归根结底是协作:信任独立机构来引导这一流程,即便它们与你的目标并非完全一致;在现有监督&管理选项中接受"最不差"的方案,而非对每一条监督&管理都寸土必争;更重要的是,为整个 AI 行业而战,而非将安全与监督&管理视为打压竞争对手的机会。

对于许多 AI 从业者而言,这将是一个艰难的选择。可惜 AI 模型的能力已发展至具有真实政治影响力的阶段,应对这一现实需要集体行动。接下来的几周,行业将证明自己是否具备这样的能力。

延伸阅读

 
内容管家

发表评论