白宫下令限制前沿 AI 模型出口
上周五，美国白宫以未指明的国家安全关切为由，下令人工智能公司 Anthropic 限制其强大 AI 模型 Fable 和 Mythos 向美国境外的任何人以及在美国的外国公民提供使用。此后，这家 AI 巨头迅速关闭了两个模型的访问权限，截至目前已有一周时间无人能访问。
这是美国zf 首次真正测试：能否像过去试图管控加密技术和间谍软件那样，通过出口管理&制约来遏制前沿 AI。这场对峙的最终结局，不仅将决定 Anthropic 能否进入海外市场，更将决定其他 AI 实验室未来必须遵循的规则框架。
Mythos 的诞生与营销策略
Anthropic 于今年 4 月推出 Mythos 时，就将其包装为某种"末日级"网络武器，声称一旦大规模释放可能在互联网引发严重破坏。正因如此，在此前的限制令生效前，全世界仅有约 150 家经过审核&查验的企业和zf 机构获得了访问权限。官方说法是：先帮助防御者加固其软件和服务，赶在"坏人"掌握 Mythos 同等能力之前。
触发限制令的两大事件
据多方报道，触发此次出口禁令的导火索有两个。
第一起事件涉及一家韩国电信运营商。Anthropic 通过其有限合伙人计划向该公司提供了 Mythos 访问权限，而美国官员随后发现该公司与中国存在关联，故发出警报。被广泛认为涉事的企业是 SK Telecom，但该公司已予以否认。
第二起事件则与亚马逊有关。据报道，亚马逊 CEO 安迪·贾西在发现自家研究人员找到 Fable 安全防护的绕过方法后，向zf 发出警告。Anthropic 则反驳称这并非"越狱"，而是一个已被修复的狭窄问题，并非对模型安全措施的全面突破。
最终结果一致：商务部下达出口管理&制约指令，Anthropic 被迫在大约 90 分钟内紧急限制对其产品的访问。
出口管理&制约的历史教训
这类zf 干预并非新鲜事。几十年来，各国zf 一直试图利用出口管理&制约来限制危险网络技术的扩散，但实际效果充其量只能算"中等"。
PGP 案：加密战争的先例
1990 年代初至中期，美国zf 在这条路上遭遇了历史上或许最引人注目的一次失败。当时计算机科学家正在开发用于在互联网上保护传输数据的加密技术，其中一款名为" Pretty Good Privacy"（简称 PGP）的软件尤为流行。它能对数据进行加密，即使被拦截也几乎无法被解密。
美国zf 最初将 PGP 视为危险武器，担心它会妨碍情报机构对跨国邮件的监控。为阻止 PGP 传播，美国海关总署对 PGP 创始人菲尔·齐默尔曼提起刑事调查，指控其违反武器出口管理&制约。齐默尔曼的应对之策是将 PGP 源代码以印刷书籍形式公开出版，由此引发了今天所谓的"加密战争"。最终调查被撤销，齐默尔曼赢得了关键胜利，为 Signal 和 WhatsApp 等数十亿用户使用的端到端加密算法铺平了道路。
瓦森纳协定：管控间谍软件的尝试
2010 年代初，研究人员开始发现西方国家制造的间谍软件被用于中东地区的异见人士。作为回应，多国同意扩大瓦森纳协定——一项限制军民两用软件和技术出口的国际条约。协定本意是将监控和黑客工具列为两用产品，迫使间谍软件制造商在向国外销售产品前必须申请出口许可证。
然而，瓦森纳协定存在两个根本性缺陷：首先，以色列等拥有全球最活跃间谍软件制造商的国家并未加入该协定；其次，该协定的执行完全依赖各国自愿对本国企业的监督&管理力度。曾经有一段时间，意大利zf 向该国间谍软件制造商 Hacking Team 发放了全球出口许可证，尽管该公司有向压迫性政权出售间谍软件的不良记录，这些政权利用这些工具对记者和人权活动人士实施黑客攻击。
此后，欧洲多国对间谍软件制造商的监督&管理持续松懈。尽管丑闻频发，但作为众多间谍软件和黑客工具制造商的所在地，欧洲始终未能遏制向威权政权出口间谍软件的行为。批评者指出，欧盟 27 个成员国最近重新启动的、旨在解决间谍软件向威权国家出口问题的努力"还远远不够"。
一些间谍软件制造商的对策是直接转移阵地——受制裁的 Intellexa 联盟将其运营迁至出口管理&制约宽松的国家；其他制造商则寻求迁往沙特阿拉伯。
FinFisher 关闭：德国间谍软件厂商的终结
德国间谍软件制造商 FinFisher 于 2022 年正式关闭。此前，德国检察官对该公司展开了长达数年的调查，原因是其被指控在未取得出口许可的情况下向土耳其出售间谍软件。
调查人员此前发现，FinFisher 间谍软件曾部署在批评土耳其zf 的异见人士手机上。
Anthropic 与特朗普zf 的对峙僵局
截至本文撰写时，Anthropic 与特朗普zf 之间的僵局仍在持续。美国zf 限制 AI 模型出口的政策面临多重不确定性：
- zf 可能让步：出于维持美国 AI 企业全球竞争力的考量，政策限制有可能被撤销——这将变相承认无论美国如何限制，中国及其他地区的 AI 实验室仍有可能达到类似能力水平。
- 合规负担风险：另一种可能是美国 AI 企业未来在服务外国客户前需获得zf 批准，这种合规成本将不可避免地侵蚀其利润空间。
出口管理&制约为何难以阻止恶意行为
鉴于各国zf 在控制软件扩散方面的历史经验，zf 强制执行的出口管理&制约可能并非阻止恶意行为者滥用强大双重用途网络技术的正确路径。
评论