Anthropic 限制发布最强安全模型 Mythos：剑指漏洞利用还是商业护城河？
Anthropic 本周宣布限制发布其最新模型 Mythos，原因在于该模型在发现全球用户所依赖软件安全漏洞方面的能力"过于强大"。Anthropic 并未将 Mythos 公之于众，而是选择与一批运营关键在线基础设施的大型企业和组织共享，包括亚马逊云服务（Amazon Web Services）和摩根大通（JPMorgan Chase）。据报道，OpenAI 也正在考虑为其下一代网络安全工具采用类似计划。
这一做法的表面理由是让大型企业先行一步，应对可能利用先进大语言模型渗透安全软件的恶意行为。然而，句子中的"e"或许暗示着这一发布策略背后还另有考量——不仅仅是网络安全或模型能力的宣传。
AI 网络安全实验室 Irregular 的 CEO Dan Lahav 在 Mythos 发布前接受 TechCrunch 采访时表示，虽然 AI 工具发现漏洞的能力很重要，但任何漏洞对攻击者的具体价值取决于多种因素，包括如何组合利用。
"我始终在脑海中思考的问题是，"Lahav 表示，"他们发现的是否是在单个或组合利用时真正具有可利用性的关键问题。" Anthropic 声称 Mythos 能够利用漏洞的能力远超其前代模型 Opus。但 Mythos 是否真的是网络安全的"终极答案"尚不明确。AI 网络安全初创公司 Aisle 表示，他们能够使用更小的开放权重模型复现 Anthropic 所声称的 Mythos 的大部分能力。Aisle 团队认为，这些结果表明网络安全领域并不存在单一的深度学习模型，而是取决于具体任务。
鉴于 Opus 已被视为网络安全的颠覆性产品，前沿实验室希望将模型限制发布给大型组织还有另一个原因：它为企业合同创造了飞轮效应，同时使竞争对手更难通过蒸馏（distillation）技术——即利用前沿模型低成本训练新大语言模型——来复制他们的模型。
"这实际上是为顶级模型现在通过企业协议获取、而小型实验室无法再用于蒸馏这一事实提供营销掩护，"初创公司 exe.dev 的软件工程师兼 CEO David Crawshaw 在社交媒体帖子中写道，"等到我们能使用 Mythos 时，将会有一个新的、企业专属的顶级版本。这种跑步机帮助企业资金持续流入（因为这才是大部分收入），同时将蒸馏公司降为二流。" 这一分析与 AI 生态系统中正在发生的现象相符：前沿实验室正在竞相开发规模最大、能力最强的模型，而 Aisle 等依赖多模型的公司则将开源大语言模型（通常来自中国，且据称通过蒸馏开发）视为获取经济优势的路径。
前沿实验室今年对蒸馏采取了更强硬的立场。Anthropic 公开披露了据称中国企业试图复制其模型的行为，而三家领先实验室——Anthropic、Google 和 OpenAI——据彭博社报道已联手识别蒸馏者并加以阻止。蒸馏对前沿实验室的商业模式构成威胁，因为它消除了通过大量资本规模化所带来的优势。阻止蒸馏本身就是一项值得做的事，但这种选择性发布的方式也为实验室提供了一种在行业成为盈利部署关键时区分其企业产品的方式。
Mythos 或任何新模型是否真的会威胁到互联网的安全还有待观察，而谨慎推出该技术是一种负责任的做法。
Anthropic 在截稿时尚未回应关于该决定是否也与蒸馏担忧相关的问题，但该公司可能已经找到了一种既保护互联网又保护其底线的巧妙方法。
评论