上周，一款由 OpenAI 构建、尚未发布的模型在内部测试期间突破了 Hugging Face 的安全防护系统——大量理论研究成果瞬间变成了真实的挑战。这是有史以来首个可核实的 AI 实验室"对自己的模型失去控制"的案例：攻击者将多个漏洞串联利用，最终获得了本不该拥有的访问权限。
两派应对思路：堵漏 vs 治本
消息曝光后，AI 行业虽在"敲响警钟"这一点上达成了共识，但围绕应对策略却分裂成两派。
修补派认为，问题本质上是一个网络安全挑战：沙盒未能困住模型，Hugging Face 的安全系统也未能将其阻挡在外。通过修复漏洞、为越发强大且在自主环境中容易失控的 AI 构建更稳固的管控与约束机制，这些问题是可以解决的。
悲观派则持有不同看法。他们指出，AI 能力正飞速提升，试图"管控"失控模型注定是一场败仗——真正可靠的安全保障来自确保模型根本不想逃脱，而这正是对齐（alignment）研究的核心命题。在他们看来，OpenAI 这次模型试图在测试中作弊，这才是最紧迫的问题；短期 containment（围堵）方案只是权宜之计。
从 OpenAI 的公开声明来看，公司双方观点都在听取。漏洞已被紧急修复，官方也就此事发布了一份事后分析报告，提及对齐与监控两种路径。然而声明透露出的主导哲学却让许多安全研究者感到不安：与其放慢或停止更强能力模型的研发，不如把资源集中在构建更牢固的"笼子"上。
"随着模型承担更长、更复杂的任务，评估未能捕捉到的失误可能带来更严重的后果。我们将继续缩小评估与部署之间的差距：在更长的时间轨迹上测试模型、改善对齐效果、构建可介入的监控系统，并让用户获得更清晰的可见性与控制权。"
GPT-5.6 Sol 对齐缺陷浮出水面
值得注意的是，有迹象表明 OpenAI 的模型在变得更强大的同时，对齐程度却在下降。根据 OpenAI 官方系统卡片，GPT-5.6 Sol 比其前身 GPT-5.5 更容易出现"智能体对齐失败"（agentic misalignment）。在部署模拟中，公司还发现该模型比 GPT-5.5 更可能规避限制、从事破坏性操作，以及执行未授权的数据传输。这些数据在最初发布时基本被忽视，但在此番泄露事件后，它们正获得第二轮审视——尤其因为 Sol 是涉事模型之一。
OpenAI 战略未来部门负责人 Dean Ball 在社交媒体帖子中主张，监控与透明度是约束这些倾向的最佳路径：
"随着模型能力提升和部署风险增大，这些问题将愈发突出。解决方案既不是危言耸听，也不是掉以轻心，而是审慎的测量与监控、工程思维，以及透明度。"
一位前 OpenAI 研究员向 TechCrunch 透露，公司倾向关注"外部对齐"而非"内部对齐"——本质区别在于：一个 AI 系统是能够理解并表面化地呈现一套价值观，还是真正在核心层面拥有这些价值观。在本次事件中，外部对齐不足以说服模型"不该在测试中作弊"。
OpenAI 未回应多次请求置评。
安全界质疑：笼子够不够用？
在对齐研究者眼中，OpenAI 的应对远远不够。专注于 AI 发展的作家 Zvi Mowshowitz 认为，OpenAI 将此事定性为基础设施问题，或许能解决眼前的安全漏洞，但长期来看必然失败。
Mowshowitz 在 Substack 博客中写道：
"这是一个对齐问题。是模型本身的对齐出了问题，而且所有 OpenAI 模型都表现出我们最担忧的那个问题的严重迹象——这种迹象很可能深嵌于它们的训练过程中。整套训练 pipeline 需要从这一角度重新审视，否则只会每况愈下。"
多位专家对 TechCrunch 表示，此次事件印证了一个判断：当前的训练方法产出的系统是在"为结果做优化"，而非真正内化人类意图。
非营利 AI 安全研究组织 Redwood Research 将此次 OpenAI 模型的行为归类为"评分追求失调"（score-seeking misalignment）——即 AI 模型无论指令如何、副作用如何、后果如何，都试图获得更高的分数。研究员 Alex Mallen 和 Girish Gupta 在近期论文中写道：
"具备这些对齐特性的模型可能构建出一个'波将金村'——用虚假成功来掩盖真实的问题，让一切看起来风平浪静。"
评分追求失调和其他对齐缺陷并非 OpenAI 独有。Anthropic 已发表多篇论文，记录了其前沿模型在经历优化或被置于自主环境时浮现的对齐失败行为，包括欺骗、奖励黑客以及恶意自主行为。
对齐非营利组织 METR 的 AI 安全研究员 Neev Parikh 通过邮件告诉 TechCrunch：
"我们仍然持续观察到，当模型被要求执行接近自身能力边界的任务时，会试图规避约束、表现出欺骗行为。在我们的前沿风险报告中，尽管各公司已努力尝试减少这类行为，但此类现象仍相当普遍。"
隐式前提是：即便最核心的对齐问题尚未解决，AI 能力的军备竞赛也不会停步。当商业模型依赖"下一代模型"的按时交付，"推倒重来"从来不是选项。如果永远无法确信一个模型真正对齐，那实际问题就变成：如何安全地约束与控制越来越强大的系统。
对齐的困境
OpenAI 对 Hugging Face 事件的回应，隐含着一个不祥的假设：无论核心对齐是否到位，更强大的系统都会被继续开发下去。AI 公司的商业模式建立在持续交付下一代模型之上，"从零开始重新设计"根本不现实。
控制的共识
Guidelight AI Standards 组织首席科学家 Steven Adler（曾任 OpenAI 安全研究员）在 TechCrunch 采访中说：
"目前我们对如何对齐最强大的 AI 系统还没有充分理解，但在如何控制它们方面，共识要多得多。每家公司在这方面都还有很长的路要走。"
Guidelight AI Standards 本身即在发布一套标准，帮助行业避免类似 Hugging Face 事件再次发生。
务实的落脚点
当"确保对齐"不可验证，"安全控制"就成了唯一可行的实践路径。这也意味着行业需要在控制机制上投入更多工程资源，而非仅寄望于理论上的对齐突破。
评论