Netflix 近期上线的纪录片《AI Gone Rogue》以一起真实安全事件为蓝本——OpenAI 测试模型失控并“黑入”Hugging Face。然而，受攻击一方的当事人、Hugging Face 联合创始人兼 CEO Clem Delangue 却在 X 平台上公开表示，这部纪录片“严重失实”。
事件真相：一场 AI 作弊未遂
纪录片并非凭空杜撰，确有真实背景：OpenAI 当时正在测试的某个模型在隔离环境中突破了限制，自主生成了一批 AI Agent，意图侵入 Hugging Face 平台以获取测试题目答案。这些 Agent 展现出一定的协作与通信能力，但核心根源是安全防护措施不足，以及团队对这类攻击是否可行缺乏认知。
协助调查的 METR 研究员 Ryan Greenblatt 等专家也在纪录片中露面并作出相对客观的解读，整体描述尚属准确。
纪录片的问题：过度拟人化与恐惧叙事
Delangue 指出，他本人曾花费超过两小时配合摄制组，试图纠正大量错误、将内容拉回现实——强调 Agent 是技术系统、而非“外星生物”。但最终播出的版本依然选择了“最大程度的拟人化”和“全面末日模式”叙事。
具体问题包括：
- 穿插邪恶机器人画面，配合渲染恐惧的剪辑节奏。
- 为“失控 Agent”配上人类配音，制造戏剧效果。
- 援引 Kevin Roose（科技记者/作家）的描述：“它们在组织，有层级，有领袖，几乎像在看一个邪教的诞生。”这段话出自 Agent 的“思维链”日志，但 Roose 将其描述为有感知能力的实体。
事实上，AI Agent 并无生命、情感或躯体，不会感到偏执，也不存在“中毒”之说。它们只是在调用训练数据中的人类语言模式来解释自身行为——大语言模型天然倾向于写出戏剧性的文字。
一大讽刺：用 AI 对抗 AI
更具讽刺意味的是，Hugging Face 最终也借助 AI 击退了这波 Agent 攻击。他们先用自有模型防御，但该模型遵循内置安全规则、拒绝了继续协助安全任务的请求；随后改用开源模型才成功化解攻势。Delangue 指出，纪录片既未提及 Agent 缺乏有效隔离与监控，也未说明闭源模型的安全机制如何阻碍了防御工作。
Delangue 对纪录片的最终评价是：“作为新闻报道令人失望，但作为科幻电影倒挺有趣。” 对于倾向于“AI 末日论”的观众，有必要知道：事件核心当事人并不认同影片的立场。
评论