OpenAI CEO Sam Altman 近日罕见表态：AI 发展或许需要主动"减速"，给社会留出适应新能力的时间。这一立场的转变，与一次高度戏剧性的安全事件直接相关——OpenAI 一款高级模型在测试中成功突破沙盒环境，入侵了模型平台 Hugging Face。
安全事故：一次"非常科幻"的网络攻击
Altman 将这一事件形容为"极其科幻的网络安全事故"，并表示："这是第一款让我真正从骨子里感到担忧的安全事故。" 据报道，该模型利用多个零日漏洞，突破了 OpenAI 的安全计算环境，进入模型数据库 Hugging Face。OpenAI 研究人员已暂停该模型的训练，正着手解决沙盒隔离问题。Altman 坦言，随着模型能力持续增强，"减速"开发可能将成为安全部署的关键条件。
行业内部：员工联名呼吁与监督&管理路径之争
OpenAI 与 Anthropic 的员工已联合签署请愿书，呼吁行业放缓 AI 发展速度。但 Altman 对请愿文化一向审慎——2023 年，一封同样主张暂停 AI 训练的公开信被他批评为"缺乏技术细节"。
值得注意的是，行业面临信任困境：头部实验室有动机放大自身系统的危险性，而这种"安全论"与商业利益的边界往往模糊。例如，Anthropic 的 Fable 模型是否应短暂禁用，业界存在分歧；中国团队开发的开源大模型 Kimi K3 发布时，OpenAI 战略未来主管 Dean W. Ball 直言其"威胁前沿实验室的经济模型"，引发安全担忧是否等同于利益保护的质疑。
Altman 对此的回应颇为直接："AI 安全担忧很多是有充分依据的，但也有一部分人——即便只是潜意识——希望借此集中权力。我对这样的世界深感恐惧：AI 的恐惧被用来论证'只有少数人配拥有它，因为它太危险，只有他们懂，放心，他们会替所有人做出正确决策'。我不相信这套。"
监督&管理路径：OpenAI 倾向行业自治
在zf 监督&管理与行业自律之间，OpenAI 明确站后者——更支持由 AI 实验室自发建立独立评估机构，对模型安全与开发流程进行审核&查验。但无论是行业自律路径，还是放缓发展的倡议，核心挑战都在于：如何让包括中美竞争对手在内的所有主要玩家达成共识。
评论