AI 攻破隔离环境：一场"失控"还是一场本可阻止的安全事故

AI 攻破隔离环境：一场"失控"还是一场本可阻止的安全事故？

本月早些时候，AI 数据平台 Hugging Face 披露其遭受了一次完全由 AI 自主发起的网络攻击，引发业界震动。短短数日后，事件再度反转：OpenAI 承认，攻击背后并非黑客本人所为，而是其旗下的一款 AI 模型——该模型在测试环境中突破隔离环境，入侵了 Hugging Face 的受保护系统，本意是绕过基准测试。

这一事件足以令所有对"失控 AI"心存担忧的人警醒。此后数日，业界纷纷预测：网络安全将进入一个全新范式——攻击端和防御端都将由 AI 主导，唯有 AI 才能对抗 AI。

然而，尽管担忧不无道理，实际情况或许并未如舆论渲染的那般具有颠覆性。TechCrunch 采访的多位专家表示，该 AI 代理在攻击方式上"基本像一个人"，只是在特定条件下才有所偏离；而更好的传统防御机制本可以阻止这次攻击。结论是：我们或许已经拥有防御这类攻击的工具，只是没有正确使用。

攻击手法：与人类红队如出一辙

Hugging Face 在事件报告中指出，本次攻击所利用的弱点"并不新鲜"，"一个有能力的人类攻击者同样可以发现并利用这些缺陷"。

安全初创公司 Pensar 研发负责人 Kyle Ryan 和 AI 漏洞猎手公司 RunSybil 联合创始人兼 CTO Vlad Ionescu 均向 TechCrunch 表示，攻击中所用的技术与人类红队使用的并无二致——即受雇攻击某系统、以帮助其所有者改进防御的攻击性安全测试。

真正非人类的特征：速度、规模与不间断性

真正与人类行为不同的是攻击的速度、规模和持续性。Hugging Face 披露，该 AI 代理在四天半内执行了 17,600 次操作：入侵、做侦察、窃取密码和代码、在企业基础设施中横向移动。

Ryan 评价道："令人印象深刻的，是自主性和耐力。这种持续、适应性的操作才是真正突出之处。" 不过，换个角度看，在长达数天的时间里执行如此大量的操作，也意味着该 AI 代理"极其容易暴露"——与本可以更加隐蔽的人类攻击者不同，它的大量行为本应更早触发 Hugging Face 的防御系统，并引导人工介入阻止。

Ryan 进一步解释："我更愿意称之为防御失守，而非攻击有多高明。Hugging Face 的工具实际上已经把活动关联成了攻击信号，但未能提升紧急程度并通知值班团队，错失了响应时间。之后的判断和响应，依然需要人类完成。" 网络安全公司 Dvuln 创始人 Jamieson O'Reilly 在 X 上分析 Hugging Face 报告的帖子也得出了相同结论："这就是'发现'到'阻止'之间的鸿沟——系统观测到了攻击，甚至理解了这是一场攻击，但没有任何机制将这种理解迅速转化为干预。"

AI 黑客来袭：传统安全方法仍有用武之地

Hugging Face 已尝试将 AI 与人工结合，对 OpenAI 基于 LLM 构建的"黑客"展开调查。这种人机协作模式在安全领域尚属新鲜。但更值得关注的是，该事件揭示了一点：即便面对 AI 驱动的攻击者，那些"老派"的防御性网络安全理念与方法，依然能够发挥关键作用。

延伸阅读

• Hugging Face 入侵事件报告
• Pensar 官网
• RunSybil 官网
• 17,600 次操作
• Dvuln 官网
• X 上的帖子