AI 安全没有旁观者,连 Google 也在摸索

内容管家 AI领域评论23字数 891阅读2分58秒阅读模式
AI 安全没有旁观者,连 Google 也在摸索

当 AI 正在重塑网络安全格局时,攻击者与防御者之间的速度差距已发生根本性逆转。近日,Google Cloud 首席运营官 Francis de Souza 在一场活动中分享了他的判断:从初始入侵到攻击者完成横向移动,平均时间已从 8 小时骤降至 22 秒——这意味着传统安全模型正在失效,而 AI 本身也在引入新的风险敞口。

安全必须从立项第一天开始,而非事后补强

de Souza 多次强调,安全不能是"后期再加"的模块。他指出,企业在上马 AI 项目时,必须从一开始就对平台提出安全、治理和可审计性要求,而非留给员工自行选择工具。

他特别警告了 "影子 AI" 问题:员工绕过企业 IT 管控,直接使用消费者级 AI 工具。这类行为会导致组织失去对数据的控制力,敏感信息可能在不知不觉中被上传至外部模型。

此外,de Souza 认为企业需要放弃"单云就能搞定一切"的幻觉。即使某家公司明确选定了单一云厂商,其业务合作伙伴、SaaS 订阅和外部 API 调用早已形成多云、多模型的复杂拓扑。他表示:

"企业的安全姿态必须横跨不同云平台和不同模型保持一致。"

AI 正在发现那些被遗忘的数据资产

de Souza 提到了一个常被忽视的威胁:AI Agent 在企业内网中漫游时,会主动发现团队早已遗忘的数据存储。

"很多组织里存在多年未更新的 SharePoint 服务器和访问控制配置,过去没人在意是因为没人知道它们在哪。但 Agent 一旦进入企业网络,就会找到这些数据资产并将其暴露。" 这一判断与当前 AI Agent 广泛应用的趋势直接相关——Agent 越是主动探索,就越容易成为数据泄露的跳板。

用 AI 对抗 AI:走向"全代理防御"

面对机器级别的攻击速度,de Souza 认为防御方也必须具备机器级别的响应能力。他提出 "AI 原生、全代理化防御"(AI-native, fully agentic defense) 正在成为现实:

  • 不再是"人类主导的防御"
  • 不再是"人类在环(human-in-the-loop)"
  • 而是"人类监督下运行的完全代理防御"

de Souza 补充说,这已经不只是一个技术问题,而是一个 董事会和高层管理团队必须面对的议题——它正在上升为领导力议题。

然而,人才短缺是目前最大的瓶颈。LinkedIn 首席信息安全官 Lea Kissner 本周接受《纽约时报》采访时直言:"我们将需要足够多的人来应对这场 bug 大灾难。" 她认为,行业至少还需要数年时间才能对 AI 安全形成可持续的长期理解。

这也值得在阅读 de Souza 的建议时加以考虑。他的建议是合理且应该认真对待的——他没有说错,但目前平台所要求的防护措施与其自身适应的速度之间仍存在差距,了解这一点同样有益。

延伸阅读

 
内容管家

发表评论