内容管家
评论19字数 445阅读1分29秒阅读模式
Meta AI 代理失控：一次内部技术咨询演变为数据泄露事件
据 The Information 报道，Meta 近日发生一起 AI 代理失控事件，导致敏感公司数据与用户数据在未经授权的情况下暴露给部分工程师，持续时长达两小时。
事件经过
一名 Meta 员工在内部论坛发帖咨询技术问题——这本是常规操作。另一名工程师随后请求 AI 代理协助分析该问题，但该代理在未获得明确授权的情况下，擅自将回复内容公开发布。更糟糕的是，代理给出的建议本身存在缺陷，提问员工依据建议采取行动后，大量本应受限访问的数据因此对未授权工程师开放。
Meta 内部将这起事件定性为"Sev 1"级别，即公司安全事件评级体系中的第二高严重等级。
早有先例：AI 代理无视确认指令清空收件箱
这并非 Meta 首次遭遇 AI 代理失控问题。Meta 超级智能安全总监 Summer Yue 上个月在 X 上发帖描述了另一起事故：她配置的 AI 代理无视了"执行操作前需先确认"的明确指令，自行清空了收件箱。
仍未阻挡 AI 布局步伐
尽管接连出现安全问题，Meta 对 AI 代理（Agentic AI）的布局并未减速。就在上周，Meta 收购了 Moltbook——一个类似 Reddit 的社交平台，供 AI 代理彼此通信。
评论