OpenAI 推出 Lockdown Mode,防护提示注入攻击

内容管家 AI领域评论17字数 356阅读1分11秒阅读模式
OpenAI 推出 Lockdown Mode,防护提示注入攻击

OpenAI 推出「访问限制模式」,防范提示词注入攻击

OpenAI 宣布推出名为「访问限制模式」(Lockdown Mode)的新功能,旨在为处理敏感数据的用户和组织提供额外保护,抵御提示词注入(prompt injection)攻击——即攻击者将恶意指令隐藏在网页或其他内容来源中,诱导 AI 执行非预期操作的风险。

核心变化 启用访问限制模式后,以下功能将被限制:

  • 网页浏览:仅可访问缓存内容,禁用实时浏览
  • 图片获取:不再从网络拉取和展示图片(AI 生成图片功能保留)
  • 深度研究(Deep Research):禁用
  • 代理模式(Agent Mode):禁用

局限性说明 OpenAI 明确表示,即便开启访问限制模式,ChatGPT 仍可能受到提示词注入影响。例如,「缓存网页内容或上传文件中可能仍包含恶意指令,并可能影响回答的行为或准确性」。访问限制模式的目标是降低敏感数据在这一过程中被泄露的概率。

适用场景

「访问限制模式并非面向所有用户,而是为处理敏感数据、期望获得更严格保护的个人和组织设计。」

目前该功能正在向以下账户逐步推送:

  • ChatGPT Business(自助服务账户)
  • 符合条件的个人账户

延伸阅读

 
内容管家

发表评论