OpenAI 推出新隐私保护服务,欲在隐私保护上超越 Anthropic

内容管家 AI领域评论0字数 695阅读2分19秒阅读模式
OpenAI 推出新隐私保护服务,欲在隐私保护上超越 Anthropic

OpenAI 推"零留存"安全监控,欲与 Anthropic 争企业客户

随着 AI 模型能力持续增强,滥用风险同步上升,AI 企业不得不在保护客户隐私监测潜在滥用之间走钢丝。

Private Safety Processing:跨会话监控,数据零留存

OpenAI 近日面向部分客户预览了一项名为 Private Safety Processing 的新服务。这套自动化系统可在监测潜在滥用的同时,完全不存储客户数据——与此前业界通行的"零数据留存"(Zero Data Retention,ZDR)政策相比,监控范围从单会话扩展至多会话长周期分析,能够跨越多次对话识别分布式恶意行为。

例如,攻击者若试图通过分散请求来规避检测(如分步请求生成网络攻击恶意代码),Private Safety Processing 可跨会话聚合分析,发现异常模式。整个监测流程由 AI Agent 自动完成,无需人工审核&查验用户对话内容。系统触发后仅向 OpenAI 发送"狭义定义信号",提示特定活动类型,再由 OpenAI 决定是否需要与客户联系获取更多信息——整个过程客户拥有数据分享的决定权。

Anthropic 的 30 天留存政策引发企业担忧

这一动作被普遍视为对 Anthropic 的直接竞争。Anthropic 于今年 7 月宣布,对"Mythos 级模型及具备相似能力的未来模型"(即"覆盖模型")实施30 天数据留存政策:用户所有会话及其对话内容将被保留 30 天,供安全团队审核&查验分析。该政策允许人工审核&查验,但仅通过"受控访问路径"进行,参与审核&查验的人员范围极小,每次审核&查验均记录在不可篡改的日志中。

该政策引发了处理大量敏感数据的企业客户深度担忧——他们不希望自己的数据被 AI 实验室留存或接受检查。

商业竞争:收入增速差距收窄

两家公司当前竞争态势日趋紧张。近期报告显示,OpenAI 第二季度收入增速已落后于 Anthropic。Anthropic 年化收入规模现已达 650 亿美元,投资者称其 IPO 估值可能高达 2 万亿美元;OpenAI 同样在推进 IPO 计划。对于企业客户而言,数据隐私政策的差异正成为选型时的重要考量维度。

延伸阅读

 
内容管家

发表评论