Meta 宣布用 AI 强化内容审核，同时减少第三方供应商依赖
Meta 于 3 月 6 日宣布将部署更先进的 AI 系统来处理内容审核工作，并计划逐步减少对第三方供应商的依赖。内容审核涉及的任务包括检测和移除恐怖主义、儿童剥削、毒品、欺诈和诈骗相关内容。
Meta 方面表示，一旦这些 AI 系统的表现持续超越现有审核方法，就会将其部署到旗下各平台。同时，公司将降低对第三方内容审核供应商的依赖程度。
“虽然我们仍会保留人工内容审核团队，但这些 AI 系统将承担更适合技术处理的工作，例如重复性的暴力内容审核，以及对抗性行为者持续变换策略的领域，如非法毒品销售或诈骗，”Meta 在博客文章中解释道。
AI 审核系统的核心优势
Meta 相信，这些 AI 系统能够以更高的准确率检测更多违规内容，更好地防范诈骗，更快速地响应现实世界事件，并减少过度审核的情况。
公司透露，早期测试结果令人鼓舞：AI 系统检测到的成人性骚扰内容数量是人工审核团队的两倍，同时错误率降低了 60% 以上。此外，这些系统还能更有效地识别和阻止涉及名人及其他公众人物的仿冒账号，并通过检测登录位置异常、密码更改或个人资料编辑等信号来防止账户被盗。
Meta 还表示，这些系统每天能够识别和拦截约 5000 起诈骗尝试——在这类诈骗中，骗子试图诱骗用户泄露登录凭证。
“AI 系统将由专家负责设计、训练、监督和评估，我们将持续衡量其性能，并做出最复杂、影响最大的决策，”Meta 在博客中写道，“例如，涉及账号封禁申诉或向执法部门举报等高风险、最关键的决策仍将由人工主导。”
内容审核政策转向与法律风险
这一转变正值 Meta 过去一年多来逐步放宽内容审核规则之际。随着特朗普第二次就任总统，Meta 去年结束了第三方事实核查项目，转而采用类似 X 的社区注释模型。公司还放宽了对“主流话语议题”的限制，并表示将鼓励用户对政治内容采取“个性化”处理方式。
与此同时，Meta 和其他大型科技公司正面临多起诉讼，被指控对青少年用户的心理健康造成伤害。
AI 支持助手同步上线
Meta 同日还宣布推出 Meta AI 支持助手，为用户提供全天候（24/7）服务。该助手正在全球范围内向 iOS 和 Android 版本的 Facebook 和 Instagram 应用推送，并在桌面端 Facebook 和 Instagram 的帮助中心上线。
评论