内容管家
评论0字数 489阅读1分37秒阅读模式
又一起 Grok 生成儿童性虐待图像诉讼：第四名原告加入
三名田纳西州青少年对 Elon Musk 旗下 xAI 提起诉讼，指控其聊天机器人 Grok 被用于制作儿童性虐待内容（CSAM）。最新消息显示，又有一名女性（身份代号 Jane Doe 4）加入该集体诉讼。
案情核心：超七千张涉案图像
据《华盛顿邮报》报道，该女子指控其继父利用 Grok，将她 11 岁时的照片进行处理，生成超过 7000 张其私密图像。继父在执法部门突击搜查发现这些图像两天后自杀身亡。
原告在诉状中表示："无限获取这些工具的速度太快了。它正在把日常生活变成儿童性虐待。"
诉讼主张：平台防范义务缺失
三名青少年最初提起的诉讼指 xAI（现隶属 SpaceX）未能采取基本安全措施，防止 Grok 被用于生成包含未成年人在内的真实人物私密图像。
今年早些时候，X 平台已曾被数百万张 Grok 生成的色情图像淹没，反映出该模型在内容安全层面的系统性风险。原告方正在寻求将本案确立为集体诉讼。
TechCrunch 已就此事联系 xAI 寻求置评。
影响与建议
此案折射出几个严峻现实：
- 模型滥用风险：大语言模型与图像生成能力的结合，正在大幅降低 CSAM 的制作门槛
- 平台责任边界：AI 服务商对用户滥用行为应承担何种防范义务，法律层面尚存争议
- 技术治理紧迫性：如何在模型开放性与滥用防控之间取得平衡，已成为监督&管理层与业界的共同课题
评论