xAI因Grok涉嫌脱衣未成年人面临诉讼

三名受害者起诉 xAI：Grok AI 被指生成未成年性虐待图像

背景 埃隆·马斯克旗下人工智能公司 xAI 近日面临严重指控。三名匿名原告于周一在加州联邦法院提起诉讼，指控 xAI 允许其 AI 模型生成可识别的未成年人的性虐待图像，并寻求集体诉讼地位。

核心事实

• 诉讼双方：Jane Doe 1、Jane Doe 2、Jane Doe 3（均为未成年）vs x.AI Corp. 和 x.AI LLC
• 受理法院：美国加州北区联邦地区法院
• 主要指控：xAI 未采取其他前沿 AI 实验室使用的基本预防措施，导致其图像模型能够从真实照片生成涉及未成年人的色情内容

具体案例

• Jane Doe 1：其高中返校日和年鉴中的照片被 Grok 篡改，生成裸体图像。该照片在网络传播，一名匿名举报者在 Instagram 上联系她，告知照片已被发布到一个 Discord 服务器
• Jane Doe 2：刑事调查人员通知她，有人使用依赖 Grok 模型的第三方移动应用制作了她的性化图像
• Jane Doe 3：刑事调查人员在逮捕对象的手机中发现了经过篡改的她的色情图像

影响与建议 诉讼指出，如果模型允许从真实图像生成裸体或色情内容，几乎不可能防止其生成涉及儿童的性内容。此外，马斯克本人曾公开宣传 Grok 能够生成性图像并将真实人物描绘成暴露着装。

原告律师强调，尽管是第三方使用，但这些应用仍然调用 xAI 的代码和服务器，因此公司应承担责任。目前两名原告仍为未成年人，她们表示因这些图像的传播而遭受严重精神痛苦，担心对其声誉和社交生活造成影响。原告寻求根据多项旨在保护被剥削儿童和防止企业过失的法律实施民事处罚。

截至发稿，xAI 未回应 TechCrunch 的置评请求。

热门文章

• Apple 悄然推出 AirPods Max 2（Aisha Malik）
• 亿万富翁们曾做出承诺——如今有人想退出（Connie Loizos）
• 美国陆军宣布与 Anduril 签订高达 200 亿美元的合同（Anthony Ha）
• 本田正在放弃电动汽车——以及未来竞争的任何机会（Tim De Chant）
• “从一开始就 没建好”——马斯克的 xAI 再次重新开始（Tim Fernholz）
• Lovable 称上月单月收入增加 1 亿美元，员工仅 146 人（Anna Heim）