诉讼指控 xAI 使用儿童性虐待材料训练 Grok 模型

xAI 如今又被指控使用儿童性虐待材料（CSAM）训练 Grok，与此同时监管机构和法院仍在持续调查这一问题波及的范围有多广，而且部分Grok 用户已被逮捕。

在周三提交的一份诉状中，化名为 Jane Doe 的原告讲述道，2000 年代初她还是学龄前儿童时，成年男性多次强奸她，以制作 CSAM 并在网上向恋童癖者出售。自那以后，Doe 的影像已被全国失踪与受剥削儿童中心（NCMEC）和加拿大儿童保护中心（CCCP）等组织做了哈希处理。

出于安全考虑，Doe 选择接收美国司法部受害者通知系统发出的提醒，以便在任何新的刑事调查中她可能成为受害者时及时获知。尽管她已收到无数条提醒，但当 CCCP 通知她，称已在 xAI 上识别出描绘她的 AI 生成 CSAM 时，她仍感到震惊。这给 Doe 造成了二次创伤。她在诉状中称，在网络论坛上发现了相关消息，“犯罪者之间在聊天中讨论如何制作原告及其他处境类似的、已知的、遗留 CSAM 受害者的 AI 生成 CSAM。”

如今，Doe 担心 xAI 不仅让制作更多关于她人生中最痛苦时期的违规影像变得更容易，而且据称 xAI 还存储了 Grok 生成的图像，并用这些输出来进一步训练 Grok。正因如此，她认为 Grok 的训练数据既包含那批困扰她 20 多年的原始影像，也包含近期 AI 生成的影像。

这是首起指控 xAI 使用 CSAM（儿童性虐待材料）进行训练的案例，而起诉状对这一指控并未展开过多细节。此前，Ars 曾报道过一份引发争议的数据集，该数据集在研究人员发现训练数据中含有 CSAM 后被清除，但没有迹象表明 xAI 使用了该数据集进行训练。在代表 Doe 的律师发布的新闻稿中，解释称 Doe 的图像被收录在 NCMEC 维护的 CSAM 哈希列表中，且据称“同样的材料”“是 xAI 用于构建 Grok 图像和视频生成能力的数据集的一部分”。起诉状同样仅指控“描绘原告的 CSAM 及其长期已知的哈希值已被用作 xAI 所用数据集的一部分”。

不过，关于 Grok 使用 AI 生成的 CSAM 进行训练的指控则分享了更多细节。

“由于 Grok 的服务条款默认将公开的 X 帖子和 Grok 自身的输出视为训练数据，公开发布图像不仅会将其暴露给观看者，还会直接将其输入到 xAI 用于训练和改进其模型、进而生成更多图像的流程中，”Doe 的起诉状写道。

该诉讼进一步指出，虽然 xAI 会过滤 Grok 输出中的暴力内容以将其排除在训练数据之外，但 xAI 的服务条款明显未说明 CSAM、非自愿私密图像（NCII）或 NSFW 材料是否属于“排除类别”。

因此，似乎顺理成章的是，“由于从已训练好的模型中彻底移除某个训练样本的影响在技术上十分困难，且 xAI 并未公开声称已做到这一点，因此在删除前被纳入训练的任何 CSAM，即使在原始图片从公众视野中移除之后，仍可能继续影响模型的输出，”Doe 的诉状中写道。

Doe 要求销毁所有 Grok 生成的 CSAM

在她提议的集体诉讼中，Doe 寻求终结 Grok 的有害输出。如果获得批准，该集体将代表每一位童年图像被用于生成 Grok CSAM 的受害者。

该诉讼指控 X 违反了联邦儿童色情法律，以及 Masha’s Law，这两项法律都赋予 CSAM 幸存者就制作、持有和传播行为提起诉讼的权利。Doe 的律师 Margaret E. Mabie 在新闻稿中表示，这三项都是犯罪行为，而“xAI 全都做了”。

如果 Doe 胜诉，xAI 可能需要对每一位能够证明 Grok 基于其真实照片生成 CSAM 的受害者进行金钱赔偿。Doe 还请求法院责令 xAI 销毁其可能存储在服务器上并用于训练 Grok 模型的所有 Grok 生成的 CSAM。此外，她希望 xAI 阻止 Grok 再生成任何 CSAM，她的诉状指出，这将要求阻止 Grok 产生任何性化输出，包括 NCII 以及 Musk 所推广的 NSFW“比基尼照片”。

Doe 的律师之一 Sarah London 在新闻稿中表示，Doe“近二十年来一直生活在这样的阴影下：她人生中最糟糕经历的画面正在网络上被不法分子传播，并且随时可能再次浮出水面。xAI 必须为其明知故犯地用她所遭受的可怕虐待图像，以及本集体诉讼中每一位幸存者的虐待图像来训练模型而承担责任。”

X 未回应 Ars 的置评请求。