xAI 起诉 Grok 用户制作儿童性虐待内容，不再否认模型被滥用

面对日益增大的压力——要求其承认 Grok 仍可被用于生成针对成年人和未成年人的非自愿性化图像——xAI 于周二提起诉讼，起诉了埃隆·马斯克旗下公司指控利用其聊天机器人制作非法内容的第一位用户。

该诉讼的被告是 Terry Wayne Harwood，南卡罗来纳州检察官办公室宣布，此人今年早些时候因持有和传播儿童性虐待材料（CSAM）而被捕。

据 xAI 指控，该公司在发现 Harwood 数月来一直使用两个 xAI 账号，对多名受害者的非性化图像进行脱衣或“裸化”处理后，协助了此次逮捕行动。受害者中包括一名看起来年仅 10 岁的幼女。

xAI 提起诉讼的约一周多前，另一名幼女加入了一项拟议的集体诉讼，该诉讼代表多名据称受到 Grok 伤害的儿童。她指控称，她的继父在被发现使用 Grok（可能还结合了其他 AI 工具）生成 7000 张她的性化图像并随后在暗网上传播后，自杀身亡。

在该案中，受害者指控 xAI 拒绝帮助警方识别将她的图像上传至 Grok 的用户。为支持“这是 xAI 一贯做法”的主张，她的律师援引了 2026 年美国国家失踪与受虐儿童中心（NCMEC）的一份报告，该报告证实 xAI 提交的 CyberTipline 报告中，90%“对执法部门而言无法采取行动，因为 xAI 拒绝提供用户信息，导致执法部门无法追踪和定位犯罪者。”

当受害者指控 X 纵容施害者时，马斯克此前一直坚称，他从未见过任何 Grok 生成 CSAM 的实例。马斯克并未着手限制 Grok 的输出以使 CSAM 输出不可能实现，反而警告用户要负责任地行事，于 1 月 3 日在 X 上发帖称，“任何使用 Grok 制作非法内容的人，都将承受与上传非法内容相同的后果。”

然而，当马斯克发帖硬扛此事时，据称哈伍德无视了马斯克的警告，反复向 Grok 输入提示词，次数多到足以让这个聊天机器人生成很可能是未经同意的露骨图像。

如今，马斯克似乎无法否认 Grok 会生成 CSAM。xAI 的诉讼称，哈伍德使用了至少两个用户名极为复杂的账号——“ceae2cb4-a9f6-4885-8ae9-6e2096d084f4”和“befccb94-4029-454d-9f1f-0d4945e8fa7c”——在 12 月 8 日至 2 月 18 日期间生成非法内容。

有时 Grok 的防护措施确实阻止了有害输出，“拒绝遵循”某些提示词，“理由是此类材料违反了 Grok 的内容审核护栏”。诉讼中包含了一个 Grok 拒绝执行的特别令人毛骨悚然的提示词示例，该提示词使用“白色黏液”之类的措辞来掩盖生成性化图像的意图。

不过，那个特定的提示词被拒绝，原因可能显而易见。哈伍德明确要求该聊天机器人“脱掉她所有的衣服”，这直接违反了 xAI 用户条款中禁止要求脱去真实人物衣物的规定。在拟议的集体诉讼中，据称 xAI 对大量不良请求视而不见，在最近一名受害者的案件中，7,000 条有害输出里，xAI 只向 NCMEC 报告了一条描绘“轮奸”的提示词。

为了避免其他恶意行为者绕过防护措施，xAI 没有提供 Harwood 成功使用的提示词示例，也没有描述用于绕过过滤的方法。xAI 仅指控 Harwood 修改提示词以绕过防护措施，“明显违反了 xAI 服务条款和美国法律”，其中包括“部分”涉及“未成年儿童肖像”的“淫秽”图像请求。

南卡罗来纳州总检察长办公室的一位发言人告诉 Ars，Harwood 的案件仍在审理中。具体而言，他被指控“通过使用人工智能平台分发、传输、展示、接收、出售、购买、交换或索取 CSAM”。

该发言人未获授权核实所使用的平台是否为 Grok。然而，xAI 的诉状指控称，“根据信息和确信，Harwood 刑事案件中至少部分涉案图像是通过被告违规使用 Grok 生成或修改的。”

xAI 未立即回应 Ars 的置评请求。

xAI 将责任推给用户的计划

在诉讼中，xAI 阐述了为何只有用户应为 Grok 生成的 CSAM 承担责任。如果法院同意，这一裁定可能会增强 xAI 在即将到来的潜在集体诉讼中的辩护力度，律师估计该诉讼可能涉及数千名受害者。这还可能让 xAI 在任何受害者提出投诉时，随时对其他用户挥下重锤。

xAI 表示，它起诉 Harwood 的部分原因是其违反合同，以避免“巨额律师费”，以及如果其任何据称受害者因其有害使用 Grok 而起诉 xAI，可能面临的“承担巨额损害赔偿责任的风险”。

Musk 的公司主张，法院应将 Grok 视为“一个中立的工具，受用户控制”。

“与任何生成式 AI 工具一样，每一次回复、每一张图像、每一次生成，都是用户提示词和指令的结果，”xAI 辩称。

诉状强调，xAI 的使用条款在安全的 Grok 用途与有害用途之间划出了“一条明确界线”，且每位用户在注册时都同意这些条款。

正如 Harwood 案所涉及的情况，xAI 的条款规定，Grok 用户被禁止使用 Grok“脱去真实人物的衣物或对其进行裸化处理”，或以其他方式利用该聊天机器人修改“真实人物的图像或肖像，以将其置于亲密或性相关的语境中”。用户同样被禁止“以色情方式描绘人物肖像”或“对儿童进行性化或剥削”。

此外还指出，xAI 发现的任何 CSAM 都会被上报给 NCMEC。

在诉状中，xAI 声称 Harwood 应独自为其输出内容负责，因为他“公然违反”了 xAI 的规则，并“竭尽全力规避”Grok 的“技术保障措施”。

xAI 称，Harwood 据称是通过依赖“误导性提示词”做到这一点的。xAI 还辩称，Harwood 在发现自己能够生成非法内容后，也没有自我约束。在诉状中，xAI 声称 Harwood 在第一次利用该聊天机器人制作非法内容后，就应该知道自己已被禁止使用 Grok。但显而易见的是，xAI 并未表明 Harwood 曾收到过任何警告，告知其账号可能面临处罚。

xAI 辩称，相反，Harwood 据称“在相关期间内，在违反 xAI 服务条款之后仍继续使用 Grok”。“他所同意的 xAI 服务条款禁止他在此前违规之后继续使用。”

xAI 希望美国地区法院裁定 Harwood 违反了 xAI 的条款，并违反了他与 xAI 的合同。但或许更重要的是，Musk 希望法院认可一项赔偿条款，该条款规定只有用户——而非 xAI——对 Grok 生成的 CSAM 和 NCII 承担责任。据 xAI 称，当人们使用 Grok 时，他们要对自身的所有内容负责，xAI 坚称这既包括输入也包括输出。

法院是否会认同用户应对 AI 输出负责，尚有待观察。或许值得注意的是，版权局并不认为 AI 输出是人类创作的。如果法院难以理解，为何 AI 工具生成的儿童性图像可被视为由用户创作，而其他任何图像都无法以这种方式获得法律上的作者归属，那么这可能会给 xAI 的攻势带来麻烦。

诉状称，如果 xAI 在这场诉讼中胜出，Harwood 可能需承担巨额损害赔偿，包括对“对第三方造成的任何实际损害”、xAI“面临的潜在第三方索赔和诉讼”以及“xAI 的任何声誉损害”的赔偿。