英国 AI Security Institute 联合 Thorn 发布防范 AI 生成儿童性虐待材料的安全协议

今天，AISI 与儿童安全组织 Thorn 共同发布了一份新的安全协议，旨在帮助防止 AI 生成的儿童性虐待材料（CSAM）的创建和传播。该协议列出了 AI 开发者、模型托管服务以及 AI 生态系统中的其他参与者可以采取的实际步骤，以降低其系统被滥用于生成 CSAM 的风险。

与此同时，AISI 协助制定的新立法也将出台，该立法将在严格条件下允许经授权的组织测试 AI 模型是否可被用于生成 AI 生成的 CSAM，从而加强保障措施并降低滥用风险。该协议与立法变更共同构成了英国应对日益增长的 AI 生成 CSAM 威胁的更广泛策略的重要组成部分。

日益增长的 AI CSAM 威胁与新立法的作用

根据英国法律，持有和生成儿童性虐待材料已经是违法行为，无论其如何创建。这包括使用 AI、图像编辑软件或任何其他编辑工具制作或修改的材料，无论其描绘的是真实儿童、使用其肖像，还是完全合成虚构的儿童。但 AI 图像和视频工具的快速发展正在改变这一问题的规模和性质。

AI 正越来越多地被用于生成逼真的合成儿童性虐待图像，随后这些图像被传播。互联网观察基金会（IWF）最近的一份报告发现，在一个暗网论坛上，一个月内就出现了 3,512 张 AI 生成的 CSAM 图像。这些材料伤害了真实儿童，他们的肖像被描绘在虐待场景中，并加重了执法部门的负担——除了保护儿童和将罪犯绳之以法之外，他们还须处理更大量的内容，并识别哪些图像描绘了处于真实危险中的真实儿童。

由于目前在任何情况下创建或持有 CSAM 都是违法的，开发者和儿童保护组织无法直接测试 AI 模型，以查看它们是否可能被滥用来生成此类材料。因此，大多数公司不得不依赖间接且不完善的方法。

11 月出台的措施将改变这一局面。这些措施将使政府能够授权少数组织——例如 AI 开发者和第三方组织——在严格条件下测试 AI 模型是否可被用于生成 CSAM，从而从源头上限制 AI 生成的 CSAM 的产生。

AISI 将与内政部合作，与来自业界、儿童安全组织、执法部门和学术界的专家进行磋商，以设计适用于这项新获准测试的条件和操作保障措施。这些保障措施将有助于防止敏感内容泄露，为测试活动设定明确的参数，并保护研究人员的福祉。

新的 AI CSAM 安全协议

今天发布的安全协议由 AISI 和 Thorn 联合制定，并参考了业界和儿童保护组织的意见。该协议的发布补充了英国新的立法权力，指导开发者和平台应如何根据测试结果采取行动，以及应如何在正式测试环境之外管理风险。

该协议面向：

AI 模型和工具开发者。

模型托管平台及其他使用户能够获取模型的中介机构。

它：

提出了安全设计人工智能开发的原则，包括减少模型被提示或调整以生成CSAM风险的措施。

为非开发者组织（如托管和部署平台）提出了识别和缓解滥用的途径，包括监控、访问控制和响应流程。

强调了尚未解决的技术挑战，例如可靠地检测训练数据和模型输出中的CSAM，以指导进一步研究。

我们的目标是，该协议有助于为参与人工智能模型开发、托管和部署的组织应如何采取行动打击人工智能生成的CSAM建立一个基准。它旨在务实且适度，反映在犯罪者迅速适应并积极试图规避保障措施的环境下技术上可行的做法。

超越测试：在整个人工智能生命周期中加强防御

以更强的法律权力赋能行业是迈向更安全人工智能生态系统的必要一步。但我们知道，犯罪者将继续试图在模型发布后滥用模型——尤其是开放权重、本地运行的模型。

即使模型测试拥有更强的法律权力，仅对基础模型进行部署前检查也无法完全防止滥用。需要在人工智能系统生命周期的多个节点进行干预，包括模型的训练、分发和实际使用方式。AISI将专注于理解和应对下游滥用，并加强人工智能CSAM“供应链”各环节的防御。

我们正在：

开展详细的威胁建模，以描绘人工智能生成的CSAM是如何被创建、交换和使用的，并确定最有效的技术和政策干预点。

将这些洞见转化为面向开发者、平台及生态系统中其他参与者的指南和协议，包括今天与Thorn共同发布的协议。

探索我们可以通过资助计划支持哪些外部研究工作，以弥补我们在缓解人工智能生成CSAM能力方面的关键缺口。

综合来看，我们的方法将通过帮助解决立法变革和协议所指出的一些开放技术挑战，并加强整个人工智能生态系统中的保障措施，来对二者形成补充。

下一步

模型测试的新法律权力、与Thorn共同制定的实用安全协议，以及一项聚焦的研究和威胁建模计划，三者结合凸显了英国对人工智能生成的儿童性虐待材料的多方面应对。

我们将继续与政府、行业、儿童安全组织和执法部门合作，减少人工智能生成的CSAM的创建和传播，并帮助保护儿童。我们鼓励人工智能生态系统中的各组织采用该协议，并与AISI和Thorn互动，以共同完善和推进这项工作。