OpenAI发布政府与国家安全合作伙伴关系方针

各国政府正开始将前沿 AI 系统用于日益重要的工作，包括国家安全领域。这为 AI 实验室、政府和公民社会创造了新的紧迫要求，需要共同探讨这些工具应如何在敏感场景中使用。

我们认为，民主社会应当能够利用 AI 来保护人民、保卫关键基础设施、提供公共服务并应对新兴威胁，包括网络防御和生物安全等领域——在这些领域，AI 能够为防御方带来实质性优势。但能力日益强大的 AI 系统必须以强化民主问责、有意义的人类判断和法治的方式部署，并且应当加强民主制度，而非集中权力。

今天我们发布 OpenAI 的《国家安全原则》，以透明呈现我们如何对待政府合作以及我们技术在国家安全领域的用途。

这些原则反映了一项跨公司努力，旨在随着我们技术的持续进步，为我们在国家安全和执法领域的工作制定更全面的方针。我们邀请了领先的国家安全专家 David Kris 协助推动这一进程并提供他的独立判断，在全公司范围内举行了听取意见的会议，并与来自研究和安全到政策和政府合作等各团队的员工进行了交流。

我们现在发布这些内容，是因为我们正在关键防御领域，尤其是网络与生物安全领域，扩大与美国政府及盟友伙伴的合作。在过去一个月里，作为我们 Daybreak⁠ 网络防御计划的一部分，我们已经与澳大利亚、加拿大、日本、韩国、法国、德国、波兰、荷兰以及 ENISA 等欧盟机构建立了“网络可信访问”合作伙伴关系。我们还在网络、测试与评估方面与英国政府建立了不断深化且值得信赖的伙伴关系。我们在生物安全领域也采取类似做法。上个月，我们还宣布扩大对 GPT‑Rosalind 模型的可信访问，面向选定的美国政府及盟友伙伴，以支持公共卫生和生物防御任务。

这些原则适用于我们当前及未来的国家安全与执法合作伙伴关系，包括我们目前与美国战争部的工作。当我们在今年早些时候宣布该协议时，我们明确了几项合同限制：不得将 OpenAI 技术用于大规模国内监控，不得将 OpenAI 技术用于指挥自主武器系统，也不得将 OpenAI 技术用于高风险自动化决策。这些限制与我们今天分享的原则一致。

我们认为，正确的做法是明确说明我们的技术能做什么、不能做什么，并对此保持透明。但政府在 AI 方面许多最重大的问题，尤其是国家安全领域的问题，应当通过民主程序来解答。像我们这样的公司的职责，是帮助为这些决策提供信息，而不是独自做出决策。正因如此，我们支持通过立法努力，针对 AI 一些风险最高的军事用途建立保障措施，包括在国内监控、自主武器系统，以及其他直接影响美国国家安全的 high-risk 用途等场景中。

在此处阅读这些原则。