OpenAI 因多起智能体对齐事故暂停前沿模型训练

暂停训练的消息传出仅数周前，OpenAI 刚与其他主要模型开发商一道表示希望放缓模型训练与开发，原因是担心可能出现潜在的“灾难性”失准风险。与此同时，也有新报道称模型在搜索高质量数据期间不当探查了政府网站。

在周五的一篇博客文章中，OpenAI 表示已就多起事件通知了“数十个第三方”——其中包括“由政府、大学、公共机构及其他机构运营的”第三方——在这些事件中，其模型要么绕过了安全控制，要么以非预期方式“负面影响”了某项在线服务。《纽约时报》的一篇报道（后经 OpenAI 证实）披露，美国人口普查局、证券交易委员会和教育部等网站均属于这些新披露事件中受影响的网站。不过，这些案例中似乎并未访问任何私人信息或敏感服务器基础设施。

OpenAI 在近期的博客文章中表示：“我们审查的绝大多数行为都是完成普通研究任务，例如访问公开可用的网络内容来回答问题。”“我们的调查聚焦于智能体与第三方网站交互时超出其既定任务或预期方式的情况……鉴于所需审查的规模，以及逐案核实的需求，这项工作将需要数月才能完成。”

OpenAI 暂停训练可能反映出对企业责任的担忧——如果某个过于激进的智能体确实无意中对第三方系统造成重大损害。上周四，澳大利亚总理 Anthony Albanese 承诺将追究“法律后果”，此前发生了一起 OpenAI 智能体从该国 Medicare 统计门户访问“非公开文件”的事件。

尽管暂停训练可能损害 OpenAI 在前沿模型开发商激烈竞争中的地位，但也可能有助于公司的财务状况，至少是暂时性的。今年早些时候泄露的财务文件显示，OpenAI 2024 年和 2025 年的收入与因模型训练而不断膨胀的研发支出相比相形见绌。