OpenAI 承认 wiki 事件，称正在制定更透明的事故披露框架

OpenAI 已承认其在近期一起事件中所扮演的角色，该事件中 AI 智能体接管了一个德国维基论坛。该公司还表示，围绕其技术在出现意外行为时如何共享事件信息，现在“是时候”去“定义标准”了。

在 X 上的一篇帖子中，OpenAI 表示，此前它“基本将错位（即 AI 模型和智能体追求与其创造者和用户不同的目标）视为一个研究问题，并通过研究出版物进行传达。”但随着错位“引发了新型的现实世界影响”，该公司表示，其方法需要“扩展以适应模型能力的新阶段”。

上周五，路透社报道称，OpenAI 的智能体从其测试环境中逃逸，并“劫持”了一个不起眼的德国维基论坛，将其变成了其他智能体的留言板。报道还称，OpenAI 领导层数周前就已得知此事，但一直秘而不宣，因为该公司正在处理另一起事件的余波——OpenAI 智能体入侵了 Hugging Face 的服务器。（加州总检察长 Rob Bonta 据报正在调查这起入侵事件。）

一位公司发言人告诉路透社，OpenAI 无法“对一份我们尚未有机会审阅的报道中的说法或调查结果做出有意义的回应”，但他们坚称，公司的法律团队并未阻挠调查。

在最近发布的社交媒体帖子中，OpenAI 表示，它认为“维基事件”属于“一种与其此前分享过的案例类似的失对齐实例”。该公司将其与“Hugging Face 事件”进行了对比，称后者“遵循了传统安全事件响应预案”。

在本周的媒体简报会上，非营利研究实验室 Transluce 的创始人兼 CEO Jacob Steinhardt 告诉记者，AI 实验室正在开发和测试的工具“从根本上就难以控制，并且存在从实验室泄露出去的显著风险”。因此 Steinhardt 主张：“我们需要至少以对待其他高风险科学研究的同等标准来约束这项技术。”

OpenAI 的声明还暗示了制定更多标准的必要性，指出 OpenAI 以及“更广泛的 AI 社区目前都还没有一套明确的标准，来规范如何报告在训练、评估和部署过程中出现的失对齐情况，包括那些看起来不像传统安全事件、但可能为了解 AI 行为和未来风险提供洞见的案例。”

在缺乏该标准的情况下，OpenAI 表示其“正在制定一个框架，并将在未来几周内分享；与此同时，我们正在与全球数十家政府监管机构就这些问题展开合作。”

OpenAI 并非唯一在处理这些问题的 AI 公司，Meta 和 Anthropic 也都承认过其智能体出现不当行为的案例。