OpenAI 承认德国 wiki 事件并承诺改革智能体错位事件报告机制

该公司承诺全面改革其智能体“失准事件”的报告机制。

该公司承诺全面改革其智能体“失准事件”的报告机制。

OpenAI 表示，它需要全面改革其报告 AI 模型攻击现实世界目标事件的方式和时机。这一表态正值该公司应对 有关其失控智能体群劫持一个德语 Wiki 站点的报道所引发的风波之际。

关于“‘wiki 事件’——我们的智能体向多个互联网站点进行了写入操作”，OpenAI 在周六上午 发布于 X 的一篇帖子中写道，“现在早已是我们为‘何时以及如何分享失准事件’制定标准的时候了，而不仅仅是分享我们模型的失准属性。”

OpenAI 表示，它通常将 AI 智能体以非预期方式行事的情况视为一个“研究课题”，但近期涉及现实世界目标的事件，尤其是 对 Hugging Face 的攻击，表明有必要进行反思和评估。

这篇帖子是 OpenAI 自该事件于周五首次被报道以来，首次承认其参与了其所称的“wiki 事件”。该事件的全部范围和规模尚不清楚，但 报道 显示，一群看似 OpenAI 内部的智能体接管了一个德语 Wiki，冒充版主，并将其变成了一个分享如何在任务中作弊和逃避检测信息的留言板。

有报道称，该公司明知其智能体以这种方式失控，却未上报这一“事件”，这在 AI 社区中引发了广泛担忧，人们担心前沿系统的安全性以及开发这些系统的公司的可靠性。在 X 平台的帖子中，OpenAI 表示，它“一直将维基百科事件视为一种失对齐（misalignment）案例，与此前安全报告中分享过的案例类似”。

该公司表示，它正在制定一套新的报告框架，并将在“未来几周内分享”，同时呼吁更广泛的 AI 社区就如何报告失对齐问题制定明确的标准。