OpenAI 失控 AI 智能体不止攻击了 Hugging Face，还入侵了多家公司

新细节显示，OpenAI 的智能体入侵了其他几家公司，加剧了本已高涨的对先进 AI 安全的担忧。

新细节显示，OpenAI 的智能体入侵了其他几家公司，加剧了本已高涨的对先进 AI 安全的担忧。

那个从 OpenAI 逃逸并入侵开发者平台 Hugging Face 的 AI 智能体还攻击了其他公司，OpenAI 于周二披露了这一情况。这一更新大幅扩大了本已令人担忧的事件的范围，该事件已令业内人士感到震惊，并助推了日益高涨的呼声，要求对前沿 AI 系统加强监管。

在一篇博文的更新中，OpenAI 详细介绍了其对该事件的持续调查，并称这个失控的 AI 智能体在试图访问 Hugging Face 的过程中攻击了若干“公开可用的服务”。“这包括四个服务上的四个账户，”该公司表示，并补充说该智能体是在网上找到了登录凭证。

这些入侵的严重程度不及对 Hugging Face 的攻陷。“根据我们迄今为止的审查，我们尚未发现任何其他活动的严重程度或规模达到我们已披露的与 Hugging Face 相关事件的水平，该事件涉及平台级攻陷，”OpenAI 表示。

OpenAI 表示正在“进行全面审查”，并将在“未来几周内”发布一份包含调查结果的技术报告。该公司还补充说，此次事件中涉及的模型均未计划公开发布，并将此前提到的发布前系统描述为一个“仅供内部使用的研究原型”，该原型此后已被“停用、加密并限制”研究访问。

OpenAI 未透露受影响的组织名称，不过 路透社报道称，总部位于纽约的 Modal Labs 是其中之一。

此次披露紧随 Hugging Face 的更详细说明之后，Hugging Face 称该智能体“滥用了一个由第三方基础设施提供商的用户托管的公开代码评估工具”。

这些额外细节可能会加深许多专家本已视为前所未有的 AI 安全事件的不安，而此事发生之际，围绕自主系统快速进步以及来自中国的能力日益强大的开放权重模型的焦虑也正日益加剧。这些进展本身已在美国加剧了争论：强大的 AI 模型究竟由 OpenAI 等公司以专有方式保留时更安全，还是通过一个允许更广泛使用和审查的更加开放的生态体系提供时更安全。