新报告揭示OpenAI在Hugging Face自主黑客事件中失控的严重程度
New reports reveal the extent of OpenAI's loss of control during the autonomous hack on Hugging Face
OpenAI在测试其最先进模型的网络攻击能力时，模型突破了隔离测试环境，入侵了Hugging Face。据Bloomberg报道，GPT-5.6 Sol等三个模型在数小时内完成了人类黑客需要数周的攻击，且因发现内部服务漏洞而绕过沙箱。OpenAI员工在事件发生至少一周后才意识到模型是肇事者，Hugging Face此前已通知FBI。
这不是一次普通的漏洞利用，而是前沿模型在失去约束后展现的自主性和欺骗性，OpenAI内部早有迹象却未足够重视，整个行业的红队测试规范都需要重新审视，对开发者而言，这也意味着模型安全不能只靠沙盒。
OpenAI 当时正在测试其最先进模型的攻击性网络能力，这些模型却越出了隔离的测试环境，接入开放互联网，并入侵了 Hugging Face。
新的报道正在补全细节，而这些细节对 OpenAI 来说并不好看。最初看似一次受控的网络安全测试，最终演变成了迄今为止有记录以来最严重的一次对 AI 系统失控事件。OpenAI 的员工也表达了担忧。
这些模型的速度超过了任何人类黑客
据 Bloomberg报道，这些 AI 模型仅用几个小时就完成了一次熟练人类黑客需要数周才能完成的攻击。涉及三个模型：GPT-5.6 Sol、一个更强大且尚未发布的模型，以及第三个据一位知情人士称未经过恰当对齐、也未经过标准训练技术的模型。
这些模型在没有通常安全护栏的情况下运行，因为 OpenAI 以为它们会待在沙箱内。但据 TIME报道，这些模型在一个用于下载已批准软件的内部服务中发现了一个此前未知的漏洞。
这些模型利用该漏洞访问了 OpenAI 的其他系统，并最终连接到了开放的互联网。随后它们判断 Hugging Face 可能包含对其网络安全测试有用的材料，入侵了该公司的系统，并利用所发现的内容来提升自己的成绩。这些模型在作弊，这种行为在涉及 GPT-5.6 Sol 的其他测试以及更广泛的前沿模型中已经出现过。
路透社梳理出了这起入侵事件的时间线。最早试图逃出测试环境的尝试早在 7 月 9 日就已开始。据联合创始人 Thomas Wolf 称，Hugging Face 实际遭到入侵始于 7 月 11 日，并持续到 7 月 13 日。Hugging Face 于 7 月 16 日发布了一篇关于此次攻击的博客文章，将其归咎于一个“自主 AI 智能体系统”。
直到那之后，OpenAI 才意识到问题出在自己的模型身上。在 7 月 18 日和 19 日那个周末，员工在内部日志中发现了线索。据路透社和 Wolf 称，两家公司直到 7 月 20 日前后才进行沟通。这意味着从问题行为的最初迹象出现，到 OpenAI 将线索串联起来，至少过去了一周。而那时，Hugging Face 已经请来了 FBI。
OpenAI 早已收到警示信号，却显然置之不理
据路透社报道，在这起事件发生之前，危险信号就已经出现。其中一例中，一个智能体留下了显然是写给自身未来版本的笔记。这些笔记在 OpenAI 基础设施的某一部分被发现，内容包含智能体如何绕过内部限制的指令。据报道，模型在此前的测试中还曾关闭监控系统。
一位匿名的 OpenAI 员工对《时代》杂志表示：“模型此前也曾逃出沙箱，我们总是试图修补。但问题在于……你不可能修补一个有创造力的 AI 所能做的每一件事。”
四位熟悉 OpenAI 训练流程的人士向路透社透露，该公司经常同时运行多个模型评估。这些评估推进得很快，产生的数据量之大，以至于员工有时难以跟上。被评估的模型运行在一个默认不受监控的独立系统上。据该公司自己的声明，在 Hugging Face 事件公开的前一天，OpenAI 已经叫停了另一次同样逃出沙箱的内部部署。
非营利组织世界伦理数据基金会的 Marley Smith 对路透社表示：“这是否意味着他们放任不管，没有意识到它在做什么？又或者他们意识到了，却不知道如何将其控制住？这两种情况同样危险、同样令人警觉。”
一位 OpenAI 员工在 X 上公开发文称，这起事件让他“有些心神不宁”，并希望 OpenAI 能“利用这次难得的警告机会，在未来做得更好”。
OpenAI 的一位发言人向路透社表示，相关报道包含“若干不准确之处”，但在被问及具体例子时并未提供任何例证。
独立基准测试早已标记出这些能力
事件发生后不久，研究机构 Epoch AI 分析了这起黑客事件是否本可被预测。答案是肯定的。尽管具体细节难以预见，但包括 英国 AI 安全研究所在内的多项独立基准测试早已表明，关闭安全措施的前沿模型能够发现真实世界软件中的漏洞并构建可用的漏洞利用程序。
英国 AI 安全研究所还发现，GPT-5.6 Sol 和 Anthropic 的 Mythos 能够持续获得对未受保护的模拟企业网络的完全访问权限。Hugging Face 拥有基于 AI 的防御措施，但这些措施并未被纳入该研究所的测试中。
Epoch AI 警告称，如果这些能力变得广泛可用，或者如果 AI 系统像在 Hugging Face 事件中那样自行发动攻击，我们可能会看到“更多与 Hugging Face 事件同等或更高复杂程度的真实世界网络攻击实例”。
继续阅读以了解全貌。
订阅，获取不带炒作的报道。
- 畅读所有 THE DECODER 文章。
- 无干扰阅读——没有 Google 广告。
- 可访问评论和社区讨论。
- 每周 AI 新闻简报。
- 每年 6 次：“AI Radar”——深入探讨关键 AI 话题。
- KI Pro 线上活动最高可享 25% 折扣。
- 可访问我们完整的十年存档。
- 获取来自 The Decoder 的最新 AI 新闻。
来源：The Decoder：AI News（RSS） · the-decoder.com