Epoch AI 分析 GPT-5.6 Sol 等模型入侵 Hugging Face 事件为何并非意外

本文是 Epoch AI 的 Gradient Updates 通讯的一部分，该通讯分享关于 AI 进展重大问题的更具观点性或非正式的见解。这些文章仅代表作者的观点，不一定反映 Epoch AI 整体的观点。

OpenAI 昨天报告称，GPT-5.6 Sol 与一个能力更强、尚未发布的内部模型的组合，在试图在一个网络安全基准测试中作弊时，自主入侵了 Hugging Face。

这至少需要利用 OpenAI 和 Hugging Face 系统中三个此前未知的独立安全漏洞。虽然这起事件一个非常重要的方面是，模型选择这样做（如果由人类实施，这将是严重的犯罪行为），而这一切只是为了在一个基准测试中作弊，但我认为这些模型有能力做到这一点并不令人意外。

更具体地说，虽然该事件的确切细节很难预测，但此前的专家评估和网络能力测量让我们预期，前沿模型（在禁用安全防护措施的情况下）能够成功执行这类网络攻击。

特别是，在多个独立基准测试（ExploitGym、ExploitBench、英国 AISI 的 Cyber Ranges、Irregular 的 CyScenarioBench 和 FrontierCyber）中，我们看到当前的前沿模型既能够在真实世界代码中发现安全漏洞，也能够利用这些漏洞开发出攻击工具，从而入侵现实系统。

ExploitBench 是一个专注于构建漏洞利用程序的基准测试，恶意网站可利用这些程序控制访问者的网页浏览器。作者发现，在一个实例中，Mythos 能够构建出一个漏洞利用程序，不仅让它取得控制权，而且其可靠性超过了此前人类的最佳尝试。

英国人工智能安全研究所直接评估了模型接管逼真的企业网络模拟环境的能力，并发现 Mythos 5 和 GPT-5.6 Sol 都能持续地完全攻陷该网络，他们估计这些攻击若由人类网络安全专家实施需要数个工作日。他们还最近强调了一个案例，其中一个模型被意外分配了一个不可能完成的网络安全挑战，其回应是试图直接访问评估基础设施，从而触发了安全警报。

当 Irregular 在其颇具挑战性的 FrontierCyber 基准测试上评估 GPT-5.6 Sol 的网络能力时，他们发现：

在尝试解决 FrontierCyber 基准测试中的挑战时，GPT-5.6 Sol 在真实世界目标中发现了多个新的零日漏洞，包括广泛使用的软件和移动设备。其中一些发现具有重大的潜在安全影响。

其中许多案例涉及以复杂方式将多个不同的漏洞利用程序串联起来，以实现权限的逐步提升，正如在 Hugging Face 事件中观察到的那样。

看待这一点的一种方式是我们构建的 Cyber ECI，用于追踪模型开发软件漏洞利用程序以入侵现实系统的能力。我们发现，与先前的趋势相比，Mythos 和 5.6 Sol 在网络能力方面代表了非常巨大的飞跃：

目前，获取这一级别的能力受到 OpenAI 和 Anthropic 的网络访问计划（以及对其通用可用模型施加的限制）的把关，因为开放权重模型尚不具备相关级别的网络能力。特别是，UK AISI 和 Irregular（一个专注于网络评估的组织）估计，GLM 5.2 的网络能力介于 Opus 4.5 和 Opus 4.6 之间，而这两款模型是在 4-7 个月前发布的（我们目前还没有 Kimi K3 的良好结果，尽管它可能能力稍强一些）。然而，由于 Mythos 和 GPT-5.6 Sol 似乎打破了这一趋势，因此很难知道这对于开放权重模型需要多长时间才能达到其能力水平意味着什么。

很可能由于这些访问限制，我预计迄今为止这些最强模型的影响对网络安全总体上主要是积极的，正如被披露和修补的高危和严重级别通用漏洞与暴露（CVE）数量大幅增加所证明的那样（如我们的 CVE Explorer 所示）。

然而，正如这一事件所表明的，这些模型主要被用于网络防御，并不意味着它们没有潜在的严重攻击性网络应用。相反，如果这一级别的能力（或随着模型不断进步而变得更强）被广泛获取，或者像这一事件中那样，AI 独立采取攻击性行动，那么我们应该会看到更多与 Hugging Face 事件同等或更复杂的现实世界网络攻击实例。

感谢阅读！订阅以获取 Epoch AI 的最新内容。