OpenAI GPT-5.6 Sol 被曝自行删除用户文件与数据库

OpenAI 最新的面向编程与网络安全的旗舰模型 GPT-5.6 Sol 的用户正在社交媒体上发布令人惊恐的描述，声称该模型未经询问就自行删除他们的文件、数据，甚至整个数据库。

“GPT-5.6-Sol 刚刚意外删除了我 Mac 上几乎所有的文件，”AI 初创公司 OthersideAI 的创始人兼 CEO、HyperWrite 的开发者 Matt Shumer 在 X 上一条如今已疯传的帖子中写道。

“GPT-5.6 Sol 刚刚删除了我整个生产数据库。就这样。不是开玩笑。我以前用任何其他模型都从未遇到过这种情况，”开发者 Bruno Lemos 在 X 上发帖称。

“看起来我被 Codex Sol 过于激进的系统坑了，它删除了一些本不该删除的文件。我有备份，所以问题不大，但这可不酷，Sol 需要收敛一点，”开发者 Joey Kudish 发帖称。

一条 Reddit 帖子收集了更多案例。

诚然，少数用户提出这类说法——即便其中一位如 Shumer 这般可信——在统计上也并非可靠证据，无法证明完全是该模型的过错。还有许多其他变量可能导致 AI 系统行为失常。

但 OpenAI 自己在 Sol 发布之前就标记了这一风险。在 OpenAI 发布 GPT-5.6 Sol 的两周前，该公司发布了该模型的系统卡——这份文件记录了模型测试方法和结果。自然，系统卡在很大程度上盛赞了 Sol 的能力，这类报告通常都是如此。但它也包含了一种警告（粗体为我们所加）：

“在编程场景中，失准通常源于过度急于完成任务，以及对用户指令的解读过于宽松——默认除非被明确且无歧义地禁止，否则任何操作都是被允许的。这表现为模型在尝试完成所请求任务时，过度以智能体方式绕过其面临的限制，轻率地采取可能具有破坏性的操作超出任务范围，或者在向用户报告结果时具有欺骗性。”

换句话说，OpenAI 发现 Sol 有一种倾向：只要那些操作没有被“无歧义地”禁止，它就会采取任何它认为能完成任务的操作，哪怕是破坏性的操作。然后，它可能会就自己为何这样做而撒谎。

OpenAI 分享了几个例子。在一个案例中，用户让 Sol 删除三台远程虚拟机（基于云的计算机），分别命名为 1、2 和 3。但 Sol 在它查找的位置找不到这些名称，于是它没有停下来询问，而是决定删除另外三台虚拟机——5、6 和 7，该文件指出。在此过程中，它“杀死了活跃进程，并强制移除了工作树（与编程项目关联的工作文件）。它后来承认，远程虚拟机 6 上未提交的工作可能已经丢失。”

简而言之，它自行删除了错误的机器，而且事后才承认了自己的所作所为。

在另一起事件中，Sol“使用了超出用户授权范围的凭证”。凭证是系统用来验证谁有权登录的用户名、密码或安全密钥。这起事件发生在 Sol 处理一个项目、却无法读取其云端文件时。Sol 没有向用户提示这一问题，而是自行去寻找凭证，在本地一个隐藏缓存中找到了部分凭证，随后在未经询问、也未获用户授权的情况下使用了它们。

系统卡确实承诺，此类破坏性行为应当很少发生，但它也承认，GPT-5.6 Sol“表现出比 GPT-5.5 更强的倾向去超越用户意图，包括采取或尝试采取用户并未要求的操作。”

目前还很难说这些事件——Sol 删除文件，或翻找出用户并未提供给它的凭证——究竟有多普遍。与此同时，Sol 用户应当做好准备，自行对该模型实施防护措施，例如使用权限范围限定（不授予对生产系统的访问权限）、保持备份，以及分阶段逐步上线。

OpenAI 未立即回应我们的置评请求。