Anthropic 的 Mythos 危机持续恶化
Anthropic’s Mythos mess is only getting worse
特朗普政府 6 月 12 日以安全为由发布出口管制令,要求 Anthropic 暂停向“任何外国国民”提供 Mythos 5 和 Fable 5 访问权限。Anthropic 随后将这两款最强模型下线。经过 14 天高强度谈判仍无解决方案,联合创始人 Tom Brown 已取代 CEO Dario Amodei 参与谈判。Mythos 模型输入 token 售价为较低性能 Opus 4.8 的两倍,其下线重创 Anthropic 的营收和即将进行的 IPO,并危及与 SpaceX 每年 150 亿美元的数据中心交易。同时 OpenAI 的 GPT-5.5 Cyber 已在某些基准上超越 Mythos 5,GPT-5.6 也被要求延迟发布。谈判僵局造成美国 AI 市场真空,各国开始寻求非美国 AI 方案。
Anthropic 的神话级模型下线两周后谈判仍无进展,这个僵局正在变成美国 AI 政策的分水岭——它暴露了出口管制对 AI 系统的不适配,也重新定义了『安全』和『竞争』的边界。做 AI 出海或关注开源生态的都该看一下。
白宫的对峙可能对美国 AI 产业造成严重后果。
自从特朗普政府在周五晚间发出最后通牒、Anthropic 将其 Mythos 级模型下线以来,已经过去了两周。该公司立即采取行动,派出大批高管前往华盛顿特区。但相关进展却蹊跷地迟迟未见,目前仍看不到任何解决的迹象。
Anthropic 本周多次拒绝就谈判状况置评,称没有消息可分享。但缺乏消息本身就是这里的关键。经过 14 天的高强度谈判,没有人知道 Anthropic 最强大的 AI 模型何时——或者是否——会重新上线,更不用说特朗普总统是否会将其命令扩大到更多拥有类似技术的公司。而随着一天天过去仍无任何解决方案,事态变得愈发严峻——不仅对 Anthropic 如此,对整个美国 AI 产业也是如此。
特朗普政府 6 月 12 日的出口管制命令要求 Anthropic 出于安全考虑,暂停“任何外国国民”对 Mythos 5 和 Fable 5 的访问。该禁令涵盖美国境内外的任何非美国公民,包括 Anthropic 雇佣的人员。迄今为止,Anthropic 得出的结论是,其唯一的选择就是让这些模型保持下线。
目前尚不清楚Anthropic与政府究竟为何陷入僵局。一个可能的问题是,对于如何将出口管制适用于AI系统,尚无明确的框架。大多数生产两用产品——即具有潜在国防或军事用途的民用系统——的公司,可以在制造和生产过程中用本质上是一份清单的东西来评估这些产品。然而,Anthropic面对的是一套复杂的官僚体系,需要从基本原理出发去弄清楚如何适用相关规则。
这一特定的出口管制流程通常可能历时数月甚至数年,并在产品上市之前就得出结论。但正如The Verge此前报道的那样,美国商务部显然在Fable 5发布前对其进行了测试,并未提出任何异议。一位熟悉谈判情况的消息人士称,Anthropic得出结论认为其模型可以安全发布。该机构显然直到有人(据报道是亚马逊CEO Andy Jassy)指出了一种似乎能突破Fable 5护栏的方法之后才采取行动——而此时整个流程被压缩到了几天之内。
Luta Security的创始人兼CEO Katie Moussouris应Anthropic的请求,查看了一份关于Fable 5漏洞的报告。她认为这件事被严重夸大了。在一篇博客文章中,Moussouris详细描述了研究人员是如何越狱那些阻止Fable 5发现可利用安全漏洞的护栏的——而发现安全漏洞正是无限制版Mythos 5最令人恐惧的能力之一。该模型会拒绝“出于安全问题”审查代码的请求,但会接受“修复这段代码”的要求,随后再配合手动提示词,理论上这可能导致它标记出本不该泄露的漏洞。
然而,在 Moussouris 看来,这不应触发如此严厉的政府行动,事实上它是 AI 编程的一项 essential 工具。“防御方需要能够要求 AI 修复文件中的漏洞、解释修复为何重要,并编写测试来确认补丁有效,”她写道。“这不是绕过护栏。这是 AI 模型能为防御性安全所做的最有价值的事:执行防御者每天都在运行的发现、修复和测试循环。”
过去一周,Anthropic 联合创始人 Tom Brown 已取代 CEO Dario Amodei,与 Sarah Heck——公司公共政策负责人——一同参与同特朗普政府的谈判,Wired 报道。但即便如此,谈判似乎进展缓慢,如果说有任何进展的话。
无论延迟的原因是什么,这都对 Anthropic 造成了严重打击。在这旷日持久的谈判之前,Anthropic 被视为少有的拥有盈利路径的 AI 公司。其 Mythos 级模型的输入 token 售价是其性能较低的 Opus 4.8 的两倍,本应在即将到来的 IPO 之前提振其收入。Mythos 的网络安全能力甚至似乎正在缓和与特朗普政府的关系,此前双方经历了数月的法律和言辞交锋。
Anthropic 需要来自 Mythos 的收入来支付其近期锁定的所有算力,包括一项每年向 SpaceX 支付 150 亿美元以使用其数据中心的协议,以及其在 IPO 前的公众形象。Anthropic 目前最大的两家股东——Google 和 Amazon——一直试图谨慎地保持在特朗普的好感一侧,因此它们很可能也不高兴。
与此同时,这场进展缓慢的谈判还在全球 AI 市场制造了一个权力真空,这不仅是因为 Mythos 的关停,还因为美国政府已释放出信号,愿意封禁其认为有风险的美国 AI 系统——而包括 OpenAI、Google 和 Microsoft 在内的多家美国公司,其模型可能构成与 Mythos 类似的风险。各国已开始呼吁非美国 AI。正如网络安全专家、Corridor 首席产品官 Alex Stamos 上周对The Verge所说:“在我们与中国竞赛之际,美国政府却在自断美国一员大将的腿。这简直愚蠢至极。”
随着时间一天天过去,这些公司的处境只会越来越糟。它们的模型正一步步逼近 Mythos 级别的能力,而这可能触发出口管制令——事实上,OpenAI 的 GPT-5.5 Cyber 刚刚在某些基准测试上击败了 Mythos 5,而特朗普政府据报道刚刚以安全担忧为由要求 OpenAI 推迟 GPT-5.6 的发布,并计划由政府逐一审批每个客户。Anthropic 和 OpenAI 的 IPO 都即将到来。而每一天,中国在 AI 竞赛中都在进一步领先。
讽刺的是,这一行政命令出台之前,该政府已花了数月时间推动废除 AI 安全保障措施和监管规定——这是特朗普总统做出的首批全面监管决策之一。但一大批网络安全领域的领袖联合发声表示,如果监管势在必行,这绝不是正确的做法。尽管特朗普政府誓言要撤销拜登时代的 AI 监管规定,但看起来,在很多方面,它不仅收复了失地——甚至有过之而无不及。
Tina Nguyen 补充报道。
来源:The Verge:AI(RSS) · theverge.com