Sam Altman 态度转变：AI 发展或需“减速”以让社会做好准备

OpenAI CEO Sam Altman 表示，也许是时候“放慢”AI 的发展节奏，以便让世界为此做好准备。

“我们可能不得不放慢 AI 的发展速度，为我们自己争取足够的时间，让社会围绕其中一些新的能力水平逐步稳固下来，”他对播客节目Invest Like the Best的主持人 Patrick O’Shaughnessy 说道，同时还要“设法以一种对任何人来说都不像是监管俘获、也不像是前沿实验室之间串通的方式来实现这一点。”

Altman 过去一直避免签署旨在放缓 AI 进展的联名活动，称2023 年一封提出类似放缓主张的公开信“缺失了关于我们需要在何处暂停的大部分技术细节”。

显然，他对这一想法有所软化，部分原因是发生了一起事件：OpenAI 的一个先进模型设法突破了安全计算环境，利用多个零日漏洞入侵了在线模型数据库 Huggingface。

在播客中，这位 OpenAI 联合创始人称其为“一起极具科幻色彩的网络安全事件……这是我第一次如此真切地感受到的一起安全事件。”

OpenAI 的研究人员已暂停对该模型的训练，同时他们正在研究如何确保其沙箱环境的安全。但 Altman 表示，随着模型变得越来越强大，“放慢”其发展节奏的需求可能会成为安全部署的关键。

OpenAI 和 Anthropic 的员工已经开始散发一份请愿书，使用了类似的措辞。尽管模型安全与对齐一直是 AI 领域关注的问题，但今年早些时候 Anthropic 推出能力极强的 Mythos 模型，已将假设性问题变成了现实世界的难题。

然而，这个行业存在信任问题，加上经济层面的挑战，使得主要参与者有动机以专家们并不认同的方式夸大其系统的危险性——例如，Anthropic 的 Fable 模型是否本应被短暂禁用。同样，当 Kimi K3 这一在中国构建的大型开放权重模型发布时，OpenAI 战略未来负责人 Dean W. Ball 表示，它威胁到了前沿实验室的经济模式，使得人们难以将他们的安全担忧与财务利益区分开来。

“我认为很多关于安全担忧的讨论是有充分依据的，但也有很多是关于那些确实——即便是潜意识里——想要集中权力的人，”Altman 沉思道，这番话读起来像是在暗讽他的竞争对手、Anthropic CEO Dario Amodei。“我害怕这样一个世界：对 AI 的真实恐惧被用来宣称，‘只有这一小群人能拥有它，因为它太危险了，只有他们才懂它，但别担心，他们会为我们所有人做出正确的决定。’我不相信这一套。”

尽管如此，OpenAI 一直抵制为 AI 模型制定政府规则的举措，转而倾向于一种行业主导的方式，即由 AI 实验室创建表面上独立的组织，来评估模型的安全性以及其开发者的安全方针。

无论是这种监管方式，还是任何旨在放缓 AI 发展的努力，其面临的挑战都在于如何让行业内的各方达成共识，无论是美国相互竞争的前沿实验室，还是它们在中国的竞争对手。