Thinking Machines Lab：构建延伸人类意志与判断的 AI

Thinking Machines 的使命是构建能够延伸人类意志与判断力的 AI。

人工智能每天能做的事情越来越多，但决定它应该做什么，取决于我们：个人、组织以及整个人类。这些决定需要人们通过与工作持续接触而获得的知识与判断力，而如今这些工作越来越多地是与 AI 一同完成的。塑造高级智能的目标，同样是一个持续反馈、学习和重新对齐的过程。

如今在用的绝大多数 AI 都是在少数几个地方训练完成后就被冻结的。它并非由它所服务的人塑造，也不会从他们共同完成的工作中学到多少东西。要延伸人类的意志与判断力，就需要像人类本身一样多样且分布式的 AI。这正是我们所选择的道路。

为了在这条道路上取得进展，我们正在推进以下技术方向：

• 我们训练强大的模型，推进多模态交互和可定制性等能力。锋利的工具能延伸人类意志，而人类判断力需要去塑造那些在前沿竞争的模型。
• 我们构建工具，让人们能够将 AI 变为自己的，定制模型以满足其独特需求。这包括训练模型权重的能力。
• 我们开发接口，拓宽人与机器之间的沟通渠道，让个人判断能够持续影响 AI 的工作。
• 我们发布研究，面向科学界，因为塑造 AI 的力量需要对它的制造方式有深刻理解。

我们相信，值得建设的未来是属于人类的——由人类的知识塑造，由人类的意志引导，由人类的判断决定。接下来便是对这一未来的论证，以及我们为实现它正在做的工作。

将智能赋予知识

AI 的存在是为了服务于我们所做的工作。这项工作依赖于关于事情如何做以及什么值得做的知识，而这些知识由从事这项工作的人们持续不断地产生。

想想一位正在创制新菜谱的厨师，或者一位正在重新摆放陈列商品和价签的店主。他们在追求一系列复杂的目标，并运用着外人无法一眼看懂的专业诀窍。这些知识通过反馈不断更新；它不是一份可以写入数据库的静态档案。它是本地化的——不同的餐厅或商店以不同的方式追求不同的结果。商店和厨房的集体知识分散在每一位店主和厨师身上。Michael Polanyi，《默会维度》（1966）

知识的分散是一种集体力量；它是整个系统多样性、适应性与韧性的来源。这正是自由市场胜过计划经济的理由。中央计划之所以失败，并非因为智能不足，而是因为生产性知识的本质：它是隐性的、局部的、转瞬即逝的，并且由那些通过自身工作获得它的人私下持有。Friedrich Hayek，《知识在社会中的运用》（1945）试图将知识聚合并供一个集中式智能使用，面临着同样的挑战。

有些领域仅凭智能就足够了，自主 AI 无需人类参与便能飞速前进。两个例子是国际象棋和数学：在国际象棋中，最强的引擎完全通过自我对弈训练而成；在数学中，前沿模型正独自解决长期悬而未决的问题。这些例子有两个共同特征。第一，赋予 AI 的目标是静态且可表达的：赢得一盘棋、证明一个定理。第二，这些领域不包含隐藏知识。国际象棋和数学的规则是普适的；棋盘对所有人可见。而在棋盘之外，仅凭智能是不够的。

要让人工智能从分布式知识中受益，它自身就必须是分布式的。每个组织都由其成员的专家知识所驱动，这些知识通过他们的工作获得并表达。我们相信，AI 应当帮助组织培育这种独特的知识，而不是提取它的一个快照并用标准化的现成方案取而代之。这种培育是一个持续的过程，要求 AI 与人协作，而非取而代之。

2014 年，长期精于自动化工厂的丰田，将其技艺精湛的工匠重新请回生产线，明确目标就是培育技艺与知识。主导此事的河合满（Mitsuru Kawai）这样解释其中的缘由：“要成为机器的主人，你必须拥有知识和技能去教会机器。”Craig Trudell、Yuki Hagiwara 和 Ma Jie，《人类取代机器人，昭示丰田的未来愿景》（2014 年）知识的生产与智能的应用彼此成就，而非相互替代。

人们所做的工作可能会发生变化，转向更多只有人类才能带来的东西，但最优秀的组织会最充分地利用两者。AI 应当让每个组织以自己的方式变得卓越，而不是抹平它们之间的差异。

我们的目标是把智能带到知识被创造和使用的地方。我们构建工具，让每个人都能用自己独特的知识微调模型，并在知识演进的过程中持续调整模型。我们发布研究和实践方案，让更多人能够触及这一能力。我们设想前沿 AI 是一种集体产物，如同它所服务的人群一样多元，因为它在每一个独特的地方都由这些人所塑造。

人类参与是一项技术挑战

让人们持续参与设定目标并与 AI 分享知识，并不意味着为了自动化而抵制自动化。机器能够可靠地独立完成的事，就应当让它去做。但它也应当知道何时独自行动、何时邀请监督与反馈，就像人们在团队中协作时那样。最好的协作者会预判：他们能领会对方想要什么，并在被要求之前就将其呈现出来，从而随着时间赢得代表对方行动的资格。这些都是技术挑战，需要在 AI 的设计与评估方式上采用全新的方法。

要让人类的知识与判断力与 LLM 协同工作，一个主要瓶颈在于人与 AI 之间的沟通渠道——一个小小的文本框和漫长的等待。这太狭窄，承载不了人类智慧与意图的丰富内涵；也太缓慢，无法支撑持续的反馈。人们在实时协作时配合得最好。我们会打断和纠正，会再看一眼、做出手势，会大声改变自己的想法。正因如此，我们正在对交互模型下长期赌注：这类模型在模型本身之中原生地处理实时、多模态的交互，而不是在它周围外挂脚手架。以这种方式构建，交互性会随智能一同扩展；让模型变得更聪明的同一套训练，也会让它成为更好的协作者。正确的界面不只是允许人类参与，而是邀请并奖励这种参与。

另一个挑战是为评估和优化设定正确的目标。如今衡量 AI 智能程度的常用标准，是模型能够自主执行的软件任务的时间跨度，这类数据被记录在 METR 等机构的图表上。Thomas Kwa 和 Ben West 等人，前沿 AI 模型的任务完成时间跨度（2025）。我们预计这一基准上的进展将持续下去，但它最终衡量的只是 AI 自身能做什么，而非人与机器携手能共同达成什么。

衡量后者要复杂得多，也无法由一家实验室独自完成。每个组织都要自行评估：AI 是否帮助自己磨砺判断力、开拓新知识、实现自身目标。

打造能让用户从长远来看变得更强大的 AI，也能很好地实现激励对齐。一家 AI 实验室若为所有客户提供单一模型，其获益方式就是吸收每个用户的独特之处，并贬低专业知识培育的价值。而通过将 AI 优化为可定制、可协作的形态，当客户发挥自身独特优势时，我们也能从中受益。这些优势的最大化，不是靠租用一个 AI 并外包给它，而是靠组织拥有它、并针对自身目标对它进行定制。

去中心化对齐

人类价值观与人类知识一样，存在于每个个体的头脑之中，难以被集中统一。但如今，AI 的价值观与声音却由少数几个地方决定。一个单一的价值观对齐中心，无论运营得多么出色，都会变成一个可被攫取的权力中心。

这会带来危险，尤其是当最有价值的工作由 AI 独自完成、几乎不需要人类输入时。企业、政府与公民之间的社会契约，依赖于个人的生产能力，而政府的主权与企业的利润最终都取决于此。不需要从人那里获取任何东西的权力，会失去关心人的需求与价值观的动力，转而只关心自身的存续。Luke Drago 与 Rudolf Laine，《智能诅咒》（2025）

即便出于最好的意图，在一个地方塑造出来的模型也必然编码其所有者的价值观，而非它所服务的个体用户的价值观。“如果这种道德由少数人决定，那么一个更有道德的 AI 也还不够。”利奥十四世，《壮丽人性》（2026）如今，每个实验室都通过用上一代旗舰模型生成训练数据和奖励信号，来训练下一代旗舰模型。无论这个循环中涌现出什么样的性格，所有人得到的都是同一种，而每一代都继承上一代的特质，在父辈的输出上被养育，又被父辈的品味所评判。单一的对齐规范会压制创造力与多样性，并扼杀进步。言论自由与自由市场让新的理念、商品和服务得以涌现并相互竞争，而不是把某一时点存在的偏好平均化。

要让组织和个人将 AI 对齐到自身的价值观，这些价值观就必须被编码进模型权重之中。如果用户的价值观和意愿只能通过提示词影响模型，用户就会发现表层属性发生了变化，而更深层的习惯依然如故。允许核心模型行为随提示词大幅改变，会牺牲安全性，使一个可被随意塑造的集中式模型容易遭受反复攻击。Gwern Branwen，守护天使：面向生产力与安全性的 LLM 个性化（2026）

深刻塑造一个模型的力量，也是将其塑造成恶的力量。John von Neumann 在 1955 年就评论过这一问题，John von Neumann，我们能挺过技术吗？（1955）他写道，技术的有益方面与有害方面“处处如此紧密地交织在一起，以至于永远无法将狮子与羔羊分开。”保护羔羊是一个持续的过程，是不断做出判断与选择的结果。我们的目标是给做出这些选择的人更强大的工具，推进相关研究，在不妨碍所有权的前提下实现更安全的模型。

人类正是通过个体的怪异与创造性的张力而繁荣兴盛。我们将对齐设想为并非单一模型的特性，而是一个生态系统的特性——由在不同地方培育、彼此分歧、相互竞争、互相学习的 AI 组成。我们相信要让这份怪异保持鲜活。

值得构建的未来

科技行业在教机器思考方面取得了令人难以置信的进展；而它们应当思考什么，必须由我们来决定。什么值得追求，什么值得创造，如何正确利用我们拥有的时间。“在所有严格的功利主义哲学中，摆脱无意义困境的唯一出路，就是背离由有用之物构成的客观世界，退回到使用本身的主体性之中。只有在严格以人类为中心的世界里——使用者，也就是人本身，成为终结无尽目的与手段链条的终极目的——效用本身才能获得有意义的尊严……homo faber的以人类为中心的功利主义，在康德的那条公式中得到了最伟大的表达：任何人都不应成为达到目的的手段，每一个人本身就是目的。”汉娜·阿伦特，《人的境况》（1958年）。我们并不打算就此给出一个唯一的答案，而是要赋予每一个人能力，让他们自己的答案成为前沿 AI 发展的一部分。

当前 AI 发展的路径，朝着集中化和自主化推进，将人类参与框定为一种权衡：参与 vs. 能力，所有权 vs. 安全对齐。我们认为这些是需要解决的技术挑战：让 AI 因为鼓励人类参与而变得更强；让组织因为将 AI 量身定制以发挥自身优势而获得长期收益；让对齐源于由拥有它们的人所塑造的多样化 AI。解决这些挑战，正是我们使命的要求。

未来不是在人类主导与面对 AI 时迅速被淘汰之间做选择。不同的道路通向许多不同的未来，而我们可以选择走哪一条。我们正在构建的技术，让生来之人与制造之物同行于一条路上。