Alex Imas 和 Phil Trammell：AGI 后什么仍然稀缺？

AGI 经济学特辑，嘉宾是 Alex Imas 和 Phil Trammell。

关于我们如何应对 AI，有一大堆重要问题只有经济学才能回答。

对即将产生的财富，征税和再分配的最优方式是什么？不在 AI 供应链中的国家应该如何分享这些收益？是否存在不平等不会爆炸式加剧的情形？

这些问题看似答案显而易见，但经济学教给你的第一件事就是，你的直觉往往可能完全错误。

和 Alex 与 Phil 把这些事情聊透，非常有帮助。

00:00:00 – 资本份额会增加吗？

今天和我对谈的是 Alex Imas，他是 Google DeepMind 的 AGI 经济学总监，也是 芝加哥大学经济学教授；以及 Phil Trammell，他是 Epoch 的经济学负责人，也是 斯坦福大学的研究学者。

总的来说，在这次访谈中，我想弄清楚的是：经济学能告诉我们，在一个自动化程度越来越高、AI 越来越先进的世界里，我们可以预期什么。我想理解的是，这能告诉我们工资和劳动收入份额会发生什么变化，对 AGI 所创造的财富征税和再分配的最佳方式是什么，以及哪些东西会变得稀缺。什么稀缺，就决定了价值会向哪里汇聚。

我想从这里开始。有哪些可能成为稀缺之物的候选者？

Alex Imas

比如所谓的关系型部门，它的定义是那些"有人在环"这一事实本身就是产品价值一部分的服务和商品。因为人类天然是稀缺的，如果我们实现了自动化，让许多其他东西不再稀缺，那么那些有人参与、有人在环的事物仍然会保持稀缺。

我很好奇，人类为其他人类提供服务，这件事究竟能不能成为经济中很大的一部分。这里或许有一个帮助直觉的思考实验。在一个 AI 能在物理上做任何人类能做的事情的世界里，会存在一整套机器经济——它们在建工厂、做研究、提出新想法。人类可能会、也可能不会参与到这些东西的物理生产中，但如果机器人技术被解决了，在最终的极限状态下，人类大概率不会参与。如果你并不在乎人类是否参与这个过程，那他们为什么会被卷入其中呢？

但接下来还有你指出的另外一些情况，在这些情况下，我们确实希望芭蕾舞演员或咖啡师是人类。这正是去咖啡馆或看演出的价值所在。但只有人类才有这种偏好。因此存在这样一种人类经济，即人类彼此提供服务，而他们的一部分财富正流向其他人类。

但他们的一部分财富也在向外流出，因为他们会想要这个纯机器经济所创造的一些自动化商品。这不是一个闭环。纯机器经济中的许多东西是一个闭环，因为机器并不在意让人类咖啡师给它们做一杯咖啡。

在那个模型中，纯人类经济所占的份额会变得越来越小，这难道不是内在必然的吗？

Alex Imas

我想提议换一种方式来表述这个问题。我的观点是，像我们这样的经济学家作为个体所做出的预测，就其个体预测本身而言，未必有多大用处。

有一篇博客文章由Andrey Fradkin, Brian Jabarian，以及Andrew Koh昨天发布，研究了经济学家对劳动力市场的预测。他们发现，各个方向上都存在大量分歧。

他们所主张的——我也同意这一点——是与其考虑单个预测，我们不如构建预测市场，从而获得聚合预测和群体智慧效应。我之所以这样认为，是因为我们在预测方面一直表现得出了名地糟糕。

让我们一路回溯到 1820 年。我们一直在进行的这场辩论实际上已有 200 年历史。David Ricardo是古典经济学家之一，而非新古典经济学家。当工业革命开始发生时，他写了一堆东西说：“这对所有人来说都会是好事。价格会降下来。”但随后他话锋一转说：“等等，我能看到所有这些创造价值的岗位都将被这些机器自动化。这会非常糟糕。所有人都会失业，而且会出现政治动荡。”

而如果你看看 Ricardo 的预测，它们实际上是对的。Ricardo 那个时代所有赚钱的岗位都被自动化了。如果 David Ricardo 醒来，有人告诉他所有那些岗位确实都被自动化了，然后问他：“你认为 2026 年的壮龄就业率是多少？”我想他会惊讶地得知，除了 2000 年之外，这是有史以来最高的。我们拥有自 2000 年以来潜在可就业人口中就业人数最多的水平。那曾是峰值，现在基本上算是第二个峰值。

大卫·李嘉图最终忽略的是，存在这样一种结构性变化的经济学：一切被自动化的东西都变得廉价。人们有了更多钱可花，于是开始把钱花在服务上。这就是劳动总量谬误。大卫·李嘉图没有考虑到新工作会被创造出来。

但钱会流向服务业，这一点并不显然。为什么它不会流向更多自动化的商品之类的东西呢？我用这个轶事并不是想说这就是现在将要发生的事，也不是说我们将实现充分就业。我用它是想说明，做预测真的很难。

经济学家可能拥有一个真正有用的工具，那就是反过来从一个前提出发。也许我们从今天开始：劳动份额为零。劳动份额已经下降了。究竟什么能解释这一点？让我们写下一个关于所发生之事的经济学模型。Phil 今天晚些时候会谈到这个。或者你可以写下一个模型来问：“如果劳动份额保持不变呢？什么能让这种情况发生？”

如果你们从我这里在这场对话中什么都没记住，请记住这一点：我们没有任何数据。我一直在说，我们需要一个数据领域的曼哈顿计划。我们没有关于消费者需求弹性的数据。我们不知道它们是什么。我们并没有真正追踪哪些工作正在被创造或摧毁。O*NET 数据库包含了所有任务和不同职业，但很少更新，质量极低。

真正有用的是去思考各种潜在情景，把它们一一描绘出来，并说明稀缺性的哪个维度会催生哪种情景。如果是充分就业，我们可以讨论关系型部门。如果劳动份额崩塌，我们可以讨论其他类型的情景。这会告诉我们应当收集哪些数据。

这里大概值得快速定义一下劳动份额和资本份额。整个经济，即所有售出商品和服务的总和，要么以工资形式支付给人们，要么支付给资本，也就是说，有建筑物的租金，以及公司股东获得的分红。

几百年来，大约 60% 的经济体以工资形式支付给人类，另外 30-40% 支付给拥有机器、土地和公司权益的人。问题在于，如果现在 60% 是支付给工资的，那么随着 AI 变得更聪明、更强大，这个比例会缩小吗？

Alex Imas

这是一个Kaldor 事实。我们应该强调这一点。在工业革命之后，以及我们所见过的一切自动化之后，这个比例仍然超过 60%，这令人极其惊讶。有些人担心它一直如此恒定其实是一个会计错误。

目前甚至还有一场争议。有人可能会说，劳动收入份额在过去 20 到 30 年里一直在下降。但过去 30 到 40 年里发生了很多会计口径的变化。例如，Atkinson有一篇论文表明，如果你在这些年里保持会计口径不变，劳动收入份额其实从未下降过。

但这并不那么令人意外，对吧？Phil，你提出过这一点：如果劳动力和资本是互补的，那么要做成任何事都需要两者兼备。你需要同时为两者付费才能把事情做成，这是说得通的。

Alex Imas

确实有些东西已经被完全自动化了。

Phil Trammell

从某种意义上说，目前还没有任何东西被完全自动化。看看一种商品经过网络调整后的要素份额。沿着供应链往下看，不要只看最后一步，看其中有多少是由资本和劳动力完成的，还要看那些能够自动化最后一步的机器本身又投入了什么。你会发现，劳动力在供应链下游贡献了大量价值。

在美国，计算机与电子产品经网络调整后的资本份额非常稳定，大约在 50% 左右。并不是 100%。我确实认为会出现这种质变——我想我们都同意它即将到来——那就是至少会有一些商品，其经网络调整后的资本份额会趋近于一。整条供应链都可以被自动化，其中没有任何一个环节是我们出于内在原因而希望由人来完成的。那将是一种质变。

有趣的是，这种转变对整体资本份额的影响是模糊的。假设我们有两个部门：以芭蕾舞演员为代表的“人类内在”部门，以及其他所有部门。目前，其他所有部门之所以稀缺，是因为其中缺乏劳动力。但如果我们把其他所有部门的供应链完全自动化，并且很快就在其他所有方面得到满足，那么所有非芭蕾舞演员相关物品的数量会趋于无穷，但这些物品的边际效用下降的速度会快于数量上升的速度。

Alex Imas

我也想抛开芭蕾舞演员这个例子。我在我那篇文章中试图表达的观点——从一个特定场景倒推——是芭蕾舞演员和表演者是错误的参照类别。目前我们有很多工作，其中包含不同的任务。这就是基于任务的工作模型。以医生为例，他们的工作是什么？他们在填写保险文件。他们在给不同的制药公司打电话。他们的任务之一是看病人并与他们交谈，但这并不是工作的主要部分。

你可以有一份工作、一项服务或一种商品，它们由不同类型的任务构成，而你可以把其中大量任务自动化。如果消费者愿意为这样一款产品或服务支付更高的价格——其中每一项任务都已自动化，唯独医生给出诊断并提供支持的那一部分除外——我们就会把这份工作归入关系型部门。人们愿意为让人类留在工作流程中而支付更高的价格。

我们没有数据可以断言“这些是关系型工作，这些不是”。你确实需要收集下面这类数据。对人们为这项服务或商品付费的意愿做一次联合分析。这里是所有环节都由机器生产的反事实情形。这里是其中某一项任务不由机器生产的反事实情形。你的付费意愿是多少？你对让人类不留在流程中的弹性是多少？

如果我没有那些数据，在这个叙事里我能做出什么预测？

难道不存在另一个论点，即有很多完全自动化的商品甚至还不存在？而你现在根本无法收集任何数据，比如说，人们会有多想不断购买越来越多某种由 AI 完全生产、能让你更健康的药物。

Alex Imas

完全正确。这正是 Phil 的观点。资本品的种类可以不断增加，从而不会出现饱和。你在增加种类，所以你不会触及那个边际效用递减的临界点——即你的大部分收入都流向人类部门的那个点。如果这种种类的增加足够快，而人类部门却没有类似的种类增加，那么你想要多少关系型商品都能得到，但这对劳动份额毫无影响。它会归零。

Phil，我很喜欢你拿一位蒙古经济学家作类比，想象他在 1400 年坐在那里思考什么会变得稀缺，以及这类分析的局限。我觉得你应该谈谈这个。

Phil Trammell

只要看看遥远过去的蒙古人所能获得的商品就知道了。我并非这个社会的专家，但我知道他们拥有的种类远不及我们现在丰富。看看那些本质上属于人类的工作，比如当一名歌手。然后再看看那些本质上不属于人类的东西，比如他们的马匹所提供的运输服务，或者他们所能获得的各种食物。

如果他们只是把两个类别中的种类都固定不变，然后问：“一旦我们拥有了多得多的自动化，会发生什么？”，他们可能会说：“我们只会在马匹式的运输、酸奶和蒙古包上达到饱和。这些份额都会归零，而我们最终会把所有的钱都花在歌手身上。”

但当然，事实并非如此。随着我们积累了更多财富和更先进的机器，我们扩大了除歌手之外花钱的领域，而花在歌手身上的比例一直微不足道。同样，这就是我对未来如何展开的核心预测，尽管它也可能朝任一方向发展。

我本来想提出一个观点，但我意识到这是个谬误，不过它之所以是谬误的原因很有意思。只是很难想象这样一个世界：有数万亿又数万亿的机器人，但只有区区几十亿人类，而我们花在机器人上的累计金额却少于我们付给 Magnus Carlsen 或——

Alex Imas

财务顾问、医生或家教。

对，或者播客主之类的。但后来我意识到为什么这是个谬误。世界上晶体管的数量确实增长到了万亿倍，也许是千万亿倍。你的同事 Chad Jones有一项非常有趣的研究结果，关于经济中用于支付计算、支付晶体管的比例一直在下降。

你提出的观点是，理解摩尔定律的一种方式是……什么决定价格？供给和需求。所以我们不仅在生产更多更便宜的晶体管，而且边际晶体管的价值也在下降。正如你所说，摩尔定律的另一种表述方式是……

Phil Trammell

我喜欢对摩尔定律的那种悲观解读：每 18 个月，计算的价值就会减半。我们消耗计算用途的速度如此之快，以至于正是这一点在维系着摩尔定律。

这与一场关于 AI 的对话相关，而在这场对话中，或许这是第一次，上述情况不再成立。这里著名的事实是，H100 现在的租用成本比三年前更高，尽管我们拥有更优越的技术，世界上的算力也多了得多。因为随着模型变得更聪明，算力的机会成本也更高了。

Alex Imas

这就是 Phil 关于多样性不断增加的观点。我们所做的是增加了人们向资本索取的东西的种类。现在突然间你有了可以投入资本的新种类，于是你又跳回高位。

你可以想象，我们对算力的需求永远不会饱和。只要这种情况持续下去，经济中流向算力的份额就会不断增加。

Alex Imas

这才是大问题。这才是我们需要审视的终极问题。我们正在为这些算力找到多少种新用途，而这些用途又存在需求？我想强调的是，经济学中的许多模型，尤其是在我们所讨论的这个领域，几乎都把需求视为外生变量。它们没有深入剖析人们真正想要什么背后的心理。

让我开始思考“关系型部门”这个概念的是我此前做的一项研究，它表明似乎确实存在这种内在价值。这不仅仅是因为它稀缺；而是因为人们对共情、联结以及与另一个人互动有着某种内在偏好。

我们做过的一项实验涉及一幅艺术印刷品。我们用一种激励相容的方式来询问：“你愿意为这幅艺术印刷品付多少钱？”人们确实是在用真金白银来购买。然后我们告诉他们：“看，这幅艺术印刷品只有一件，它要么是 AI 创作的，要么是人创作的。”这些是组间条件。在其中一种条件下，你会得到这样的效应：人创作的艺术印刷品被赋予的价值远高于 AI 版本。

然后，在另一组条件中，我们告诉他们这类作品会制作 500 件。对于人创作的那一件，价格大幅下降，因为它不再被视为与这位特定艺术家建立联系。而对于 AI，则没有差别。AI 已经被视为一种大宗商品。

我们需要在这方面做更多研究，但看起来这就是它与马之类的东西的关键区别。马是某种产出的一种投入，你可以用别的东西来替代马。你只关心产出。

这种关系性叙事唯一能成立的方式——也正是我们需要更多数据的地方——是如果人类不像马那样，也就是说，人类通过产出提供价值，而一旦替换掉人类，产出的价值就会下降。如果这种效应不够强，如果它不足以适用于足够多的行业或足够多的工作岗位，那么这个叙事就不再成立了。

00:19:36 – “混乱中间地带”情景

有一种可能性是 Molly Kinder 写过的，即 “混乱中间地带”（Messy Middle）情景。这种可能性让我思考，至少在财富分配和再分配方面，是否 AI 起飞速度更快反而更好。

我想问你，以下这种可能性到底有没有可能发生，或者是否存在某组假设能让它成立。AI 使得工作可以被自动化，以至于许多人正在失去工作，但在自动化推进的过程中，它并没有创造出足够的财富来基本上补偿那些被裁掉的人，并创造一个 帕累托改进，即所有人都因为 AI 自动化而变得更好。

当然，从一种显而易见的意义上说，这一定是真的。公司通过不付钱给人类而只付钱给 AI 所省下的任何钱，这些资源仍然存在于经济中，可以直接支付给人们。

但会出现一些配置效率低下的问题。政府并不确切知道谁是因为 AI 而被裁员的。这里存在一个政治问题。如果 Meta 的员工最先被裁，而他们原本年薪 20 万美元，当还有许多工作的人收入远低于此的时候，你每年给他们发 20 万美元的支票，这在政治上可持续吗？你觉得这种情景可信吗——AI 正在自动化一大堆东西，但财富创造并没有自动化那么多？

Phil Trammell

我认为这是可能的。对我来说，这确实像是一个相当狭窄的窗口。我的猜测是，如果我们拥有的技术能够自动化如此多的工作，以至于它成为一种新的政治问题，那么蛋糕也会增长得非常快。

嗯，除非在所有这些职业中，自动化带来的生产力提升都只是微乎其微。也就是说，替换所有软件工程师所需的全部资本成本，只比我们一直付给软件工程师的成本略低一点点。

为什么一家公司通过裁掉一堆软件工程师来省钱是不可信的？从长远来看，存在杰文斯悖论，我们无法预先预料到我们会用更多的软件做什么，而且肯定会有更多用途。但在短期内，效果就是很多人被裁员，而他们仍然需要弄清楚如何用多出一百万倍的 JavaScript token。

Alex Imas

Phil 和我一直在写这些东西，我们的模型背后有数学模型支撑。但我们的任何模型里都没有任何政治经济学。

Andy Hall写了一篇非常好的关于AGI 政治的博客文章，他提出了一个非常有趣的观察。如果失业率上升 2%，政治风向就会彻底改变。失业率对政治走向有着巨大的影响。

提到 Molly 那篇出色的文章，我认为从某些方面来说，最糟糕的情景之一就是“滴水式”情景，因为其中涉及政治经济学因素。你可能看到的是，人们并非真正大规模失业，而是转入薪酬更低的行业。这正是 1920 年至 1940 年间电话接线员的遭遇。电话接线员的工作被完全自动化，尽管技术早已存在，却花了 20 年时间。就是这种滴水式的过程。并不是说这个庞大的行业一下子就消失了。

有一篇非常精彩的 QJE 论文研究了这个问题，表明他们被经济重新吸收，但薪资更低，而且大多处于半失业状态。这就是 Molly 所描述的情景，那种混乱的中间地带——事情还不算灾难。我们从 COVID 中看到，如果出现紧急情况，财政应对可以迅速行动。紧急情况就是失业率的快速攀升，甚至可能看起来只有 2-3%。如果发生得足够快，就会成为国家紧急事件。

令人担忧的是，你从那些白领工作者身上省下来的钱，如果并没有让经济实现增长，而只是创造了可以调配到别处的节省下来的资源，那是否足以支撑一个广泛的再分配方案？你从几个人身上省下了钱。除非你能想清楚如何精准地把钱送到他们手中，否则你就会面临这样一个问题：“我能不能用裁掉……所省下的钱来搞UBI？”

Alex Imas

你基本上是在说，这块饼并没有变大多少。你只是把一群人挤了出去，但这并没有拓展经济所能产出的技术前沿。

那么问题就来了：历史上每一次发生这种情况时，技术前沿是否都大幅扩展了？

Alex Imas

我认为确实如此。单从历史来看，技术前沿确实扩展了。我想 Phil 也提出了同样的观点。很难想象这样一种情形：你获得的智能刚好足以替代软件工程师，但仍然花费高昂。它只比软件工程师便宜一丁点，所以你得不到这种丰裕效应。既然饼没有变大，再分配又从何谈起呢？

这非常有帮助。要让这种情形成为现实，必须同时满足许多不同的条件，而每一个条件看起来都不太可能。

第一，必须成立的前提是：整个白领工作确实有可能被自动化，但只能以零敲碎打的方式实现。也就是说，你只能自动化软件工程师，但同一个程序无法同时自动化会计师、分析师以及其他各种职业。

我对智能的模型是这样的——无论是完成软件工程这类工作所需的任务广度，还是智能本身的定义——如果你真的能裁掉所有软件工程师，那你手里掌握的能力已经足够自动化各种白领工作了。这些裁员已经带来了大量潜在的成本节约，而且 AI 还会比人力更便宜。

如果这两点都成立，那么那种我们真的没有足够财富来分配的混乱中间场景就不太可能出现。那么问题就变成了：征税和再分配的最佳方式是什么？

00:25:57 – 如何对 AI 财富征税并进行再分配

Alex Imas

我有一些想法。我认为非常重要的是要梳理清楚成本和收益。首先，实施这些方案的复杂程度各不相同。其次，它们在实际产生效果的时间线上也有差异。像全民基本资本这样的方案，不可能在六个月内就产生回报。你最终很可能需要一层一层的多种措施。

以负所得税为例。你把它付诸实施，在它成为法律的那一天，你就已经拥有了这种保障——存在一个底线，每个人都能拿到一定数额的钱，而如果你赚得更多，就会被征收更多税。但负所得税既有优点也有缺点。

以 UBI 为例，我非常担心它在政治经济学层面的影响。如果人们只是依赖一张支票，那么谁掌权就变得至关重要。眼下，我们被赋予的劳动力可以转化为收入。当情况不再如此、我们的基本需求要仰仗民选官员的恩赐时，这感觉就像是一种极其危险的权力分享安排。

但任何形式的政府再分配计划不都是这样吗？

Alex Imas

像全民基本资本这样的东西，你拥有资本的持股份额和产权，你只是持有一定的股份。

你就是一个普通的股东。

Alex Imas

你就是一个普通人。

但这又回到了指数化的问题，因为如果指数化很难，那么全民基本资本也很难。

Alex Imas

这就是普遍基本资本的问题所在：目标定位。你究竟以什么为目标，把它放进人们的投资组合里？

比如说，如果 Anthropic 归零了，但某家不知名的机器人公司把这一切都接手了，那该怎么办？

Alex Imas

正是如此。这就是普遍基本资本的风险。而负所得税则和 UBI 有着同样一类问题：某个人上台后说，“我们不再搞这个了”，而人们又无法工作，于是你就面临底线消失的问题。

关于财富税的一个担忧是，在 0.5% 的财富税水平上不存在政治上可持续的均衡。当然，所得税也发生过这种情况。它一开始很低，是为了战争之类的目的，然后慢慢升级，直到美国的边际所得税率达到 40% 左右，而在某些州甚至超过 50%。

对于资本税，有没有理由担心它会扭曲投资？人们会不会干脆说，“我为什么要投资 Anthropic 或 Intel？政府会拿走越来越大的份额，稀释我的股份。”

Phil Trammell

等等。有必要区分清楚收入是如何筹集的、对什么征税，以及如何分配。可能是政府通过广泛的税收向所有人发放 Anthropic 的股份，然后收购 Anthropic。这大概会是正确的做法。希望某些民粹主义提案不会从中作梗，去没收某家恰好大家都知道的特定公司。

你是在暗示可能存在某种最优税收。我们在对外部性征税，或者在对土地征税。我想我们可能需要对这两者之外的其他东西征税。

Phil Trammell

或者消费税。

好，一种消费税，就像欧洲的增值税，允许政府去买一大堆股票，然后把这些股票分配给所有人。

Alex Imas

那是David Autor的……

Phil Trammell

那和直接重新分配股票不会有太大区别，但会有一点不同。

Alex Imas

顺便说一下，那就是关于社会保障的提案。那就是社会保障私有化。到目前为止它一直行之有效，但人们对其还能持续多久心存疑问。社会保障私有化基本上就是给每个人一篮子股票。

00:30:02 – 为什么需求崩溃不太可能发生

人们在讨论是否已经出现了白领大灾难。有没有任何证据表明，AI 已经导致了大规模自动化或失业？

Alex Imas

很多人在关注这件事。这是一个备受瞩目、大量数据正在产生的领域。耶鲁大学的预算实验室正在做非常出色的分析。他们最近刚发布了一份报告，你得眯着眼使劲看才能看出点什么动静。如果你想从整个经济的角度来考察，即便看软件工程这种最受影响的领域，也真的没什么变化发生。

关于初级开发者比以前更难找到工作，可能有一点微弱的信号。但那是“比以前少”，而不是水平上的突变，因为如果说有什么变化的话，对资深软件工程师的需求实际上反而增加了。如果你看趋势线，初级开发者的状况略低于趋势水平。

所以你是说，增长速度比以前慢了，但即便是入门级软件工程师，仍然有增长。那对于刚毕业的大学生说他们发现CS工作越来越难找的这些轶事证据，你怎么看？

Alex Imas

我认为那是轶事证据。

你觉得对某些人来说找工作一直就很难，而现在这被包装成了AI叙事？裁员也是一样，那可能只是正常裁员，却被他们说成了AI裁员。

Alex Imas

所有这些你都得小心。存在这些公共协调机制。假设我们进入这样一种叙事：如果你是一家公司，而你没有裁员，那你就会被视为对AI的适应不够。于是就会产生一种连锁效应，公司为了不落人后，纷纷开始裁员。这非常令人担忧，因为公司在裁员之后实际上可能比之前更糟，但它裁员只是为了给人一种印象：“看，我们并没有落后于时代。我们在用AI。”

你大概听过那些关于token计数器的轶事，就是你必须最大化token之类的事情。目前，我们其实没有任何证据表明出现了白领大屠杀。

考虑到 AI 能做的这一切，这有什么令人意外的吗？这是一个古老的故事。如果你自动化了某项互补性任务，那么与自动化互补的人类劳动这一整体价值就会上升。

Alex Imas

对这一论点而言，一个非常重要的统计数据就是需求弹性。

以工作的 O 型环模型为例。一份工作是一系列任务的组合。假设 AI 自动化了其中十分之九的任务，有一项任务没有被自动化。如果这个人现在能专注于那项任务，这份工作的生产率就会提高。如果这转化为价格效应，使产品实际上变得更便宜，并且如果需求反应足够大，使产品被更多地购买、服务被更多地使用，那实际上可能会导致更多的招聘。

互联网上很多人一直在非常笼统地提出这一论点，说：“看，如果数据里有什么变化的话，我们看到的是软件工程需求的上升。”这表明至少就目前而言，考虑到工作的运作方式，它可能足够有弹性。

我认为这个需求弹性的论点对于人们提出的许多论点来说极其重要，或者说对于人们在不理解底层因果关系的情况下使用的许多标签来说极其重要。人们经常谈论杰文斯悖论。这个观点是说，当某样东西变得更便宜时，你会想要多得多的它，以至于你在这样东西上花费的总量反而增加。众所周知，大约 200 年前英国的煤炭就发生了这种情况。

但真正出现这种情况，前提是某种东西的需求极具弹性。有很多东西的需求并不那么有弹性。比如说石油，如果它变得超级便宜，也不会神奇地——

Alex Imas

或者胰岛素。

没错。并不会神奇地冒出那么多汽车，以至于我们现在消耗的石油远超从前。

Phil Trammell

至少短期内不会。

没错。长期弹性高于短期弹性。但即便从长期来看，农业就是一个著名的例子——如果我们把过去投入农业的那部分经济资源同等比例地投入进来，我们就能生产出多得多的粮食。无论如何，我们已经在生产更多粮食了，但如果 100 年前用于生产粮食的那部分经济资源比例，放到今天仍然用于生产粮食，我们还能生产得更多。但你吃饱了，也就到此为止了。

关于软件的主张是：它变便宜了，你就会一直想要更多，这并不是市场的某种固有属性。软件的特殊之处在于，它是一种特定类型的商品——随着它变得越来越便宜，我们会想要越来越多。

这也高度相关，你为此写了一篇文章——这期播客的很多内容都是我把你的文章总结给你听。Citrini 有一份关于未来的、传播极广的情景推演，预测由于自动化和极其强大的 AI，将会出现一场经济衰退。白领工作将被自动化，他们的薪水将不复存在，因此会出现萧条。你想不想复述一下，为什么这可能站不住脚？

Alex Imas

其中一部分是合理的，一部分不是。我们对话开头提到的那个观点是，可能会出现大量失业。如果自动化的速度很快，人们可能会被裁员，而且他们可能不会很快找到工作。我们可以就 Citrini 那篇文章中关于失业的部分吹毛求疵，但这不是问题所在。问题在于，他们谈到了经济负增长。

我在这篇文章里所做的——Phil 和我为此来回讨论过——是说，让我们从经济负增长这个命题出发。你需要经济中具备什么样的条件才能出现经济负增长？事实证明，这些条件相当不可能成立。

你需要的一件事，是让资本持有者、基本上就是富人……基本上，在那种情景下，你看到的是财富和收入从那些靠自身劳动获取收入的低收入人群，重新分配到科技资本所有者手中。所以你需要需求是有界的，像是一个硬性上限，甚至不是那种温和的递减敏感性。你需要他们最终说：“我已经够了。我不想再花更多钱了。”而且这些钱不再作为投资进入。这样你才能得到负增长。

关键在于，即使我们不想要更多鬼东西，一个存在奇点、而我们又不想再投入更多资金的世界也是疯狂的。我们不是在说：“让我们建更多数据中心吧。让我们建更多晶圆厂吧。”即使我们拥有了 AGI，我们也不投资建设更多数据中心来运行 AGI，而那本会驱动更多经济增长。

Alex Imas

我把这篇文章发给了 Phil，Phil 回信说：“这挺蠢的”，指的是我的文章。他说：“你想说的是会出现负经济增长，但这些条件非常不现实。”而我说：“这正是这篇文章的重点。这些是非常不现实的经济条件。”

这正是情景规划真正大放异彩的地方。你有 Citrini 的那篇文章，它被写出来是件好事，因为它开启了一场讨论。这个想法太直观了：如果需求崩溃，我们就能让经济萎缩。大萧条时期你就能看到这种情况。在大萧条中，技术前沿并没有扩张。

在这里，技术前沿正在不断扩展。你实际上拥有充裕的供给。要让充裕产生负经济增长，那真的很难实现。

00:39:26 – 人类员工将难以融入机器经济

我们刚才在讨论，为什么 LLM 并没有带来更多的自动化。一个可能的机制是，正如你提到的 O 形环理论……O 形环理论指的是，挑战者号航天飞机因为一个组件故障就爆炸了，整个飞行器因此被摧毁。也许这是经济中商品生产的一个更普遍的模型。你必须确保每一个环节都可靠、运转良好。所以你现在无法把一整个工作岗位完全交给 AI 来自动化。即便它可能以某种概率完成这项工作，你也需要极高的可靠性，才能避免它毁掉最终成品。

这或许能解释为什么现在的自动化程度远低于原本可能达到的水平。但我认为，一旦 AI 变得足够先进，这个逻辑就会反过来起作用。把人类融入未来商品的生产流程将变得困难。即便抛开人类会更贵或能力更弱这些论点不谈，未来的整套生产流程都将围绕 AI 劳动力来组织。它们用 neuralese 交流。它们的思考速度快上数千倍。

所以，即便存在某种比较优势，使得雇佣人类在某种情况下是合理的，交易成本和可靠性方面的顾虑实际上仍会使人类难以融入未来的生产流程。

Phil Trammell

在我看来这是对的。特别是，我只想区分这样一点：如果你把一项工作的十分之九自动化了，人们可能会转向最后那十分之一，但对他们工作的需求量可能会增加十倍。

把它和Gans 和 Goldfarb 最近提出的 O 型环自动化模型对比一下。如果你只能自动化这项工作的十分之九，但你完成的质量标准低于人类所能达到的，那你可能连这十分之九都不想自动化。

这正是可能完全迁移过来的东西。对称地看，这也可能是我们不再让人类做那十分之一工作的原因，因为人类就是无法以 AI 完成这项工作其他部分所能达到的质量水平或速度水平来完成它。他们最终会拉低成品的质量或速度。

顺便说一句，你谈论的这个模型在我看来极其合理地解释了为什么更多的律师、会计师，甚至软件工程师没有被自动化。有些情况下，事情按你预期运作的概率相当高，但你付钱给律师真正要买的是：“不，真的，我的公司不会因为——”

Alex Imas

你还要为大量监管类的事务买单。尤其是律师行业，你需要有某个实体来为产品背书。你需要产品的所有权。你需要有人能够解雇或雇佣，还有执照许可的问题。即便不涉及关系型要素，也有大量监管层面的因素会把人类留在流程中，而这些因素与人类实际执行该服务的能力毫无关系。

Phil Trammell

所有这些围绕政治类决策的摩擦——我们习惯上只信任人类来做这些事，比如立法、当法官、当陪审员，或者那些让某些职业必须由人类从事的执照许可制度——在我看来都是过渡性的。

我们对人类的期待，以及我们组织政治的方式，在历史上已经改变过无数次，从狩猎采集的小型部落到帝国再到各种形态。一旦由 AI 运行的政治系统比其他替代方案高效得多，那些系统很可能会倾向于在竞争中胜过其他方案。

00:43:08 – 如果某些人类（或 AI）本身就看重财富积累呢？

说到这个，我们一直在讨论人类目前有哪些偏好，以及这对未来哪些商品会变得稀缺有什么影响。但当然，未来会有不同类型的实体：AI。曾经有一段时间地球上没有人类，但进化选择了那些具有特定驱动力和偏好的智能体，因为它们往往最能存活下来，而那些偏好如今决定着一个百万亿美元规模的世界经济体生产什么。

为什么未来不能对 AI 抱有同样的期待呢？这甚至不是一个存在灾难性失准、AI 会直接杀死所有人的世界。但即便不是单个 AI，而是将 AI 作为组成部分的企业，也会发生演化。这种演化会偏向什么？它很可能会偏向那些能够增长的企业或智能体。这里有一种选择论证：能够增长的事物会变得更加普遍。

也许仅凭这一点，你就能对它们的偏好做出一些预测。那种偏好拥有人类固有善品的实体，是否会是那种最能积累资源的实体？大概不是。它大概会更多地储蓄，并对相关资源——无论那是什么——拥有无法满足的需求。算力就是一个明显的例子。我们能否用这一点来对将指引未来的非人类偏好做出一些预测？

Alex Imas

如果存在一个 AI，它拥有自身的福祉、完全自主，并且正在做出与福祉相关的自身决策，那么说实话，我完全没有先验理由认为它会偏好与人类打交道。没有任何理由。

但让我站在那个论点的另一面。人类偏好彼此互动、信任并共情其他人类，而非模拟的 AI——我认为这些偏好是否会改变，是一个非常关键的问题。

我听到过很多这样的论点：“你看，现在我们只是还不习惯这项技术。你所认为的那种关系性的东西……到了某个时候，人们就会把 AI 治疗师视为一种更优越的产品，他们不再需要人类所提供的那种共情。”

我认为这实际上是一个非常复杂的问题。这里有一个论点可以说明为什么它不会消失，而这与进化有关。假设有两种类型的人。一种人并没有这种偏好。他们可以直接与 AI 互动，无论什么能更好地模拟都行。另一种人则几乎带有一种道德情感——借用乔纳森·海特（Jonathan Haidt）的框架来说——反对将这类社交互动外包给 AI。

这两种人中，哪一种会繁衍后代、找到伴侣、完成所有这些事情？我认为答案很清楚。是第二种，即偏好与他人互动的那一种。

这取决于繁衍是以何种方式进行的。

Alex Imas

有道理。但如果我们所处的世界里，繁衍仍然以它现在的方式进行，那么我认为……这是一个大问题，我并不是在做出预测。

你之前请过David Reich上节目。他在上一期播客中提出的观点是，我们身上正涌动着自然选择。所以即便你现在对他人抱持某种漠不关心，自然选择也可能把你推向对其他人类更强烈的偏好。

可以这样来理解。世界上最富有的人的财富是如何具体体现的？我们之前通过一次电话，你提出他们的消费更多偏向于关系型商品。比如 Mark Zuckerberg 为妻子的生日聘请 MMA 教练和舞者，诸如此类。

但他的大部分财富只是 Meta 的股票。作为控股股东，他完全可以说：“Meta，把这些财富全部转化为股息收入，我就拿这些钱去消费。”然而，他更愿意让自己的财富不断复利增长，让 Meta 去建更多的数据中心。

所以，甚至不需要改变人类，这种情况就会发生。那些最富有的人——而且因为财富在复利增长而变得越来越富有——恰恰拥有这种近乎 Nick Land 式的、对资本加速的偏好。这似乎确实表明，这是决定未来会生产出什么样事物的重要因素。

Phil Trammell

你可以通过两种方式得到这两类人：一类偏好人类治疗师，另一类则对与 AI 互动没有意见。如果他们在资本上同样迅速地饱和，但喜欢人类治疗师的那一位同时也只是喜欢某些人类固有的服务，那么对他们每个人来说，如果他们起初同样富有，未来资本的边际价值相对于今天资本的边际价值，基本上应该是相同的。可能会有各种相互作用之类的因素，但基本上，那应该是相同的。

如果造成差异的原因是，其中一个人就是不会在资本上饱和，因为他被探索宇宙、把自己的头脑变成星系级大脑之类的愿景所吸引，而另一个人会饱和，那么不会在资本上饱和的那个人，如果他是理性的，就会有更高的储蓄率。

所以从长远来看，他们将拥有大部分财富，而整体的资本份额基本上就是那个人支出的资本份额，而这个份额将是一。

重要的是，我们谈论的不是一个假设的未来。Elon Musk正在谈论月球上的质量驱动器。他目前是世界上最富有的人。显然，目前他的投资既投向人类也投向机器，但我不认为他特别在意他未来的研究人员和工程师是人类还是 AI。

Phil Trammell

而且他也能很快地繁殖。所以我认为值得把这一区别指出来。目前有一些富人似乎在资本上并不容易达到饱和，所以也许从长远来看，他们会储蓄得最多。这在我看来确实是对的。

我还要说，即使他们在生物学意义上繁殖得更慢，从长远来看，如果他们能永生，那可能也没那么重要。

Alex Imas

永生是关键。再说一次，我们这里是在构建情景。如果你能永生，对我的叙事来说很多事情都会改变。关于你说的富人不大量消费而是投资这一点，这全都取决于资本回报率。目前，数据中心的回报率超高，但如果我们进入一种人们对资本感到饱和的状态，那么积累资本的回报率就会降低。到那时，这些富人就会消费更多，因为投资的激励变小了。

基本上，你要考虑这类过程的一般均衡……自 1820 年以来，我们已经变得极其富有。投资的人多了很多，但你仍然会得到一种消费响应，使人们保持就业、劳动份额保持高位。那是因为——

Phil Trammell

等一下。

等等，不一定。我觉得你大概是在说同一件事。有可能他们的投资必须通过实际劳动者来逐步调配，这些劳动者得做些什么，投资才能奏效。在未来，只有消费是由人来中介的，对吧？因为投资可以直接由机器人来完成。

Alex Imas

所以我们处在如何保持高劳动份额的情景中。就拿这个情景来说。在高劳动份额的情景下，无论出于什么原因，资本回报率都会更低。

没错。回到之前我们说的为什么"混乱的中间态"不可信，我觉得这里我们可以做类似的事情。要让资本回报率更低，增长率就必须更低，对吧？它肯定得低于我们在变革性 AI 时期所预期的水平。如果出现爆炸性增长……

Phil Trammell

既是也不是。资本存量可能快速增长，但资本品相对于消费品价格的下降速度可能快于资本存量的增长速度。

Alex Imas

这就是技术的潜在前沿与这些东西实际实现的价格之间的差异。因为存在相对价格。

所以你是说，我可以把钱投出去赚取 30% 的利息、投资数据中心之类的。如果增长率很高，未来总会有某种东西能带来高回报。或者，由于所有这些技术突破，现在就有某款很酷的产品是我特别想买的，而这两者都会是很有吸引力的选择。

Phil Trammell

是的。它不一定得是新产品的。它可以是人类本征的产品。

不过，如果它是人类本征的产品，我们会希望未来对它的需求远大于现在，因为它所对比的对象是——

Phil Trammell

我们可能对它的需求跟现在一样，从某种意义上说，一场芭蕾舞演出的边际效用跟现在完全相同。但一台机器人的边际效用可能就比现在低得多。所以以机器人为单位来衡量，我们对它的需求远大于现在。

利率会是 30% 吗？这取决于你说的实际利率是什么意思。可能的情况是，现在的每一台机器人明年都能变成 100 台机器人。所以以机器人为单位，利率是 10,000%。但如果机器人的价格正在快速下跌……

Alex Imas

价格会调整。我认为这正是关键所在。

Phil Trammell

在这里，价格正以一种有趣的方式调整，而太多宏观模型并不允许这种情况发生。正在发生的就是所谓的投资专属技术变革。

资本的价格相对于消费的价格正在下降，而不是像标准宏观经济学那样，说只有产出——一个叫做产出的嵌合体——它可以一比一地分配给资本或消费。在这个世界里，那种说法不会成立。

明年的每一单位资本所放弃的消费远少于今年的每一单位资本。现在的一个机器人明年会变成许多机器人，但芭蕾舞演员的数量是一样的。

Alex Imas

同样，我们又要回到品种增加这件事上。如果明年那些多出来的机器人实际上是不同品种的机器人，而且我对这些机器人并不会感到满足，那么情况就完全不同了。

但现在我们谈的是消费端。就投资端而言，可能只是某个贪婪的产业巨头一直想要越来越多的机器人。仅这一点就足以提高机器人的边际价值，从而降低劳动份额吗？

Phil Trammell

是的。

为什么我们不预期那些贪婪的产业巨头会继续存在下去呢？

Alex Imas

历史上，贪婪的产业巨头们建造了图书馆，而且——

但那是因为他们会死，而且他们就像——

Alex Imas

哦，他们都会死。每个人都会死。

嗯，我们走着瞧吧。

Alex Imas

在人们会死的条件下……你节目里来过一位嘉宾，他说要理解未来，就应该思考过去。可能会出现新型的巨头，他们积累财富的全部理由就只是为了积累财富。

但很多时候，至少从历史上看，财富积累过程是同龄人之间、社区之间大规模社会互动的一部分，你希望以某种方式被人钦佩。产业巨头的典型事实是，你先积累资本，然后买一大堆东西。

我想这是一个历史性问题，但在我看来，在很多情况下，实际发生的是，当他们接近生命终点时，他们要么把财富交给子女，而子女在资本管理上不如他们。他们甚至无法以经济增速来增长财富，更不用说超过经济增速了，而他们的父辈却能做到。

他们会说：“比起让子女拥有这些财富，我更在意自己玩这场积累财富的游戏。所以我干脆把它交给某个信托。”如果人们活得更久，或者如果他们能想出某种办法让信托与这个财富积累过程保持一致……感觉这里的演化力量就是如此强大。你只需要几个这样思考的智能体，就能让这件事成为决定整个经济偏好的主导因素，因为这部分比经济的其他部分增长得快得多。

Alex Imas

关于满足感和边际效用递减的部分不断被提及，我认为这非常重要。如果一个人对积累有内在偏好，那正是他们想要的，那么我认为你的论述完全正确。但偏好通常并不是这样运作的。你的生活中有了足够的享乐，然后是社会地位……Rousseau写过这一点，St. Augustine也写过这一点。这是偏好的基本组成部分。

现在，你们在争论另一件事：你可能拥有如此高的集中度，以至于只需要对规则有几个例外就够了。对此我没什么可说的。

Phil Trammell

我认为这个论断要更强一些，不只是说可能会有一些例外，而是说从历史上到今天，我们确实看到了这些例外。它们只是历史上一直没有真正接管经济，因为存在所谓的耗散冲击。他们把财富传给了子女，子女将其挥霍一空，或者他们把财富放进基金会，基金会把它花掉了。这其实不算什么冲击，但……

人们可能曾想用纪念碑将自己填满整个宇宙，永远活下去，极其富有。这是一种奇怪的偏好，但它不是一种假设性的偏好。我认为这就是那个论断。

但谁知道他们脑子里在想什么呢？即使没有对积累的内在偏好，也有一些人可能出于某些工具性理由而看重积累，这也值得提一下。有人渴望获得政治、哲学或宗教上的影响力。人们会围绕社会应该是什么样子、人们应该相信什么而展开军备竞赛。

类似但有所不同的是，因为这不是一场军备竞赛，而纯粹是功利主义的慈善行为。当我作为一个好的古典功利主义者思考为什么未来拥有大量财富可能是件好事时，对我来说，价值——或者至少是你在未来拥有财富时可能拥有一个几乎无法满足的效用函数的一种方式——在于创造新的幸福生命。它们只是为世界的总福利增添了一份贡献。

这个想法至少可以追溯到Bostrom的天文级浪费观点，即我们可以在恒星周围建造戴森球，把所有能量转化为真正幸福的模拟体验之类的。

我认为这个优化器的特定贪婪性并不重要，即它们贪婪的对象是什么。抛开功利主义哲学之类的，一个纯粹的冯·诺依曼探测器有……我不知道，这样说准确吗？它们对将要占据的随机恒星系统具有很高的边际价值，因为那会转化为更多的恒星系统。冯·诺依曼探测器是一种可以存在的东西。那是一个非常贪婪的优化器。

Phil Trammell

如果我们讨论的是它们是否会主导经济，也许这只是个技术细节。但我们只把最终消费品和投资品计入 GDP。如果只是存在这种现象——

冯·诺依曼探测器如何体现在 GDP 中？

Phil Trammell

正是如此。如果我们把它视为一个拥有自身的个体，而它在边际上进行优化——是在多花一点资源造一个去殖民另一个恒星系统的婴儿冯·诺依曼探测器，还是造一个芭蕾舞演员之类的东西之间权衡——而它偏偏对芭蕾舞演员不太看重……

Alex Imas

当我们谈论 AI 存在体时，这完全取决于我们如何进行核算。

在一个冯·诺依曼探测器成为可能的世界里，世界会是什么样子？劳动份额有可能很高吗？

Phil Trammell

我认为，按照我们通常的统计方式，劳动份额是有可能很高的。

01:01:28 – 发展中国家应该怎么做？

对于不在 AI 生产链中的国家，经济学家有什么建议吗？如果你既不生产 AI 模型，也不生产用于 AI 模型的硬件，如果你不是生产 HBM 的韩国，不是拥有晶圆厂的台湾，也不是拥有 ASML 的荷兰——比如印度或尼日利亚，它们现在应该做什么？如果你现在跟莫迪对话，你会说什么？

Alex Imas

我认为，在经济学界，我们在资源配置上最大的缺失，是思考 AI 时代的中等收入发展中国家。这一点我自己也难辞其咎。思考这个问题的人不够多。

存在这样的情景：AI 技术被分配并扩散到尼日利亚和发展中国家，拉平了竞争环境，本质上让它们在能力上提升了一个台阶。

但还有另一种世界：由于他们没有足够的资源，无法训练模型，没有硬件，于是被彻底甩在后面。而由于自动化，我们现在可以在发达国家生产大宗商品。那样我们甚至都不需要消费者市场了。那种世界看起来相当糟糕。

Phil Trammell

在我看来，这像是“混乱中间态”情形的一个延伸。混乱中间态可能只在一小部分情景中才是坏事，原因之一不仅仅是由于蛋糕会更大、所以再分配会很容易，还因为利率会高得多，并且/或者等价地说，除人类内在商品之外的一切价格都会迅速下跌。这两者可以说是同一枚硬币的两面。一点点储蓄，明年就会变成大量消费。

事情必须出大问题，才会出现这样一种情况：我们刚刚跨过资本生产率足以自动化大量工作的门槛，但生产率又不足以让利率高企、资本生产的商品价格大幅下跌。即使没有再分配，一点点储蓄也能拯救很多人。

你是说，如果发展中国家在发达国家有一些储蓄，那就足以产生大量盈余，然后他们就可以——

Alex Imas

他们现在就能利用自己的储蓄进行大量消费。

Phil Trammell

但在这种情况下，那段混乱的中间阶段可能会更长。他们起步时的水平太低了——无论是他们拥有的财富量，还是这些财富与全球经济实际挂钩的程度。我认为他们现在就应该着手推进这件事。至于应该采取主权财富基金投资于正确的供应链的形式，还是直接补贴本国公民去购买一点点——我没有强烈的偏好。

这其实是一个关键点。我们之前讨论过，如果我们关于这些贪婪优化者被筛选出来的论点成立，那为什么洛克菲勒家族这类人，他们的后代没有掌控一切。一个论点是，要对整个经济进行指数化投资是非常困难的。也许他们本来会决定让继承人去指数化投资整个经济，让财富按经济增长的速度增长，那他们的继承人现在早就成为万亿富翁了。

在指数基金出现之前，这非常困难。回溯100年，经济中极小的一部分，贡献了如今所创造价值的大部分。如果你错过了那些特定的东西，你的财富就只会停滞不前。

也许从指数基金诞生到五年前，存在一个短暂黄金窗口期，在那期间你确实可以指数化投资整个经济，让你的财富按经济增长的速度增长。但现在我们身处一个回报高度集中的世界，尤其是对私营公司的回报。正如我们在博客文章中所指出的，普通人获取这类资本的机会不成比例地少。他们的大部分资本就是一套随机的房子，至少在美国是这样。

Phil Trammell

或者房子的一部分。

正如我们所说，这种资本特别不适合作为AI生产、AI服务或机器人的互补品。

Phil Trammell

或者那些富人会把价格抬高的商品。

正是如此。目前一栋房子的价值是什么？在于这块土地靠近其他人，而抛开那些关系性的因素，它并不会成为未来的主要生产要素。

Alex Imas

这就会是为什么乔治主义税收无法为我们将要讨论的那类项目筹集到足够资金的原因。

对。但退一步说，我想表达的观点是，如果现在经济越来越难以被指数化，而这正是普通人本应——撇开某种全民基本收入不谈——

Phil Trammell

在发达世界。

——本应对 AI 创造的财富拥有某种索取权的方式。而这也是发展中国家本应对 AI 带来的财富增长拥有某种索取权的方式。

但这非常困难。尼日利亚持有大量SK Hynix和Anthropic的股份吗？我猜没有。对他们来说，仅仅持有标普 500 是不够的。

Alex Imas

这引出了一个非常重要的问题。AI 会像电力，还是像社交媒体？

想想 ConEd，或者这里随便哪家供电公司。它是垄断的。它提供一种人人都使用的资源。但我们会不会把电力视为制造了权力集中？ConEd 是否拥有那种巨大的政治权力、社会权力之类的东西？不会，因为就电力而言，很多下游收益实际上流向了电力的使用者，而不是实际生产它的实体。

另一方面，就社交媒体而言，情况恰恰相反。社交媒体无处不在。人人都用社交媒体，但租金流向了平台。

这是一个非常有意思的观点。我还不 endorsing 这个看法，我要大声地把思路讲出来。你越是认为我们的经济将像如今依赖电力那样依赖 AGI 来运转——也就是说，整个经济会发生广泛而根本性的转型——它就越像是电力……未来标普中的每一家公司，如果它能进入标普 500，那都是因为它利用了 AI。

Alex Imas

正是如此。然后你又重新被纳入指数了。

不过话又说回来，我想如果你只看标普指数随时间推移的集中度，这些大型科技公司更是如此……我想这引出了一个根本性的问题：很难推断这些个体私营企业究竟能掌控多少来自 AI 的收益。

Alex Imas

我认为开放模型这件事在这里会是一个重要议题。如果我们确实身处一个开放模型落后前沿六个月——或者九个月——的世界，那么我们会达到 AGI，我们会达到某个节点，而六个月后，所有人都能获得这一资源。

这说明每一个问题都与其他所有问题相互关联。那个关于是否存在失控式收益的问题，与递归自我改进的问题相关联。即使不是递归自我改进，那也是持续学习，或者说在线学习，它让模型能够在工作中学习。所以如果它被部署，它就能学到更多。这些只是预测性的技术问题，而它们又会影响乌干达能否对 AGI 的回报拥有任何索取权。

我之所以强调这个问题，是因为我认为无论对于混乱的中间地带还是对于发展中国家，一个经常被天真地提出的建议是：你必须做某种再培训。你必须搞某种就业计划，或者你必须让他们在你的国家建设数据中心。我认为你们建议的更接近于直接购买 AGI 的指数。那可能是一种干净得多的策略，也更有可能会成功。

Alex Imas

这就是两种情景。我认为存在一种世界，它是集中的，在这种情况下，要为 AGI 建立指数将非常困难。还有另一种世界，它就像电力一样。基本上每家公司都能获得 AGI。所以你只需要买入指数就行了。尼日利亚只需要买入指数，而由于开源模型的存在，尼日利亚就能获得 AGI。

Phil Trammell

回到关于是选择再培训还是尝试建立指数的问题。我会优先考虑尝试建立指数，考虑到 AI 可能多么迅速地冲击世界。但我绝对不会仅仅依赖这一点。

在那些混乱的中间情形或长周期情形中，也就是我们不会那么快获得类似 AGI 的东西时，如果你本可以通过再培训，让人们更好地了解如何使用最新一波计算技术，那就会把大量价值白白留在桌上。我不认为这两者之间有那么强的非此即彼关系。

也许对此感到悲观的原因是，一个国家贫穷的原因之一就是它的教育体系很差，所以成为一个在再培训人们使用 AI 方面世界领先的国家，对那个贫穷国家来说似乎并不是一个特别有前景的策略。

Alex Imas

尽管在发展中国家确实存在这种蛙跳效应，比如移动银行。它在尼日利亚比在德国普遍得多。所有人都在用移动银行。他们在手机上就能操作，而且一直在做这类事情。

再次强调，我并不是在给这件事赋予概率，但对于像 AI 这样具有变革性的技术，你可能会看到蛙跳式发展——跳过中间步骤，实现真正天文数字般的增长。

Phil Trammell

关于纳入指数的便利性，我认为这确实值得稍微担心并持续关注。但正如我们自己在文章中所讨论的，也正如其他人所指出的，纳入指数本来就已经没那么难了。收益私有化的程度确实有所上升，但即便如此，美国非微型公司总市值中私有部分仍远低于 20%。

所有人都在关注 OpenAI 和 Anthropic。如果所有财富都将汇聚到那里，那么关于开放模型是否会只稍稍落后一点的所有这些问题就都很重要。但即便是它们，看起来大概也用不了多久就会上市。那些一直阻碍公司上市的摩擦本身，可能也会被 AI 大幅缓解，比如所有的信息披露要求之类的。它们也想接触到更多潜在投资者。

如果要我猜的话，我会猜：尽管最近出现了反方向的波动，但降低这些摩擦、让越来越多的人更容易进行指数化投资的长期总体趋势仍将持续下去。

这实际上让我比以往更加希望这些实验室被商品化，或者至少尽快上市。但最好它们干脆被彻底商品化。我认为，如果 AI 的收益像电气化的收益那样难以被独占，AI 将会更受欢迎，更重要的是，更有可能带来广泛的繁荣增长。

Alex Imas

没错。外面可没有反电力的人。

我是说，电力不会抢走你的工作，但——

Phil Trammell

嗯，它确实抢走了一些人的工作。

它确实抢走了一些人的工作，没错。

Alex Imas

这可能和对话有点偏题，但我认为叙事很重要。现在围绕 AI 有一种非常负面的叙事，但那是因为人们没有把正面的叙事讲出来。这是有原因的。想象一件尚不存在的好事，比失去一件已经存在的东西更难。对一个人来说，上播客说“你们喜欢的这些工作要消失了”，要比描绘一个还不存在的乌托邦容易得多。

Phil Trammell

我希望这不算太跑题，但如果我不指出前沿 AI 模型商品化的一大代价，那就是技术竞赛的动态，我会觉得失职。出于安全考虑，你可能希望前沿公司少一些，这样每一家都有缓冲空间，以便它们想放慢速度、让事情更安全时能够这么做。

这与我们之前关于回报广泛可及的观点相关之处在于，我认为那里的取舍比一些人想象的要小得多。有些人认为，要么前沿 AI 被商品化，我们所有人都享受到好处——但可能存在一些风险，因为市场真的竞争激烈、残酷无情——要么因为领先者和落后者之间存在巨大差距而让事情更安全。但那意味着领先者会变得极其富有吗？不。你完全可以有一个相对较大的差距，但它是家上市公司，其所有权是广泛分布的。

最近，我一直在思考，商品化的风险——即它会把使用 AI 达成有害目的的能力扩散开来——是否值得其所带来的好处。我担心，让这些实验室保持集中，不仅会使盈余无法在社会中更广泛地分配，还会为政府制造一个非常具体、明确的政治靶子。我们在针对 Anthropic 的《国防生产法》威胁中就看到了这一点。如果没有一个或几个明显领先于其他实验室的实验室，这种威胁会难得多。

感谢各位做这件事。我感觉还有很多未解决的问题，但了解所有这些重要维度上的第一个分支是什么，还是很有帮助的。

Phil Trammell

太好了。

Alex Imas

谢谢。