算力价格未来可能上涨 10 倍以上
Why compute might get 10x+ more expensive in coming years
AI 算力现货价格自 2 月低点已上涨 40% 以上,Google 和 Anthropic 从 SpaceX 租用 11 万块 GPU 的月租金达 9 亿美元,约为现货价格的 2 倍。若 AI 达到人类水平软件工程师能力,单块 H100 等效算力年租金可达 25 万美元,是当前现货价格的 15 倍。
这是一次对 AI 军备竞赛中算力定价的冷静推演,核心是收入增速远超供给增速,算力会越来越贵,赢家通吃可能固化成铁幕,追赶者必须想清楚如何支付天价入场券。
我想尝试一种非常快的博客写作方式,把写作时间限定在 2 小时以内。这样一来,我无法把很多重要的子问题都讲透,但另一种选择是,我好奇的很多不同话题都完全没有任何进展。
今天我想聊聊未来几年各家实验室的算力状况。
Anthropic 的收入同比翻了 10 倍。Anthropic 今年很可能以约 $100–150B 的收入收官。要让这一趋势延续下去,Anthropic 到明年年底就得做到 $1T 的收入。这一趋势并没有必须延续的深层理由,而且它很可能不会延续——归根结底,这是一个关于 AI 能力的问题。但假设它真的延续了。那样的世界需要满足哪些条件?
实验室算力每年增长 3 倍。一家实验室要想在算力只增长 3 倍的同时让收入增长 10 倍,以下 3 件事中必须有某几种组合发生:1. 实验室利润率必须提高,2. 算力价格必须上涨,3. 实验室必须把更大比例的算力用于推理。
据我了解,这 3 件事基本上都在发生:1. Anthropic 的利润率从 2025 年的 40% 提升到今年 Fable 推理业务可能的 >80%1(不过边际算力上可能并非如此——详见下文)。2. 算力的现货价格较 2 月低点上涨了 40% 以上,而这很可能还低估了各家实验室实际要多付的金额(同样详见下文)。3. 根据 Epoch 的数据,OpenAI 2024 年算力支出中大约有四分之一用于推理,而如今这个比例肯定接近 50%,甚至更高。
实验室们不愿意做第 3 点(把越来越大比例的算力花在推理上)。就像有人开玩笑说的那样,推理收入的真正意义在于说服投资者给你更多钱去买更多算力,用来训练更大的模型。如果你把大部分算力都花在推理上,你基本上就是在宣告 AI 进展已经停滞,因为再往训练上投入已经不值得了,而你的生意本质上就变成了一家云服务提供商。实验室们并不认为这是真的——他们认为自己现在服务的这些模型在一年之内就会显得极其糟糕,而他们这么做是为了积累商业案例,以便继续训练更聪明的模型。
那么剩下的可能就是:1. 实验室的利润率会上升,或者 2. 算力变得更贵。如果领先的那 1 到 2 家实验室显著领先于竞争对手,那么前者的成分会更多。在一个市场里,你的利润率取决于你比次优替代方案好多少。要让效应 1 占主导,到明年年底利润率就得达到 90% 多。这在我看来相当疯狂。但 AI 实验室的收入继续以惊人的速度增长,这在我看来确实是有可能的。
所以,还剩下一个效应需要解释:到明年年底出现这种疯狂的 1 万亿美元营收世界,可能是怎么来的——算力变得贵得多。正如我提到的,这已经开始发生了。当我们看向实验室所需的那一档算力时,价格上涨甚至更猛烈——它们显然不能依赖 spot 实例——它们需要为其权重和客户信息提供安全保障,还需要足够的规模来获得良好的利用率和灵活性。要看那一档算力市场有多疯狂,不妨想想 Google 和 Anthropic 从 SpaceX 租用算力的价格。据报道,Google 每月支付 9 亿美元,租用 11 万块 GPU,这些 GPU 是 GB200 和 GB300 的混合。这大约是这些 GPU 每小时 spot 价格的两倍。而当前的 spot 价格本身已经比 2 月份高出 40%。
我想强调这里的关键结论:随着 AI 模型变得更聪明,它们会更好地将同样数量的算力变现。如果一个真正达到人类水平的软件工程师可以运行在 H100 等效算力上,那么按照当前软件工程师的市场价格,这块 H100 每年的租金应该超过 25 万美元。那是今天 spot 价格的 15 倍。
当然,你可能会想,如果我们多出 1000 万名软件工程师,软件工程师的边际价值就会下降,因此 H100 未必能比现在多产生 15 倍的收入。但我其实不确定这是否成立。如果我们把这一论证套用到人身上,那就会变成经典的“劳动总量谬误”。经济学家普遍认为,高技能移民不会压低高技能劳动者的工资,因为专业化与创新等会带来收益。也许这次劳动力供给冲击如此之大、如此之快,以至于这一普遍经验法则不再适用。但如果我们相信标准经济学关于劳动力的说法,那么算力的边际价值(以及由此决定的算力边际价格)可能会高得惊人。
在这样的世界里会发生什么?
随着顶级模型在将算力变现方面越来越擅长,追赶也变得越来越难。如果到 2028 年我们已经实现了软件工程自动化,而算力价格是现在的 15 倍,那么对于没有任何收入的你来说,要与前沿实验室争夺算力就会困难得多。
如果你拥有最好的模型,那么你就能收取比目前高得多的利润率。这就是经济学中的阿尔奇安—艾伦效应,但简单来说,如果 H100 每小时不是 2 美元,而是 20 美元,那么在那样的算力上跑一个更笨的模型就是愚蠢的,因为那可能需要更多 token(从而浪费这些昂贵的算力)才能得到相同的结果。当然,如果你用的是 API,那你是在间接为那些算力付费,但逻辑仍然一样。如果你一开始就得为底层算力付出如此高昂的费用,那你还不如花钱使用在这份算力上运行的最好、最高效的模型。
当前许多流行的 AI 应用会被价格挤出市场。AI 现在之所以相对便宜,至少相比人类劳动力而言,部分原因是它做不了很多顶尖人类能做的事。到了某个时候,情况将不再如此。因此,用 GPU 来制作短视频垃圾内容,只会被价格挤出市场。
与此同时,这类预测确实与人们过去在稀缺性问题上犯错的方式形成了模式匹配。我想到的是西蒙—埃利希赌局,保罗·埃利希打赌说,在截至 1990 年的那十年里,一篮子商品的价格会上升而非下降。这个赌局在通俗经济学讨论中很有名,因为它本应说明埃利希的马尔萨斯式世界观被证伪了——他低估了市场信号和人类创造力会找到更好节约稀缺投入品的方式。(不过其他分析表明,如果这个赌局是在另一个十年打的,埃利希本会赢。)
我猜 Simon-Ehrlich 的一篮子大宗商品并不是算力的正确参照类别,因为与开采不同金属相比,算力供给的弹性要小得多,吸收大规模需求冲击的能力也弱得多。算力容量每年增长 3 倍,这个数字来自将以下数字相乘
;:来自摩尔定律的 1.4 倍,来自新建晶圆厂的 1.2 倍(至少到 2030 年都会受制于 EUV 设备供应),来自 AI 从其他设备手中夺取先进制程晶圆分配的 1.8 倍(这一趋势到 2027 年底将开始撞墙,届时 AI 在 N3 中的占比将从 60% 升至 86%)。
我想澄清一点:在未来某个时候,算力会再次变得便宜。到某个时候,机器人将能够把成片的硅砂海岸和铜矿变成计算机。到那时,算力的价格应该会下降到更接近原材料和工具成本的水平。我这里说的只是当前这个阶段,即 AI 算力每年仅增长 3 倍,而这还不足以抵消 AI 每年变得有用得多的价格效应。
混合推理利润率>70%,所以我猜 Fable API 的利润率 >80%——纯属感觉判断。
来源:Dwarkesh Patel:Podcast & Blog(RSS) · dwarkesh.com