Slop、生产力，以及为何AI驱动的世界进展甚微

刚刚在 FT 上看到 John Burn-Murdoch 的一张图表，它真正提炼出了我一直试图表达的东西。AI 生成了大量产出（这符合许多人对生产力的非正式理解），但它并未给许多公司带来多少 RoI（根据 MIT、McKinsey、Bain 以及许多其他机构的研究），也没有实质性地改变 GDP。

FT 的这张具体图表恰好是关于移动应用的（感谢 Jen Zhu）。但你可以在许多领域做出类似的图表：大量名义上的生产力，却没有多少现实世界的影响。

例如，你可以对书籍说类似的话。GenAI 带来了更多的书，但尚不清楚这些书是否更好，或者（抱歉我手头没有现成的数据）是否卖出了更多的书。以下是 The Washington Post 提供的随时间变化的可获取书籍数量：

另一方面，图书销量 在同一时期略有下降。而且我没有听到任何论点说书正在变得 更好。

我从中摘取上述内容的 The Post 文章，还给出了关于上传音乐曲目、自行代理诉讼、提交科学论文以及生成网络内容数量上升的类似图表。

同样，没有理由认为其中任何一项增加了 GDP，或提升了科学或音乐的质量。其中大部分是 slop（在某些情况下是 work slop）：

《金融时报》和《华盛顿邮报》的图表一次又一次地展示了同一件事：我们正被 AI 生成的内容淹没，从应用、音乐到科学论文，但这并不意味着其中任何一样是好的。大部分（公平地说，并非全部）都不好。

接着还有 泛滥维基百科的垃圾内容、图书馆等等。

同样的事情很可能也正在数学领域发生。一群数学家对 AI 影响数学研究的诸多方面感到担忧，他们写了一封公开信，名为“莱顿宣言”，据《纽约时报》报道，表达了（除其他担忧外）他们的恐惧：

当前的自动化技术能够产生看似合理但不可靠（甚至错误）的论证，这些论证难以与正确的数学证明区分开来。这不仅适用于非形式化论证，也适用于形式化，其中的困难在于概念在计算机编码呈现与人类呈现之间的转换。这些飞速发展的进展给我们现有的评审体系带来越来越大的压力，危及我们实施关于证明的正确性、透明性和可独立验证性的传统标准的能力。

换句话说，数学垃圾。

不久前，当我在思考官方生产率指标以及它们是否会随 AI 而改变时，一位做投资的朋友写信提醒我，就 GDP 而言，生产率的技术定义有多么狭窄，他指出：“在国民核算的技术世界里，雇人去挖洞再填上，也会增加 GDP。”

使用 GenAI 会推高 token 成本，并让内容泛滥成灾。但很多时候，这些内容——由一个庞大却不可靠、更擅长照搬而非创新的词语预测机器生成——几乎没有持久价值。

也许最大的例外是编程，但即便在这一领域，目前也尚不清楚，借助智能体编程创建出的那些系统中，有多少能够长久存续。

此外，尤其是在智能体编程领域，整条产业链上下游都存在巨大亏损。供应商（Open AI、Anthropic、Cursor 等）亏损惨重，正急于提价，客户则对新的使用模式望而却步。（在一份新分析中，Gerben Wierda 提出，Anthropic 和 OpenAI“实际上可能在你每付给他们 100 美元时，自己要付出 1000 美元”。像 CoreWeave 这样的数据中心中间商也在亏钱。一旦剔除所有循环融资和不断萎缩的现金流，甚至连芯片公司表现如何都很难说清。唯一可能称得上重大生产率故事的领域（编程），恰好也是烧钱最猛的领域。

很可能，一旦提供商（Open AI、Anthropic、Cursor 等）试图收取足够高的费用以弥补其亏损，AI 的成本可能会变得比它所取代的人类更昂贵。

这简直是在挖坑却不创造任何真正的价值。

附注：另请参见 Paul Kedrosky 的新文章，从不同角度得出了多少有些相似的结论。

再附注：关于昨天那条推文，想必多少带点调侃意味：