融合

硅谷一个热门话题是讨论人类与机器将在哪一年融合（或者，如果不融合的话，人类将在哪一年被快速进步的AI或基因增强物种超越）。大多数猜测似乎集中在2025年至2075年之间。

人们过去称之为奇点；如今，这个说法让人感到不安且过于真实，以至于许多人似乎干脆避而不谈。

人们不再使用“奇点”这个词的另一个原因或许是，它暗示着一个单一的时间点，而如今看来，融合将是一个渐进的过程。而渐进的过程往往难以察觉。

我相信融合已经开始，并且我们已经身处其中数年。我们的手机控制着我们，告诉我们何时该做什么；社交媒体推送决定了我们的情绪；搜索引擎决定了我们的想法。

实现这一切的算法，如今已没有任何一个人能够完全理解。它们按照创造者设定的目标进行优化，但所采用的方式是人类无法想出的——这些算法在今天看来是先进的AI，而明天看来则会像儿戏一般。而且它们极其有效——至少就我个人而言，我很难抗拒算法想让我做的事情。在我真正努力去对抗它之前，我发现自己对互联网极度上瘾。[1]

我们已经进入了共同进化的阶段——AI影响、作用于并感染我们，然后我们改进AI。我们构建更强的算力并运行AI，而AI又反过来找出如何制造更好的芯片。

这个过程可能无法被阻止。正如我们所知，只要物理定律不禁止，科学进步终将发生。

更重要的是，除非我们先自我毁灭，否则超人AI必将出现，基因增强必将出现，脑机接口也必将出现。认为我们永远不会造出比自己更聪明的东西，这是人类想象力的失败和人类的自大。

我们的自我价值感如此依赖于智力，以至于我们相信它必须是独一无二的，而不是在一条连续谱上仅仅略高于所有其他动物。也许人工智能也会有同样的感受，并指出我们与倭黑猩猩之间的差异几乎不值一提。

融合可以有多种形式：我们可以把电极接入大脑，或者我们所有人都与一个聊天机器人成为非常亲密的朋友。但我认为融合很可能是我们最好的结局。如果两个不同的物种都想要同一样东西，而只有一方能拥有它——在这种情况下，就是成为地球乃至更远地方的主导物种——那么它们就会发生冲突。我们都应该希望有一个所有成员都关心彼此福祉的团队。

尽管融合已经开始，但它会变得更加奇特。我们将成为有史以来第一个设计自己后代的物种。我的猜测是，我们要么成为数字智能的生物引导加载程序，然后消失在进化树的一个分支中，要么我们就能弄清楚成功的融合是什么样子。

这很可能比大多数人想象的要来得更快。硬件正在以指数级的速度改进——我在 OpenAI 工作中学到的最令人惊讶的事情就是，计算能力的提升与人工智能的突破之间的相关性如此之高——而且从事人工智能研究的聪明人数量也在呈指数级增长。双重指数函数会迅速超出你的掌控。

现在，全世界都应该开始更加认真地对待这件事了。全球范围内的协调不会很快发生，而我们需要为此做好准备。

[1] 我相信注意力劫持将成为这一代人的糖瘾流行病。我能感受到自己生活中的变化——我仍然能惆怅地回忆起自己曾经拥有专注力的时光。我朋友们的年幼孩子甚至不知道那是一种他们应该怀念的东西。我变得更频繁地感到愤怒和不快，但我却更少地将这种情绪转化为富有成效的改变，反而去追逐点赞和愤怒带来的双重多巴胺刺激。

（为保持一致性，从 https://medium.com/wordsthatmatter/merge-now-430c6d89d1fe 交叉发布至此；感谢 Medium 邀请我撰写此文！）