如何看待“技术奇点”

默里·沙纳汉

近年来，随着科学技术的迅猛发展，“奇点”这个概念已经从科幻小说逐渐转移到了严肃的学术讨论中。人们认为 当前人类历史的发展阶段距离奇点已越来越近。

人类历史中出现的奇点指的是由于技术的迅速发展，人类社会中的一切都出现了改变，生活在今天的我们将无法理解。今天被我们当作理所当然的一切（经济、政府、法律、 国家）会改变形态，人类最根本的价值观（生命的尊严、对幸福的追求、选择的自由）也会被淘汰。我们对人类之所以为人的理解（人性、生存、意识、社会秩序）提出疑问，不是通过漫无边际的哲学思考，而是由真实存在的环境所推动。

什么样的技术进步会带来这种剧变？本书将要验证的假说是：人工智能和神经技术这两个领域的技术进步会加速奇点的到来。我们已经破解了生命的秘密，能够理解基因的工作原理。生物技术带来的改变已经非常巨大，但是和人工制造思维的能力相比，就差多了。

从某种重要的意义上来说，今天的智能是固定的，这影响了技术进步的广度和速度。几千年来，人们掌握的知识已经非常丰富，而且随着文字、印刷术和互联网的出现，传播知识的能力也增强了。但是，创造知识的器官（有智慧的人的大脑）在过去的几千年中变化不大，认知能力的秘密还没有被我们揭开。

如果人工智能和神经科学能充分发挥潜力，这种情况将会改变。如果不仅是智能创造技术，技术反过来也可以创造智能，那么就会产生一个循环。这个循环的结果是难以预料的，可能带来爆炸性的改变。作为原来的创造者，如果智能也可以被创造出来，那么它就可以提升自己。根据奇点理论，不久以后，这个循环中就不再需要人类了，人工智能或进行过认知改造的生物智能将占据主导地位，人类已经跟不上了。

我们需要认真对待奇点理论的假说吗？又或者它只适合出现在科幻小说里？雷·库兹韦尔认为我们应该认真对待这一假说，并提出了“加速回报定律”。如果一项科技符合加速回报定律，那么这项科技越先进，它进步的速度就越快，在一段时间以后就会实现指数级进步。一个很好的例子就是“摩尔定律”。然而，信息技术不是唯一高速发展的领域。在医学领域，DNA测序的成本快速下降，测序的速度则呈指数级上升，大脑扫描的分辨率也在以指数级速度上升。

从历史的角度来看，出现重大技术进步的时间间隔在缩短：从农业、印刷术、电力到电脑。除了技术的进步，进化过程中出现里程碑式突破的间隔也在不断缩短：从真核生物、脊椎动物、灵长类动物到智人。很多评论家认为人类发展的轨迹是一条复杂的曲线，一直延伸到远古时代。但是， 我们只需要研究这条曲线中科技的部分，并推演科技曲线的未来趋势。我们发现，未来会出现一个转折点，人类发明的技术会让自己落伍。

由于物理规律的制约，指数级技术发展最终会遇到瓶颈。指数级技术发展的停滞可能有各种经济、政治或者科学的原因。但是，我们先假设与人工智能以及神经技术最相关的发展将会保持势头，加快破解大脑秘密的速度，并且最终合成人工智能。我们不难相信，不管是人工智能还是人类智能，都会遵循加速回报定律，最终到达技术奇点。

有些作者预言，奇点的到来会在21世纪中叶。我们可以不把奇点只作为预言来研究，预言毕竟是比较虚无缥缈的。首先，奇点是一个很有意思的深刻的学术话题，无论它最后是否真的会出现或不知什么时候出现。其次，奇点出现的可能性虽然看起来很微小，但是却值得我们从务实的角度，在理性的基础上讨论。即使未来学的理论有瑕疵，但只要未来学描述的场景存在可能性，就值得我们认真关注。如果奇点真的出现，对人类来讲，其后果将是颠覆性的。

从乐观的角度来看，技术奇点带来了生存的机会，也就是哲学上的“存在”的意义。当我们有能力构建大脑时，就可以突破生物的限制，延长人类的寿命。

技术奇点可能是一种生存机会，要理解这一概念，必须放弃人类的视角，采取一种更具宇宙性的视角。“人类社会和生活在人类社会中的人们的大脑已经到达了宇宙的极限”是一种人类中心主义的想法。也许智能的复杂程度还有很大的提升空间。可能未来还会出现比我们更高级的意识形式。

应该阻止还是迎接这一情况的到来？我们能理解这样的未来会是什么样吗？不管奇点是否已经临近，这些问题都值得思考。因为在思考这些问题的同时我们对自身有了新的理解，也理解了我们在大千世界中的位置。