超级智能不可人格化

刘大先

2009年6月，位于美国加州硅谷核心地带的美国国家航天航空局（NASA）埃姆斯研究中心的奇点大学（Singularity University）迎来了它的首批30名学生。

这是一所前所未有的大学，由Google公司与NASA合作，联合若干科技界专家创建，设立未来学、网络和计算机、生物技术和生物信息学、纳米技术、医学和神经科学、人工智能、能源、航天和自然科学、法律和伦理、金融等10个领域课程。旨在探索利用科技改善人类困境的途径，解决贫困、饥荒、疾病、全球变暖和能源稀缺等一系列严峻的问题。它的校长就是雷?库兹韦尔（Ray Kurzweil）。

这所大学就是由库兹韦尔2005年出版的未来学名作《奇点临近》引发灵感创立的。他同时也是一位发明家和企业家，拥有一家以自己名字命名的科技公司，主要开发和销售图形识别、人工智能、进化算法、信号处理、自然仿真处理等技术。前几天，以《三体》闻名的科幻作家刘慈欣在接受《纽约时报》采访时被问到如果要给习大大推荐作品，他提到的就是《奇点临近》。

“奇点”这个概念在物理、几何、数学、宇宙学等多个学科领域均有涉及，库兹韦尔则用来指人类与其他物种（物体）的相互融合，确切来说，是指随着人工智能、生物医学、纳米科技的交融，电脑智能与人脑智能兼容的那个时刻。他预言在2050年前后，生物思想与现存技术融合达到顶点，人类将全面超越自己的生物局限。

奇点临近暗含的思想是直觉的线性增长观与历史的几何级增长观之间的差别，库兹韦尔认为“人类创造技术的节奏正在加速，技术的力量也正以指数级的速度在增长”，他称之为“加速循环规则”（Law of Accelerating Returns）。这实际上是对摩尔定律的突破，摩尔定律是由英特尔（Intel）创始人之一戈登?摩尔（Gordon Moore）提出来的，即当价格不变时，集成电路上可容纳的晶体管数目，约每隔18个月便会增加一倍，性能也将提升一倍。换言之，每一美元所能买到的电脑性能，将每隔18个月翻一倍以上。但按照技术发展现状看，摩尔定律已经被改写，中国Internet联网主机数和上网用户人数的递增速度，大约每半年就翻一番。也就是说，技术范式的创新是乘法而不是加法。人们往往忽略这种指数级的加速度，只以已有的目前的经验去思考未来，这会造成高估短期能够达到的目标，而容易低估需要较长时间才能达到的目标。

按照库兹韦尔乐观的进化论想象，宇宙的发展过程按照创造持续增长秩序的模式，可以划分为六大纪元。第一纪元是物理与化学阶段，用物质和能量的形式来表现信息。宇宙产生几十亿年后，由碳元素形成的化合物趋于复杂，进而形成能够进行自我复制的分子聚合物，生命随之产生。由氨基酸组合而成的蛋白质和由核酸组成的RNA链，共同建立了生物学基本模式，为记录进化的经过提供了数字化的方法，这是生物与DNA的第二纪元。第三纪元是大脑的理性思考与物种进化相结合，引起了第四纪元的从生物向技术的范式转化。其后的范式迁移将由生物思想向生物和非生物的结合转变，即人类智能与人类技术的结合，奇点就是随着这个第五纪元的到来而开始，这会形成一个“新世界”。CCTV出品的纪录片《互联网时代》的最后一集也预测了这个时代是个“全球脑”的时代，全球互联，人类与机器、现实与虚拟的界限将变得模糊，吕克?贝松2014年的电影《Lucy》里的女主角就可以视作是这种超级智能的结果。奇点之后，超级智能在第六纪元从地球扩展到全宇宙，最终形成宇宙觉醒，宝树的科幻小说《时间之墟》中宇宙意识的整体融合幻想了这种存在。这个时候的发展已经逾越了我们现有想象的疆界，超越光速这一阈限也并非不可能。

当然，现实世界也会存在一些阻碍奇点来临的因素，比如大规模的灾难，全球传染的疾病类似SARS、埃博拉病毒，核战争，计算机硬件的限制，人类大脑计算能力的被低估，艺术等富含情感性因素难以被技术智能理解等等。库兹韦尔是从纯技术进化来推理的，论证并不严密。因而也遭到了来自各方面的批评。信息技术分析人士会觉得库兹韦尔以科幻替代了科技，被公认为是国际上人工智能核心杂志的《IEEE智能系统》的极为权威编委甚至都不愿意发表对“奇点”的任何观点。

机器能否具有思维一直是人类关注的话题，1950年，英国数学家阿兰?图灵（Alan Turing）发表了一篇论文，预言了创造出具有真正智能的机器的可能性。他后来提出一个具体测试：如果电脑能在5分钟内回答由人类测试者提出的一系列问题，且其超过30%的回答让测试者误认为是人类所答，则电脑就被认为拥有智能。1980年，哲学家John Searle在《心智、大脑和程序》提出“中文房子”的思想试验：设想一个只懂英语的人坐在封闭屋中，回答外面人用中文提出的问题，他有一本问题与答案对照的手册，按照手册作答，外面的人会误以为他懂中文。这个试验实际上否定了“图灵测试”的可靠性，即它简单模拟了人机交流的真相：计算机似乎能用语言与人类交流，但只是限定在操作字符与程序上，并没有懂语言本身。这可能是人工智能所能达到的极限，包括机器学习和潜在的人工智能的可能性。

库兹韦尔用了专门一章一一回应了各种批评，他引用John Smart的话：“哲学家们很久以前就意识到，与他们的祖先相比，他们的孩子出生在一个更加复杂的环境中。对加速转变早期的认识，甚至是无意识的认识都可能会促进西方传统的思想，例如：乌托邦论、世界末日论以及新千年论等。然而不同的是，现在每一个人都在某一层面上认识到了前进的脚步，而不是简单的空想。”在他的预测中，并不仅仅是机器单独发展为超级智能，而是人与机器的结合，包括对人自身的改造。比如就人的身体本身，组成它的各种粒子平均每月就完全翻新一次，所以通过吃药物或者植入芯片或者纳米机器人来改造生物特征都是可行的，甚至能够带来持续的健康乃至永生。他强调的是技术范式转移会用更大、更优良的方法解决以往和目前视野中视作无法跨越的门槛，而思维转换发生的时间间隔越来越短，同时会越来越频繁。一句话，对于未来的想象无论如何大胆，都是有可能实现的。

奇点涉及到避免不了的伦理学困境和关于“人”的定义的重写，那时候的“人”无疑已经是“后人类”，这个话题已经引发了人类学与社会学诸多领域最前沿的思想者们的关注。科学问题发展到了最后就变成了哲学乃至神学问题。关于人造人的恐惧与道德难题，一直伴随着从工业革命以来的人类始终。这样的问题似乎是库兹韦尔没有考虑的。

牛津大学主持“人类未来研究所”的哲学家Nick Bostrom更像是一个悲观主义者，他描绘了一幅人类与技术控制关系的画面：一辆从山路上加速下滑的校车，满载叽叽喳喳、欢笑打闹的孩子。但是如果往前看，驾驶员的位置上是空的。他指出最近关于开发超级智能风险的讨论有两种基本叙事：一种认为机器一旦获得高级智能就会自动理解并且关心人类价值，不会对人类生存构成威胁；另一种认为超级智能一旦诞生，会想除掉人类。但这两种说法的共同错误在于都把超级智能人格化了，用人类情感投射到与人性完全异质的实体身上。在其刚出版的新书《超级智能：道路、危险、策略》（Superintelligence： Paths， Dangers， Strategies）中，对于人类面临的巨大问题和应对策略有着对库兹韦尔的补充，可以对照着来读。

（作者系中国社会科学院副研究员）

责任编辑：张蕾磊