美国500万个工作已被机器取代超级AI会让人类永生还是灭亡

■曹书

从1956年起，人工智能经历了40多年的发展。目前，AI的目的是让计算机像人一样思考。那么，当AI学会思考之后，它们将会带给人类什么呢？它们将会怎样影响未来世界？

1.人工智能的影响

AI的实现有两种方式。第一种方式是用传统程序使系统呈现智能，不考虑该方法与人类的方法是否一致，称为工程学方法（Engineering Approach），它在文字识别、下棋等领域内取得了很大进展。

另一种方式是模拟法（Modeling Approach），它不仅看效果，还要求实现方法和人类的方法相类似。遗传算法（Generic Algorithm，GA）和人工神经网络（Artificial Neural Network，ANN）属于模拟法。

遗传算法模拟人类的遗传和进化机制，人工神经网络模拟人类大脑中神经细胞的活动方式。为了得到相同的智能，两种方式都可使用。

工程学方法需要详细的程序逻辑，对于简单的AI很方便。对于发展系统来说，其逻辑会很复杂，很烦琐，很容易出错。使用模拟法，编程者要设计一个智能系统进行控制。起初系统什么也不懂，但它能学习，渐渐适应环境，应付各种复杂的情况。系统会犯错，但它会吸取教训，下一次运行时会改正，不会一直错下去。对于复杂的应用，模拟法比工程学方法更有效。

AI与人类思维有着本质区别：AI是无意识的机械的物理过程，人类思维是生理和心理过程；AI不具备社会性；AI没有人类意识特有的、能动的创造力；二者总是人脑的思维在前，电脑功能在后；AI按人类预定的程序而定，人类意识常常是随机和无法预定的，无论前景如何，AI革命已经起步。支撑AI革命的是AI算法，这些算法为AI提供了核心动力。目前，相关算法已应用在很多领域中，为人类生活和工作提供了很大方便。最能代表AI的是计算机自创算法。例如，在计算机得到了直升机控制数据后，它会利用深度学习找出让直升机倒飞的算法；未来的AI算法能帮助人类寻找爱人、识别声音。

AI将往何处去？和人类的发展相比，计算机及AI的发展速度超乎想象。从第一台计算机的诞生到今天计算机无所不在，给社会带来了巨大变革的过程仅用了60年。

AlphaGo击败韩国围棋国手李世石，证明了AI在围棋上超过了人类。无法想象，AI将来会有怎样的发展。有人认为AI在2045年会超过人类。有人忧心忡忡，认为一旦AI超越了人类智能，就会对人类构成威胁，而当它们与人类的目标不一致的时候，后果将无法想象。

AI的威胁还包括：一些人可能会失业、武器的杀伤力越来越强、人类对机器的依赖及个人隐私越发不能保证。也有很多专家认为AI有很多好处，AI能在医疗、环保等方面做出贡献。历史上的每次技术革命都会带来一定程度的恐慌，从18世纪的工业革命到电力的出现引起了一系列的恐慌和社会变革，AI一出现就引起了恐慌。

1958年，第一个神经网络系统出现后，有报纸就称机器在不久后会有自己的意识。现在的AI研究已经不再局限于学术界了，很多大企业纷纷参与其中，并从中获利。尽管如此，AI也还只是能够识别物体和理解特定的语言，它们离拥有智慧还很遥远。

有人举了一个形象的例子来描述当前的AI：今天的AI就像是在一个大雾天，在一条有一面墙挡着的公路上开车，我们只知道下一步该怎么走，但看不见未来的墙，只是快乐地往前走，直到燃料耗尽。

2015年1月，MIT物理学家马克斯·特格马克召集了第一届讨论AI威胁的会议。其中的一个核心内容就是AI何时能超过人类。有专家们认为需要数百年，也有人认为会很快实现，特格马克给出的中间答案是40年。他指出，AI不需要本身是邪恶的才会对人类构成威胁。特格马克说，现在讨论AI的威胁或许为时过早，但这和原子弹的研究相似，科学家一开始都没想过它对世界的影响，也没有提前采取措施，如果提前想到它可能的威胁，现在的世界会不会是另外一番景象呢？

有人认为，AI的威胁很遥远，能够威胁到人类生存的AI只存在于科幻小说之中，AI的行为受人类设计的控制，无论未来怎样，都是人类的创造，因此能够控制。AI对人类的影响包括对一些职业的冲击，相比于20世纪90年代，波音公司的雇员减少了1/3，生产效率提高了20%。从2000～2015年，美国有500万个工作被机器取代。AI给社会带来的影响堪比蒸汽机，以通用汽车的一家工厂为例，在经历了汽车的巅峰时代后，该工厂走向没落，大量工人失业。特斯拉收购了该工厂，并迅速将其变成了自动化工厂，有1 000台工业机器人在工作，特斯拉的生产效率为每周1 000辆电动车。

令人惊奇的是，与通用汽车公司的工厂相比，生产每辆车的人工是其3倍。这说明工厂自动化非但没有让工人失业，反而带来了新的就业机会。AI会给战争形态带来变化，机器人时代的战争将采用无人机、智能化单兵作战装备以及无人驾驶潜艇等。军事技术变革中包括减少风险、减少花费。军队采用智能装备的问题是在哪些地方采用和在多大范围内采用。

目前，美国的F-18战斗机已经能从航母甲板上自动起降，大大减少了飞行员的操作难度和风险。大多数智能装备只是人类能力的扩展，机器人投入战争引起了争议——机器有权利杀人吗？前些日子，一位年轻人在无人机上装了一把手枪引起了社会的恐慌。

2014年，联合国就开始呼吁制定相关公约，自从人类进入文明社会后，技术创新就一直推动着社会进步，从近代的工业革命开始，社会变革的速度越来越快，大量自动化机器的不断涌现，取代了传统工业。计算机问世后在很多计算问题中替代了人工计算，不过计算机也催生了很多相关的工作：程序员、处理器架构师以及计算机系统工程师等，AI面临着类似的情况。

迄今为止，AI应用最广泛的领域是有监督的机器学习，即算法需要从训练数据中进行学习，它不能像人那样能多方面地间接学习。训练数据的数量和质量对于机器学习来说非常重要，搜集训练数据的过程必须慎重，谷歌每年花费大量时间来搜集并整理用于机器学习的数据。这一过程永无止境，搜集训练数据是机器学习中最需要人工参与的部分。

在很多领域内，计算机能加速解决问题，但计算机在很多看似简单的方面却无可奈何。AI也有类似的问题：AI很容易实现80%的预测或分类精度，但很难将精度提高到99%。机器学习十分清楚自己的缺点，精度较低时，AI会将情况告诉工程师。目前，AI使用最多的是“人工参与循环链”模式：在AI不能决定时，人类立即参与其中。

过去，人们总认为AI产品离现实还很远，实际上以AI理念为基础的产品的研发远远超出了人们的想象。脸书M就是这类产品。AI被用来处理邮件并解决相关问题，再将复杂情况交予工程师解决，无人车和自动取款机也是。

目前，无人车还离不开人工参与，无人车在正规停车场内可以自动泊车，在顺畅的高速公路上可以自动驾驶，但在复杂路况下，则必须交给人工驾驶，ATM只能处理能够识别的支票和现金，破损的支票和现金必须由人工处理。AI能解决很多问题，但仍有一些问题需要人工解决。AI的应用提高了相关工作的效率。在一些情况下，它会减少所需员工，但也会创建新市场，带来新的就业机会。

AI的主动学习模式是上述两种应用的结合，通过把训练数据反馈给AI，以提高AI的自身性能。AI最初不能解决的问题，AI会以人类解决问题的方式训练自己，未来的AI会在自我学习和训练中提高自身的能力，以此来自我完善。这样的AI能更多地为人类带来便利，提高人类的工作效率，但也让人们对AI产生了恐惧。

2.人工智能的未来

至今为止，人类经历了四次工业革命，今天的互联网就是所谓的工业革命4.0。这一波由信息技术创新带来的工业革命必定和以往的工业革命一样给社会带来某种结构性变革，这是人们的普遍认知。即将来临的AI还会为我们带来某种比人类社会结构性变革更为深远的东西，人类将以自身创造的机械来代替其智力活动，这是一种人类从未经历过的全新的东西。

以往的技术创新扩展了人们对于大自然的权能和认知，物理学让人们找到了宇宙的宏观运行与微观结构的奥秘。制造一颗人造太阳所需的只是大学硕士生的课程，在生物科学中，人们也已经掌握了遗传的奥秘，选择性的繁殖已经不是遥不可及的事情了。但是，下一波的技术创新是人类在创造自身的智力，而且是在以一种机械的、无机的方式在实现这种智力。这不但会给社会带来结构性的变革，更重要的是它将给人们的观念世界带来变革。

人类的工业革命用科学代替了神和上帝，人类自诩已经掌握了自然的奥秘。那么，AI将为人类带来什么呢？它很可能是一个超出人类自身智力水平的超级大脑，让我们来预测一下，这将是怎样的一个超级大脑吧。

最低一级的AI是狭义人工智能（Artificial Narrow Intelligence，ANI），即专业 AI，是 AI在专业领域里的运用。例如那些打败棋类世界冠军的AI，它们只做一件事。

高级的AI，即类人AI。这样的AI是和人有同样智力和理解力的计算机，可以做人能做的事情。AGI被定义为“具有普通的人类心理能力，包括解释、计划、解决问题、抽象思考、理解复杂概念、快速学习和经验学习的能力”的AI。

最高一级的AI是超级人工智能（Artificial Super Intellgence，ASI），一些学者把 ASI定义为“在科学创造力、普适智慧和社会技能等各个领域都比最强人类大脑还要聪明的智能”。ASI是一个棘手的话题，因为伴随着它的两大话题是人类的不朽和灭绝。

值得庆幸的是，目前人们只掌握了AI最低等级ANI，日常生活中ANI被广泛使用，我们如今生活在广泛运用ANI的世界里，今天的ANI给我们的生活带来的是方便和效率。最可怕的情况是，ANI出现问题或编程错误导致一些人为的灾难，如电网瘫痪、核电设备故障或股市灾难。

ANI在人类掌控的范围之内，这个正在迅速发展的相对无害的ANI是改变世界的先驱，每次ANI的创新都在为AGI和ASI添砖加瓦。它是原始状态的DNA，尚无生命，一旦有一天它醒了，会给人类带来什么呢？创造一个和人脑一样聪明的计算机是件激动人心的事，因为迄今为止，人脑是宇宙中已知的最复杂的东西。创造AGI最难的部分不是它的逻辑功能，而是它的理解力，让AGI理解猫和狗的不同，要比让它在棋类上打败人类难得多。人的理解力源于千百年的进化，人们至今仍不清楚产生理解力的物理过程，尽管对于人类而言，这一过程毫不费力。

要想达到AGI的水平，计算机要学会理解事物间的微妙关系，如表情变化等。怎么样才能实现AGI呢？首先要增强计算机的能力，该能力能用大脑每秒计算总量（CPS）来表示，有一个估算CPS的方法，即找出某人大脑某一结构的CPS与该结构的质量之比，然后与整个大脑的质量相乘，就是某人大脑的总CPS估值。有人用此方法测试了很多人的CPS并和专业测试的CPS值结果相似，为10千万亿个CPS。

今天世界上的计算机达到这一水平了吗？中国的天河2号计算机已超过了它，为34千万亿个CPS。有人建议用1 000美元对CPS的购买力来衡量计算机性能。到了1 000美元可以购买10千万亿个CPS（即人类大脑水平）的时候，AGI就进入人类的日常生活了。

今天的计算机已能用1 000美元达到老鼠大脑的水平了，即人脑的一千分之一。计算机进步奇快，1985年的这个数字是一万亿分之一；1995年是十亿分之一；2005年是一百万分之一；到了2015年是一千分之一。这样的话，2025年计算机的能力就能达到人脑水平了。也就是说，计算机硬件已经有AGI的能力了。

光有计算能力并不是AGI，接下来还要使计算机更聪明。三种最常见方法是：

（1）复制大脑。专家们在对人脑进行反向工程，即探究自然进化是怎样使人脑成为今天这样的。有人说，2030年这一工作就能完成，做到了这一点，复制大脑就不难了。

（2）全脑仿造。即将人脑进行原子层面的扫描，用软件组装出准确重建的三维人脑模型，再在功能强大的计算机上运行该模型，该计算机将具有人脑的一切能力，只要对它进行和人一样的学习和信息收集即可。

就是说，只要把一个人的脑部结构上传到计算机中，其完整的人格和内存就会在计算机里得到非常准确复制。例如：张三的大脑在他死前是张三的，张三死后计算机会作为张三继续存在，这是AGI的极致，这以后的ASI人类将无法想象。

人类已经做到了对1毫米长的扁形虫大脑的仿真，它有302个总神经元，人脑有1 000亿个总神经元。尽管看起来还很遥远，但我们已经征服了扁形虫，不久就会征服蚂蚁，接下来是老鼠，然后会发现，人脑也是可能的。

（3）用进化过程复制大脑。直接复制大脑太难，复制它的进化过程则简单得多。在现实世界里，最佳设计方案是创新的、面向机器的方法，而非完全仿生。该方法称遗传算法，其原理是：进行多次绩效评估。一组计算机同时尝试完成某一工作，将成功完成的计算机和程序重组成一台新计算机，淘汰不太成功的，多次迭代后，最好的计算机胜出。

该方案的难度在于如何建立能自动运行的评估机制。人脑自然进化用了几十亿年，AGI要在几十年里完成类似的进化，这可能吗？相对自然进化而言，AGI有很多优势。自然进化无法预见，会产生无益突变，AGI是可控的，它只生成有益的、有针对性的后代。自然进化无目的，环境选择甚至会淘汰高智商，AGI的进化是为提高智商设计的，自然进化中提高智力比AGI复杂得多，计算机进化只需用电即可。和自然进化相比，AGI的进化快得多。

真正的AGI很可能是通过计算机的学习和自身优化，即让计算机成为计算机专家来实现的。人类对AGI的恐惧来自它的进化，一旦AGI的智商超出了人类，人类将无法控制其进化进程，也就是说人类无法预期AGI会给人类带来什么，这是AI恐惧的根源。

按定义，ASI是在科学创造力、普适智慧和社会技能等各个领域都比最强人类大脑还要聪明的智能。以现有的技术水平，人类根本无法预知ASI会是怎样的，更无法预知ASI的创造过程，把AI和人脑进行比较是一件有趣的事。人脑神经元的最大输出速度为200 Hz，今天微处理器的速度是2 GHz，比人脑神经元快10万倍。人脑的内部传输速度为每秒120米，计算机的这一速度是光速，在存储量上，人脑就更无法和计算机相比了；在可靠性和耐用性上，计算机也比人脑强得多，而且故障率几乎为零。人类以其自身的智能战胜了其他所有物种，语言、人类组织、书写及印刷术增加了人类的智慧，今天的互联网让人类的智慧更上了一层楼，人类这种集众之慧的能力超出了其他所有的物种。

但是，计算机能做得比人类更好，某一特殊AI能和互联网上的任何一台计算机协调一致，并能将网络上的一组计算机作为有共同目标的整体，这种协助不会有人类那样的不同意见、不同动机和不同兴趣。这种合作产生的效率、精准度和一致性是任何人类组织都无法相比的，具有这种优势的AGI，战胜人类只是其发展过程中的一个阶段而已，它的最终目标就是超级人工智能ASI。

按这样的逻辑推演下去，人类创造了AI和AGI，AGI创造出了ASI，人类根本无法理解ASI的所作所为。在ASI面前，人类无能为力，人类要理解ASI，就像一只蚂蚁要理解一位高级程序员的程序构架一样，是不可能的。

人类社会有一条铁律——智慧意味着权力。也就是说ASI将成为地球史上最强大的存在，包括人类在内的所有生物，都将臣服于它。如果ASI是善良的，它会实时控制地球上每个原子的能力，开发出各种超级技术用以对抗人类的衰老，治疗人类和地球上所有生物的疾病，消灭饥饿和死亡。今天我们面临的所有问题，在ASI面前都将不再存在，人类将从此得到永生。如果ASI是邪恶的，那么它出现的那一刻就是地球上所有生命终结的一刻。就当今的人类而言，如果超级人工智能ASI成为现实，它就是万能的神，这是我们开发人工智能的初衷吗？