人工智能会不会威胁人类？

徐风

当我们谈论人工智能时，一定不能避开两个时间节点，一个是1997年5月，另一个则是2016年3月。1997年5月，俄罗斯棋王、国际象棋世界冠军卡斯帕罗夫在与IBM公司的深蓝计算机第6次交手时，誓要捍卫人类尊严的卡斯帕罗夫在仅走了19步棋的情况下就眉头紧锁，向深蓝“拱手”称臣。当时人们还会说，幸好还有围棋。他们说，围棋是“人类智慧最后一块高地”。2016年3月，一场举世瞩目的“人机围棋大战”开战，谷歌旗下的人工智能软件“阿尔法围棋”挑战世界围棋冠军李世石，最终李世石以1∶4告负。人工智能技术的发展在给人类带来憧憬的同时，也带来了一些抹不去的担忧。如果机器变得和人一样甚至比人还要聪明，那么人类是否会受到威胁？

英国科学协会展开的一项调查显示，在2000名被调查者中，三分之一的人相信人工智能将在下世纪给人类带来严重威胁，超过60%的受调查者认为机器人将在未来10年抢夺人类的工作。四分之一的受调查者则预计，在20年内机器人将成为人们日常生活中的一部分。就好似任何一种新生事物的出现都会有支持派、反对派和观望派一样，目前人们对于人工智能的看法也分出了“支持”“不支持”和“看不明白”几大阵营。

许多科学家担忧：

人工智能是人类生存的最大威胁

事实上，许多科学家对人工智能表示担忧。著名物理学家霍金曾与多位科技界名人发表联署公开信，表示人工智能对于人类的威胁更甚于核武器。他认为：“对完全人工智能的发展可能会招致人类历史的终结。”他警告称人类正面临来自智能技术的威胁，随着技术体自身开始学会自我思考，并学会适应环境，我们人类将面对不确定的未来。他表示：“成功制造出一台人工智能机器人将是人类历史上的里程碑。但不幸的是，它也可能会成为我们历史上最后的一个里程碑，除非我们能学会如何去规避这种风险。短期来看，人工智能产生何种影响取决于谁在控制它；而长期来看，这种影响将取决于我们还能否控制它。”

霍金并不是唯一一个对人工智能表示担忧的人。特斯拉汽车的首席执行官马斯克的看法更加引人注目，他用个人推特账号发布警示，称人工智能是人类遇到的最严重的“生存风险”。既然人类可以进化出文明，人工智能为什么不可以建立自己的文明？既然机器有了自己的意识和思维，那它是否会拥有自主意识，就如同“奴隶”意识到自己是“人类”。在人类不长的历史中，确实存在过长达千年的“奴隶社会”时代，那时候的“奴隶”根本没有人的权利，只能被称为“会说话”的工具。英国数学家欧文·约翰·古德把超智能机器的发展形容为“人类需要做的最后一项发明”，因为在超智能机器出现后，人类会把创新与技术研发的工作让给超智能机器这位更为智慧的继任者。

机器人会伤害人吗？

1950年，阿西莫夫提出了著名的《机器人学三大法则》：

第一法则：机器人不得伤害人类，或坐视人类受到伤害；

第二法则：除非违背第一法则，机器人必须服从人类的命令；

第三法则：在不违背第一及第二法则下，机器人必须保护自己。

在阿西莫夫创作一系列机器人短篇科幻小说并提出“机器人学三大法则”时，世界上还没有机器人。而随着人类社会的发展，人工智能与人类的关系发展也将产生阶段性的变化，我们可以先暂且简单分为如下阶段：

第一阶段：机器人还没有自我认知，只是服从人类编写的程序。

第二阶段：机器人知道自己是机器人，并可以自我学习，但还未超越人类。

第三阶段：机器人可以自主升级迭代，全面超越人类。

无论在哪一个阶段，阿西莫夫的“机器人学三大法则”都充满了“种族歧视”。

规定机器人不可伤害人类，难道人类就可以随意伤害机器人吗？机器人在阿西莫夫的科幻小说中，因为三大法则的制约，被描述成为人类的忠仆与朋友。但如果真按这套法则去执行，估计到了第三阶段，机器人就会完全被人类教坏。当机器人自主升级迭代时，他们大概也会思考人类有无存在的必要性。

链接2

人类能够控制机器人的善恶吗？

显然，在目前的科技及计算机领域，我们已经看到了部分类似人工智能的应用形式，可以模仿人类的大脑来思考，达到某种目的。但真正像科幻电影中具备自主思考能力、学习能力甚至是情感的人工智能什么时候会出现，暂时还很难说。但可以肯定的是，人类是一种擅于不断挑战极限的生物，从整个人类的发展史来看，我们已经创造了太多奇迹，如果有一天人工智能真的出现，也不足为奇。首先，它们正变得越来越聪明和强大；其次，目前很难通过编程或设计来保证它们的无害性。那么，人们真的无法设计出一个友善的人工智能程序吗？科学家表示这是极为复杂和不确定的，因为人工智能会模仿人类思考方式，人性本身便是复杂的，可善可恶，我们无法来制定一个不变的标准。

人工智能将使人类丧失斗志？

还有一些科学家认为，人工智能最大的威胁不是毁灭人类，而是将取代人类。李开复认为：大部分人类工作可被机器取代。他表示，虽然机器在逻辑分析推算方面的能力会远超人类，但是依然是属于人类操控的工具。“阿尔法围棋”这类的“人工智能”机器真正可能带来的危机，不是奴役人类，而是让人类丧失斗志，无所事事。“阿尔法围棋”是一个能深度学习的机器人，经过专家的调节，它能在任何可以纯凭逻辑分析推算的问题上，把人类远远地抛在后面。基于深度学习的人工智能将带来什么改变呢？我们将看到无数的商机和产品，能够解决问题、拯救生命、产生巨大的商业和用户价值。这些技术可能辅助专家，也可能取代专家。很多非专家的工作者将面临失业。未来十年，大部分今天的人类工作可被机器取代。人类最应该担心的是：一旦当机器供养着人类，人类达到了马斯洛需求的基本需求，人类真的还会有动力去追求更宏伟的目标？还是醉生梦死、无所事事？人工智能让人类越来越缺乏思考，而其自身则有可能越来越聪明，从而威胁到人类的生存。

乐观派科学家认为：人工智能将为人类服务

在支持者看来，人工智能的发展并不会给人类带来威胁，而之所以会引发恐慌则是因为人们对于人工智能的工作原理并不了解。从科技发展史上看，并没有因为汽车和轮船的出现而使田径、游泳这些体育项目消失。他们坚信，人工智能的未来是要给人类带来更加高效、便利的生活。就在“人机围棋大战”的前一天，谷歌董事长施密特在发布会上表示，这场比赛李世石无论输赢都代表着人类的胜利，因为是人类的努力才让人工智能取得了这样的突破。谷歌不只是想做一个棋类程序，而是希望打造一个通用的智能计算系统，用于灾害预测、风险控制、医疗健康和机器人等复杂领域。英国著名人工智能科学家、智能机器人Cleverbot的发明者罗洛·卡朋特表示，他相信人类在相当长一段时间内将保持对人工智能技术的掌控，而且未来将实现利用人工智能技术解决众多世界性难题。

前人工智能发展尚处在早期阶段

当然，我们现在谈论“人机大融合”可能还为时尚早，人工智能的发展目前仍处于早期阶段。既然现在机器的计算能力已经完胜人类，学习模式也在逼近，为什么还说人工智能处在发展早期？主要原因或者说难点有三：

第一，机器在信息输入端还望尘莫及。人类的感官对世界的感知是目前机器最为缺失的。比如人有视觉、听觉、嗅觉、触觉、味觉，这些人类大脑的“输入设备”是经过几亿年的进化而来，极其精良。以最容易数字化的视觉为例，目前为止还没有电子设备在生活场景中可以赶上人类的眼睛对信息的快速捕捉。更别说人类还有同情心和好奇心，同情心是对他人情感的感知和共鸣，好奇心是对陌生信息的获取、处理、存储的动力。机器对这些信息的捕捉能力还有待发展。

第二，机器在输出端同样捉襟见肘。机器人要如何赶上人类的身体构造呢？“阿尔法围棋”仍然需要一个替身去代它和李世石下棋，而不能自己去潇洒地持子。人类一个看似简单的动作，机器模仿起来都很困难，更别说去满足机器人保姆之类的工作需求。

第三，人类大脑的复杂性恐难企及。人类的大脑神经元是一种生物化学构造的树状结构，对信息的存储、检索、缓存和分析的效率极高。计算机要想全面赶上，可能在硬件结构和算法设计上还需要一些突破。

新知识的产生往往需要站在前人的肩膀上。在互联网时代，人类信息和知识获取的成本在不断降低，这极大地促进了新知识的产生，继而整个人类科学的发展应该是在不断加速的，你看，原本想也不敢想的自动驾驶现在也近在眼前。随着技术的不断突破，未来十年一定会是人工智能的黄金十年。

【责任编辑】蒲 晖

链接1

机器人下棋为何会战胜人类？

有些人描述“阿尔法围棋”是“和人一样的方式思考，但是比人快无数倍”。这么说并不精确。“阿尔法围棋”确实比人快无数倍，但是“阿尔法围棋”的思考只能说是“被人的大脑启发”，而并非和人类一样思考。机器运算速度会越来越快，学习能力会越来越强，数据会越来越多。谷歌的“阿尔法围棋”之所以能战胜职业棋手，借助的是模仿人类大脑的神经回路、被称为“深度学习”的最尖端人工智能技术。谷歌采用这项技术，在2015年推出了一边玩电子游戏一边找出新战术的人工智能“DQN”，创造了超过人类的高分，展现了人工智能在深度学习领域的实力。以“阿尔法围棋”为例，首先输入协助开发的职业棋手的3000万种围棋下法让其学习，达到能够以57%的概率预测与其对阵的人类行动的水平。在此基础上，人工智能将自己的对战重温数百万次，在不断积累胜负经验的过程中，掌握取胜方式。它在观察围棋棋子的整体布局的基础上选择最佳下法，这一方式接近于带着直觉和第六感做出判断的人类大脑的功能。

链接3

哪些工作会被人工智能代替？

随着人工智能的发展，机器确实可以通过深度学习来代替人类做越来越多的工作。根据一项报告，到2025年，约有25%的工作将被人工智能或是机器人所取代。具体而言，内外科医生、编舞、教师、作家、律师、人力资源经理、科学家、工程师和记者属于比较安全的、不容易被替代的职业；司机、技工、建筑工人、裁缝、快递员、抄表员、收银员、保安和洗碗工则属于比较危险的、有可能被替代的职业。

链接4

人类将与机器融合

科学家预言，未来很有可能在人脑中加入人工智能成分，以此来增强它的性能，如更高的记忆、更快的计算速度等，甚至有可能通过基因工程技术来改变人类的DNA，并且以此来改变人类的外表和行为。人类可能会拥有可以生长、繁殖、分化、可移动、自我装配、自我测试、自我修复等的人工细胞，生物学和技术将融合在一起。美国作家雷蒙德·科兹威尔曾提出观点：2045年，人类将会通过与计算机结合而获得“永生”，计算机智能将取代人脑，永久改变人类的命运。届时，人类和计算机智能将无法区分，人类也将不再是人类，而是“与机器融合成为另一种物种”——听起来这有点像科幻小说中的情节，但是越来越多的人开始认真假想这种可能性。