科技与心智的较量

李忠东

“人机大战”见高下

2016年是世界围棋界极不寻常的一年，3月份在“阿尔法围棋”（AlphaGo，一款围棋人工智能程序）与围棋世界冠军、职业九段选手李世石之间展开的一场人机大战中，“阿尔法”的胜出震惊全球。7月份世界职业围棋排名网站公布了最新世界排名：“阿爾法围棋”以3612分，超越3608分的柯洁成为新的世界第一。

2016年12月29日到2017年1月4日，一个名叫 “Master”的神秘网络围棋手横扫中、韩、日围棋界。它凭借惊人的稳定性一路高唱凯歌，获胜60场，没有败绩。最终神秘的“Master”揭开了庐山真面目，宣布自己就是“阿尔法围棋”。

2017年1月，谷歌Deep Mind公司宣布推出真正2.0版本的“阿尔法围棋”，成为第一个不借助让子，在全尺寸19×19的棋盘上击败职业围棋棋手的电脑围棋程序，其特点是摈弃了人类棋谱，只靠“深度学习”的方式成长起来挑战围棋的极限。

围棋是人类最具智慧的竞技之一，而人工智能（Artificial Intelligence，简称AI）研发是人类最具挑战性的科技探索。人机大战的经典对决将被同时载入围棋史册和科技史册。它的意义已经远远超出围棋本身，人们热衷谈论“阿尔法围棋”更多是出于对AI技术的关切。从诞生到日益成熟，AI理论和技术的应用领域在不断扩大，不知不觉间渗透到人类当代生活的各个方面。AI时代，互联网、金融、医疗、教育、物流、娱乐、传媒等行业都在加速自己智能化的进程。可以想见，未来人工智能带来的科技产品，将会是人类智慧的“容器”。 而与此同时，人类命运和机器智慧的冲突与共存，已经由人机大战开始不断升温。

“人工智能百年研究”项目

2014年秋季，美国斯坦福大学开启了“人工智能百年研究”（AI100）项目。这是一个超大型长期项目，该项目发起人——美国人工智能发展协会会长、前微软研究员埃里克·霍维茨博士表示，“我们的职责是研究人工智能在2030年前对人类社会生活方方面面所产生的影响，尤其是在北美地区”，而“研究的核心是，人类不能丧失对人工智能的控制能力”。

2016年9月1日，“人工智能百年研究”项目的第一项成果《人工智能与2030年的生活》发布。这是一份试图定义北美城市在未来10多年间将要面临的可以模拟人类行为的计算机和机器人系统 （即人工智能）问题的报告，涉及交通、家庭/服务、健康医疗、教育、低资源社区、公共安全与防护、就业、娱乐等八大关注领域，目的是推动相关政策的制定。业内人士认为，工业界和学术界目前正在联手倒逼政府出台人工智能的相关政策，希望可以获得更大力度的资金和法律扶持。

《人工智能与2030年的生活》所列举的八大关注领域，均面临着人工智能的影响和挑战。例如开发安全可信赖的硬件的困难（交通工具和服务机器人），获得工作信赖的困难（低资源社区和公共安防），对劳动力可能被边缘化的担忧（就业和职业），以及人际交往减少带来的社会副作用（娱乐）等等。

1.交通：自动驾驶的汽车、卡车、无人机投递将改变城市里的工作、购物和休闲娱乐模式，但需要增加可靠性、安全性和用户接受度，并根据新的交通模式改进当前的相关法规和基础设施。

2.家庭/服务机器人：现在进入家庭的扫地机器人或特种机器人能够为家庭和工作场所提供清洁和安保服务，当务之急是技术方面的挑战和机器人成本过高的问题。

3.健康医疗：个人健康监测装备与手术机器具有极大的发展潜力，人工智能软件将最终对某些疾病自动进行诊断和治疗。目前的关键是获取医疗从业者的信任。

4.教育：互动辅导系统在帮助学生进行语言、数学以及其他技能的学习方面已经发挥出作用，自然语言处理的发展将为这一领域的应用带来全新的方式。当务之急是教育资源分配不均的问题，以及教、学双方直接互动的减少会带来哪些消极影响。

5.低资源社区：投资最新技术领域有助于更充分地发挥人工智能的优势，比如避免铅污染和改进食品分配等，重要的是让公众参与进来以增强相互信任。

6.公共安全与防护：利用相机、无人机和软件进行犯罪模式分析，应用人工智能技术来降低人类判断的主观偏见，与此同时在不侵犯个人自由和尊严的情况下增强安全性。目前需注意的是如何保护隐私和避免固有偏见。

7.就业和职业：随着全球经济的快速发展，传统岗位开始被新岗位取而代之，有关人类如何适应这种新变化的相关工作需要立即展开，比如如何妥善处理劳动力下岗以及人工智能对新工作岗位不适应的问题。

8.娱乐：内容创建工具、社交网络和人工智能的结合，将开创全新的媒体内容收集、组织和分发模式。但问题是新的娱乐方式如何在个人价值和社会价值之间取得平衡。

《人工智能与2030年的生活》在回顾发展历程和展望发展趋势时指出，人类正加速在人工智能领域的研究，试图建立一个能与人高效协作的智能系统。其中最重要的是机器学习的成熟，它受到了数字经济崛起的部分影响——数字经济为机器学习提供了大量数据。此外其他影响因素包括云计算资源的崛起，以及消费者对语音识别和导航支持等技术服务的需求。研究人员认为，不管是从基本方法上还是应用领域，包括大规模的机器学习、深度学习、增强学习、机器人、计算机视觉、自然语言处理、协作系统、众包和人类计算、算法游戏理论和计算的社会选择、物联网、神经形态芯片在内的研究趋势，共同促进了人工智能研究的热潮。

这份报告试图严肃地讨论这样一个问题：如何更好地引导人工智能来丰富和服务于人类生活，同时推动和激励这一领域的创新。因为人类目前并不能清晰而完美地预测未来的人工智能技术及其影响，所以一定要对相关政策进行评估。未来几年公众在交通和医疗等领域内应用人工智能的机会日渐增多，因此必须以一种能构建信任和理解的方式将其引入，确保在尊重人权和公民权利，保护隐私和安全，维护广泛而公正的利益分配等方面措施周备。

研究人员指出，传统的人工智能范式已被数据驱动型范式成功取代，对于定理证明、基于逻辑的知识表征与推理这些程序的关注度在降低。作为20世纪七八十年代人工智能研究的一根支柱，规划（ Planning ）强烈依赖于建模假设，难以在实际应用中得到满足；视觉方面基于物理的方法和机器人技术中的传统控制与制图，正让位于通过检测手边任务的动作结果来实现闭环的数据驱动型方法；还有曾颇受欢迎的贝叶斯推理和图形模式，在数据和深度学习的显著成果前也显得相形见绌。在未来15年中，针对人类意识系统开发，按照能够互动的人类特点进行建模和设计人工智能系统成为人们的兴趣点。在考虑社会和经济维度的人工智能时，物联网型的系统变得越来越受欢迎。数据驱动型产品的数量及其市场规模将会扩大。

“为机器人安装‘死亡开关”

2017年1月，欧洲议会法律事务委员会召开会议，呼吁制定“人类与人工智能/机器人互动的全面规则”。會议公布的报告对机器人可能引发的安全风险、道德问题、对人类造成的伤害等情况进行了讨论，探讨是否需要为机器人安装“死亡开关”、研究机器人抢走人类工作的应对措施等等，要求欧盟为民用机器人制订法律框架。专家认为，这或将是首个涉及管制机器人的立法草案，将有利于人类应对机器人革命带来的社会震荡。

会议认为，人工智能和机器人发动的新工业革命可能影响到所有的社会阶层。机器人可能创造无限的繁荣，与此同时将影响人类未来的就业情况。机器人取代人类在许多行业是大势所趋。在德国，每1万个雇员中就有301个是工业机器人。报告要求欧盟委员会对各国民众的就业情况进行调查，重点关注极易被机器人取而代之的职位。如果机器人成为职位“杀手”，欧盟各成员国应考虑为国民提供基本的生活保障。埃里克·希尔根多夫是一名德国法律教授，他非常认同欧洲议会讨论的这项议题。“这不仅在政治上是可取的，从法律角度也是必要的，这样我们才能及时应对机器人革命带来的社会震荡。”他指出，“即使是银行顾问、教师和记者等要求严格的职业，未来也无法在这场科技洪流中幸免。”

会议强调，因为人工智能在几十年内可能超越人类的智力，将对人类控制机器人构成挑战。随着机器人自我意识的崛起，甚至可能威胁人类的生存。近年来，机器人“杀人”的事件时有发生：2015年6月，在德国大众汽车公司，一名工人安装机器人时反被它抓起推向金属板压死；2016年6月，美国一家汽车零件生产商的一名女员工正在修理出现故障的机器人时，它突然启动，将修理女工活活压死。

报告参照美国科幻小说作家艾萨克·阿西莫夫提出的“机器人学三大法则”，将其作为立法框架，对机器人自我意识觉醒后的行为规范做出规定。“机器人学三大法则”包括： 1.机器人不得伤害人，也不得见人受到伤害而袖手旁观。2.机器人应服从人的一切命令，但不得违反第一法则。3.机器人应保护自身的安全，但不得违反第一、第二法则。由于规则无法转化为代码，欧洲议会正在着手建立一个针对机器人和人工智能研发的机构，为设计、生产和操作机器人的人员提供技术、伦理和监管方面的专门知识等。

报告还提出：1.在设计新型机器人时，设计师应该尊重人类的基本人权，事先获得道德研究委员会的批准。2.必须为机器人注册，以便在调查事故时查找涉事的机器人。3.确保机器人安装有“死亡开关”，可以随时被关闭。4.机器人不能对使用者造成“身体或心理伤害”。如果酿成事故，机器人不能逃脱责任。机器人所负担的责任应该与其接收的实际指令及其自主程度相对应：它的学习能力和自主性越高，那么人的责任就较低；倘若它“受教育”的时间越长，教它的“老师”负的责任就越大。报告还指出，机器人的生产商或拥有者将来需要购买保险，来承担机器人可能造成的损失。

人类与机器人的关系将会引起一场涉及私隐、尊严和安全的大讨论，在欧洲议会投票赞成立法之前，各成员国政府将对此做进一步的辩论和修正。

“机器人应当纳税”

英国牛津大学近期一项调查结果显示，今后数十年间，自动化改变生产线的速度将超过20世纪。在经济合作与发展组织（OECD）成员国，57%的工作岗位有被自动化取代的风险。英国中央银行英格兰银行预测，在自动化浪潮中，危在旦夕的英国工作岗位多达1500万个。美国白宫2016年预测，机器人取代时薪低于20美元以下岗位、介于20～40美元岗位和时薪40美元以上岗位的概率分别为83%、31%和4%。

在美国微软公司创始人比尔·盖茨看来，为暂时性减缓自动化蔓延速度，很有必要向企业为雇用机器人员工而征税，税单将是阻止机器人取代人类工作岗位的杀伤性武器。如果机器人将大范围取代人类工作岗位，那它们至少应为此买单。“目前一个人类员工在工厂中创造了5万美元的价值，这个价值会被征税。人类员工需要缴纳各种税，如所得税、社会保障税以及其他税款。如果一个机器人在工厂做与某个工人同样的事情，我们也应按同等水平向它征税。”

盖茨同时认为，尽管一些工作岗位可能被机器人取代，但人们可以在那些所需技能是机器人无法复制的领域里继续工作。世界需要抓住机遇解放劳动力，让人们从事更好的工作，例如关爱老人和帮扶特需群体。在这些领域，人类具有独特的同情心和理解力。

法国社会党总统候选人伯努瓦·阿蒙也呼吁法国对机器人征税，部分税收用于补贴全民基本收入保障。越来越多的政界人士和硅谷富翁支持推出全民基本收入保障，以化解自动化引发的大范围失业。而反对机器人税的人士则持这样的观点：自动化即使在短期也可以借助提高生产率创造新的就业岗位。

“人类需要成为‘半机器人”

美国特斯拉汽车公司首席执行官伊隆·马斯克在2017年2月13日迪拜举行的 “世界政府峰会”上表示，未来20年，驾驶人员的工作将被人工智能所颠覆，之后全球12%～15%的劳动力将因为人工智能而失业。“从技术角度讲，最迫切的影响会来自自动驾驶汽车。它到来的速度将远快于人们的预期，当然它会为人类提供极大的方便。”

马斯克认为，由于机器人和人工智能系统使社会越来越自动化，因此人类需要成为一种与机器相结合的“半機器人”。他解释道，随着时间的推移，生物智能与数字智能将紧密结合，这将涉及人脑与数字版的自己之间的通信带宽和连接速度，尤其是输出方面。计算机能达到以每秒1兆位的速度通信，而人类（用手指点击移动设备）却只能做到每条10位的速度。如果这样，在人工智能威胁无处不在的时代，人类将变得无用。为了避免被淘汰，人类未来前景之一将是和机器“融为一体”。因为对“个人技术”的日常依赖性不断增加，已成为神经生物学的一部分，所以人类智能和机器思维将会高效地合二为一。它影响着我们的思考方式，但又能够脱离我们的肉体之躯而继续存在。实际上，我们在某种程度上已经是“半机器人”：拥有手机、电脑和各种app，碰到问题时可立刻通过人工智能渠道获取解决方案。

人工智能不仅仅依赖于科学技术，更需要人类真正的理解与信任。首先，可以想见，未来必将有更多原本属于人类自身的“骄傲”被人工智能所攻克，但每一次攻克与被攻克之间的缠斗，都是激发人类潜能的最佳契机。如果用一种开放和包容的心态来接受人工智能，那么这一领域的崛起和新的工业革命将会给社会带来深刻而有益的影响和变革。其次，尽管人工智能在未来有可能对数以百万计的就业岗位产生强有力的冲击，使得传统工作面临前所未有的风险与挑战；但从另一方面讲，人工智能的发展也会创造全新的职业，为人类提供新的就业机会。当然，对人工智能的过度使用和依赖有可能产生过犹不及的反作用，甚至侵犯到人们的隐私和安全，有违人类社会的道德伦理。此外，在包括艺术创作在内的很多领域，人工智能很难像“阿尔法围棋”那样超越人类，纵然它使出浑身解数，也画不出《蒙娜丽莎》，写不出《红楼梦》，谱不出《命运》交响曲，拍不出《教父》这样的电影。艺术的灵感与创造力，是人类智慧坚不可摧的堡垒，是人工智能难以胜任和超越的。