人工智能的爆发与隐忧

赵福帅

“移动互联网时代已经结束，未来属于人工智能”。在2016年11月16-18日举行的第三届世界互联网大会上，百度董事长李彦宏表示。在乌镇会场外，百度展示了18辆无人驾驶汽车，普通大众都能在全开放城市道路上试乘，体验一把本届大会最热门的话题——人工智能。

人工智能是具有类人智能甚至超越人类智能的机器，是对人类智能活动的替代、解放和强化。这种智能可以是计算，也可能是思维、意识、情感等。目前，人工智能已经应用在无人驾驶、人脸识别、定理证明、智能控制、博弈、语言识别等众多领域。

比如，美国政府2016年10月份就制定了一个野心勃勃的目标：在30年内把美国的交通事故死亡人数降为零。2015年美国的交通事故死亡人数增长7.2%，死亡人数为35092人。美国国家高速公路交通安全管理局（简称“NHTSA”）表示，人为因素在交通事故中占比达94%，无人驾驶可以完全消除这项因素。

众多学者和企业更是将其视为重新激活世界经济的主要引擎之一。不过，在这之前还有很多技术、法律乃至伦理问题需要解决。

无人驾驶瓶颈

美国当地时间9月23日，谷歌无人车在山景市与一辆商务货车撞在一起，这可能是谷歌汽车遭遇的最严重车祸。谷歌汽车的右侧车门被撞出大面积的凹陷，车窗遭到一定程度的损坏。车祸没有造成人员伤亡，气囊已经弹开。这起事故是货车司机的失误造成。2016年2月14日，谷歌无人驾驶汽车与一辆公交巴士发生轻微碰擦的事故，这是谷歌首次表示无人驾驶汽车应当“承担部分责任”，地点同样位于加州山景市。

特斯拉公司生产的S型电动轿车则已出现数例自动驾驶模式下的交通死亡事故。2016年1月，河北省邯郸市就曾发生特斯拉自动驾驶致人死亡事故，这应是全球首例。另有业内资深人士透露，特斯拉自动驾驶出现的事故其实多数未被报道。

这些事故都不断引发外界对自动驾驶技术是否足够成熟的质疑。

根据美国加州2012年通过的相关法案，允许无人驾驶汽车上路测试，但需要合法驾车人坐在驾驶座位上，在紧急情况时操纵汽车。特斯拉汽车的操作手册也提醒驾驶者，即便在自动驾驶中，也需要把手一直放在方向盘上。但现实中，驾驶员往往喜欢冒险和刺激。

至于技术成熟后的大规模商用，NHTSA表示，没有方向盘和油门的无人驾驶汽车在美国市场销售之前，相关法规必须做大的调整。

在中国，无人驾驶汽车同样面临法律障碍，问题主要集中在牌照和事故责任认定两方面。

无人驾驶汽车一旦在测试或商用时发生事故，就面临责任划分、理赔等问题。无人驾驶系统、司机、对方的责任如何划定？由于无人驾驶汽车是由多家企业集合研制，这些企业的责任又将如何划分？如果无人驾驶和有人驾驶可以切换，责任又将如何划定？

“应当尽快对事故后保险公司的理赔、无人驾驶技术平台与保险公司对于硬件、软件供应商的责任追偿开展立法工作。只有健全理赔体系时，才能够消除无人驾驶技术的测试与研发过程中各方的后顾之忧，切实推动技术的进步与发展。”中国政法大学传播法研究中心副主任朱巍向《凤凰周刊》表示。

中国科学院大学公管学院副教授刘朝表示，由于无人驾驶汽车仍在测试阶段，技术路线等都不确定，国家层面法律的修订和出台应慎重，自下而上的政策法规尝试和探索不失为一条稳妥而高效的路径。另外，在此过程中特别需要可靠的传播媒体和真正中立的社会组织发挥积极的作用。

人工智能引发失业潮？

2016年1月，IBM公司开发的Jill Watson分析系统开始帮助美国佐治亚理工大学的毕业生解决毕业论文中遇到的各种问题。Watson在回复电子邮件和论坛发帖时，语气随意，与正常人无异，而且会使用很多口语，能在几分钟之内准确地回应问题。

在五个月的试验中，没有学生发现他们的助教是机器人。

类似的人工智能技术已经被应用在法律服务、医疗助理、金融分析等多个领域，与此相应，部分岗位正在被这些智能机器所替代，从蓝领到律师，从医生到华尔街分析师。

人工智能技术最有价值的应用可能是金融业。在金融领域，每提升1%的收益就能获得巨大的财富。毕马威在近期一份报告中预测，到2030年银行及其服务可能“消失”，类似于苹果Siri的人工助手将接管客户的生活与金融服务。传统银行的多数部门或将消失，而专业的服务则将获得更大发展。

一些评论家预测，人工智能会使得某些工人的技能多余化，那些被自动化所取代的工人不得不寻求新的就业机会。即便这部分工人能够找到新工作，也常常是低附加值的，且工作稳定性更低。从这个角度讲，人工智能不仅可能增加社会不公，更会带来永久性的失业以及贫穷。

诺贝尔经济学奖得主斯蒂格利茨就认为，劳动市场正因为技术变化而发生重要转变，要保护劳动力，就必须对人工智能和自动化系统相关的监管和其他政策变化保持高度重视。

真格基金创始人徐小平近年投资了多个人工智能项目。在他看来，人工智能对人类的影响和冲击将是全方位的。

“有人说，在美国除了卡车司机和销售员，其他工作都在被替代。不幸的是，卡车司机也在被替代。高中学历的美国卡车司机年薪7万美金。所以，特朗普崛起了，支持他的多数是没上过大学的白人，他们在全球化和高科技面前成为失意者。”徐小平告诉《凤凰周刊》。

新近涉足人工智能的雅瑞资本联合创始人张瑞君相对乐观，她告诉本刊，目前投资的项目其实主要是代替人们所不愿从事的低端机械化工作，使人们腾出手来，去做更高端、更有创造性的工作，这是一个逐渐的过程。“而且人工智能产业本身也正在吸纳众多高回报的创业与从业者。”

三角兽科技联合创始人马宇驰就正忙于招聘多位工程师。2016年2月，他与曾效力百度度秘、微软小冰的王卓然、亓超合伙创业，目标是打造一套智能聊天对话系统。其产品主要针对物联網设备，让机器听懂人说话，并作出反馈。其公司目前已获得两轮共3000万元融资，产品已经应用在锤子T3手机、Rokid机器人等。

马宇驰向本刊介绍，根据行业预测，2020年全球物联网设备数量将达240亿部，智能终端设备将达到340亿部，产业和就业空间巨大。“如何快速提升劳动者的技能，这需要社会、政府、教育等的努力，而且人工智能也可以作为培训劳动者的工具。”徐小平说。

冲击人类生存与伦理

2016年3月，谷歌公司创造的人工智能程序阿尔法狗以4：1战胜世界围棋高手李世石，这引发了全球对人工智能的再度关注和广泛思考。有评论说，从现在起，如何管控人工智能，应该成为一个严肃课题。

人工智能的失控乃至危及人类并非遥不可及。美军无人机在阿富汗等中东地区已经多次误伤平民。

科技界的一些知名人士正呼吁禁止“杀手机器人”，他们警告称，越过这一界限将启动一场新的全球军备竞赛。尽管“机器人士兵”仍限于设想，但伴随人工智能快速发展，军队可能在未来20年内部署这类机器人。事实上，包括中国在内的各大国都在加紧研发水、陆、空无人作战平台。

根据摩尔定律，计算机的运算能力每两年就翻一倍，假以时日，尤其人工智能具备强大的自进化能力后，其威力可能超出人类想象。也许它将能让人类永生，同样可能的是地球上所有生命的终结。

物理学家史蒂芬·霍金是忧虑派。“人工智能的强力崛起，可能是人类历史上最好的事情，也可能是最糟糕的。”霍金在一次演讲中说，“将来，人工智能可能会发展出来它自己的意志，一个与人类相冲突的意志。”

当然，机器人也可能并不与人类冲突，而是发展出人类的意识与情感。这同样会遭遇棘手的法律和伦理问题。

阿姆斯特丹自由大学罗伯特·哈文教授就指出，应该研究是否需要明确机器人的法律主体地位，并思考从民法、公法、隐私法、知识产权法等维度构建机器人法律框架。就像从婴儿到成人，伴随机器人的进化，它将被不断赋予更多的人权与责任。

中国学界也已行动起来。北京大学知识产权学院常务副院长张平告诉《凤凰周刊》，几年前她就关注人工智能问题，并酝酿筹备“中国科技法学会人工智能法专业委员会”，2016年8月委员会正式设立。

张平介绍，专委会将致力于与人工智能相关的伦理、政策和法律法规研究，从近期棘手的无人驾驶，到遥远可怖的“超级人工智能”，为中国政府和业界提供必要的预警和前瞻研究。