人工智能时代的制度安排与法律制度

摘 要 随着科学技术的进步与全球化进程的深化，进入21世纪以来，人类进入了一个以互联网产业化、工业智能化、工业一体化为代表的，以人工智能、清洁能源、无人控制技术、量子信息技术、虚拟现实以及生物技术为主的全新的第四次工业革命的时代。人工智能在给我们的生活带来极大便利的同时，也对我们传统的制度特别是法律方面带来了极大的挑战。新型的机器人类能否成为法律意义上的主体？能否赋予拟制人格？能否独立成为法律责任的承受主体？等一系列法律问题值得我们深入研究。

关键词 人工智能 法律挑战 法律制度

作者简介：黄碧辉，上海震亚律师事务所，研究方向：刑辩、公司法相关、婚姻家庭财产规划工作。

中图分类号：D920.4                                                        文献标识码：A                       DOI：10.19387/j.cnki.1009-0592.2019.10.009

随着人工智能技术的迅猛发展，除传统工厂中的工厂机械手外，人们的日常生活中已经有大量的AI技术渗透。作为社会规则的法律总是滞后于社会技术与经济的发展，面对越来越成熟的人工智能技术，越来越高级的机器人类，法律该如何去规制与应对？机器人类所带给人类的风险又该如何掌控？对这些问题的深度剖析不仅能推动现行法律的进步还能对未来的社会规则加以必要的探索。

一、人工智能背景概要

人工智能（Artificial Intelligence，简称AI）源于美国，于1956年在达特茅斯学院由麦卡锡、明斯基等科学家首次提出。并经历了几次起伏才发展至今天的状态。1958年在美国卡耐基梅隆大学首次展示了第一个人工智能软件，并且预测人工智能将会在未来10年蓬勃发展，但是，直到20世纪90年代中期，人工智能却一直处于低迷发展中，归根结底是人工智能的自主学习能力不强，获得知识面范围过窄以及信息处理技术未达到预期要求等原因。而在这三十年人工智能工作者们的努力下，促进人工智能技术不断完善、实现生物神经元的重大突破，使得人工智能再次得到飞速发展。

进入21世纪第2个十年人类进入了大数据时代，而人工智能以大数据为依托，生物神经元为纽带实现了真正的超越人类智慧的预想，阿尔法狗战胜柯洁，IBM的沃森在比赛中获胜，充分体现了人工智能在技术层面的成功，也催生了机器人类的概念。人类一方面因能创造出如此高科技的产品而沾沾自喜，另一方面又因智能人类强大的大脑而惴惴不安。

目前人工智能革命分为四波浪潮：互联网智能化（internet AI）、商业智能化（business AI）、实体世界智能化（perception AI）和自主智能化（autonomous AI）。

每一个浪潮都会以不同的方式改变着人类的生活、生产，让人工智能技术更加融入到我们的生活中。第一个和第二个浪潮已经在我们身边正改变着我们的生活，互联网技术已经与人类生活密不可分，淘宝能够准确的推荐你想要的产品，这就是大数据时代下的互联网智能和商业智能。而第三个浪潮也在生活中逐渐显现，人脸支付技术逐渐出现在我们生活中，人工智能已经开始模糊数字世界和真实世界的界限。第四个浪潮是以自动驾驶汽车技术进入我们的生活，未来人工智能技术将会使得越来越多的方面带来智能化的改变。人工智能领域飞速发展，人类在充满担忧的同时也在努力寻求解决办法。

二、人工智能时代的挑战

（一）社会方面

1.伦理上

霍布斯曾经说过，自我保存是第一自然法。由于人性本恶，在自然状态中人对人就像狼对狼一样，人类通常在保护自己和勿害他人中选择前者。那么作为拥有高智慧的机器人类的选择又是如何，是人们非常担心的问题。机器人类是否真的会像科幻电影中那样生出独立的思维并且伤害人类乃至进一步取代人類？这是源自于人类种族基因中对未知事物的恐惧。

1942年，美国的科学家、科幻小说家伊萨克·阿西莫夫，首次在其撰写的短篇小说《转圈圈》中提出第一个针对机器人道德约束的律法，其旨在保护人类的绝对安全，并在一定程度上使得机器人也拥有了相应的保护自己的权利。而这一律法在之后的100年的时间里，仍然是科幻小说家、科幻电影以及现代人工智能机器人发展的一个基础道德框架。大约在100年前科学家们就已经考虑到机器人类的伦理问题，虽然三条律法略显简单，却对现今制度的设定起到了很好的引导作用。

2.就业上

伴随着大数据成长起来的机器人类，比传统的机械手臂能够吸收更多的知识，能够更好的融合知识并为之所用。这样的发展现状不仅给蓝领工人的就业环境造成了威胁，连社会中重复性强，专业性要求不高，可替代性强的白领工人也带来了挑战。面对新型的机器人类强大的学习能力，大量的蓝领、白领工人陷入恐慌，惧怕被机器人所取代并进而被社会所淘汰。

在第二次工业革命中，当时大量的英国工人也同样考虑着电气时代所带来的大机器生产会将大批量的工人所淘汰，导致大量失业的问题。而最终我们都知道，随着第二次工业革命的发展，虽然有部分工人失业，但是因第二次工业革命带来了大量的新兴产业，却又创造了更多的工作岗位。而我们目前所面临的问题，正如一个多世纪以前英国人面临的问题，在可能进入的机器人类部分取代人类工作的未来，人类可以从事更需要内心关怀的职业，譬如养老院的陪护员、幼儿园教师等职业。就像是在我们使用3G手机的时代，面对即将到来的4G时，我们只能猜测速度会变快，支付可能会快捷，但是谁又能想到4G开启了全民网络时代，全民线上支付转账。就像我们期待5G那样，共同期待人工智能技术带给社会的改变。

3.贫富差距的拉大和经济发展的更加不平衡

人工智能在商业领域来说是一个强大的助力，经济学家预测，人工智能技术将会给我们的经济带来约15.7万亿美元的财富。而这些财富的来源大多数是人工智能技术的发展所带来自动化产业的迅猛发展，从而淘汰大量人工劳动力的后果。由此引发的直接大面积失业将会导致各国经济发展的更加不平衡，对于发展中国家来说更是一个致命的打击，至此不会再出现像曾经中国这样的发展中国家，以人口为优势做加工而发展起来的国家。而因存在大量青壮年的国家也会存在巨大的潜在隐患。即使是发达国家，人工智能也会将贫富差距进一步拉大。人工智能天然趋于垄断，致使小型企业被迫关门，经济权力越来越集中在少数人手中。如果不加以规制，人工智能必将会对社会各个方面带来更大的冲击。

（二）法律方面

1.法律主体

随着人工智能技术的发展，例如阿尔法狗战胜柯洁的例子比比皆是，机器人类的“大脑”确实已经超越了我们部分人类的智慧。更有美国的未来科学家预测，在未来机器人类将拥有生物大脑甚至可以和人类的大脑的神经元数量相媲美，更有可能这种机器人类的生物大脑将10亿倍于今天所有人的智慧。面对这样的未来，我们不得不考虑是否赋予机器人类以法律意义上的“人”的地位以及权利与义务。欧盟与美国已经开始着手设立有关机器人类的继承、侵权、劳动保障的相关立法，如果相关立法真的成功，对现今民事法律主体制度的基础必然产生动摇。

法律关系主体，简称为法律主体，是指法律关系中享有权利和履行义务的人。法律主体是法律关系中的主导性因素。在一个法律国家中，什么样的个人或组织能够成为法律关系的主体取决于该国法律的规定，在世界范围内大多数国家已经形成了自然人与法人两个大类的法律主体。欧美部分学者将机器人类看成如同法人一样的拟制人来看待的观点。认为机器人类也同样具有权利能力与行为能力，机器人类权利能力中的权利来自于正在讨论中的机器人类应该享有的劳动权利、生存权利等基本权利，其他特殊的人格性的权利还有待考虑。而机器人类的义务即生产创造出机器人类时生产商所赋予的机器人类必须遵守的义务。按照上述观点，就会出现一个悖论，作为法律意义上的人必须是一个独立的个体，而机器人类因出厂设置时已经被设定了相关的义务，其不能够成为一个独立的个体，更像是创造者人格的延伸。虽然机器人类要比我们日常的洗衣机，电饭锅要智能、高端不知多少倍，但是在本质上还是一样的，他们都被人类所生产服务于人类，并且也是最重要的它们并不具有独立的人格。目前来说，赋予机器人类法律主体地位还为时尚早，未来是否赋予机器人类法律地位还需要结合人工智能技术的发展进一步做更详实的考虑。

现代民法上的继承特指财产继承，是指将自然人死亡后遗留的个人合法财产依照死者所立遗嘱的指定或是根据法律的规定转归有权取得该项财产的人所有的法律制度。在此，我们对机器人类作为被继承人的法律问题不做讨论，毕竟被继承人依然是自然人这一基础法理在现行法律中是很难被撼动的，我们只讨论机器人类能否作为继承者继承自然人的遗产。美国的继承法中动物已经可以作为继承人的主体来继承被继承人的遗产，这为机器人类是否可以作为继承人提供了一个非常好的思路。在不远的将来，当类似于动物的智能机器人给人类更多陪伴的时候，人类是否可以将自己的遗产赠予给机器人类的问题值得思考。

当代新型的机器人类在吸收大量知识的基础之上，运用神经元网络自己进行分析，加工再创造的过程中得出的作品是否赋予其著作权，是当下面临的重要问题。例如，阿尔法狗在程序员输入上千个棋谱后经过深度学习在与柯洁的对抗赛中赢得连续36个月未有个败绩的世界级九段围棋高手。阿尔法狗的故事不仅在围棋上演，还在音乐、美术、文学等等方面进行着学习、突破乃至再创造，那么在我们面对这些由人工智能创造出来的文学作品、艺术作品等等时，是否赋予同人类一样的著作权利呢。搞清楚这个问题首先要明确，创造出这些作品的机器人类，是否真的由它所作？还是由其背后的人工智能科学家或是程序员所作？人工智能首先是由程序员们对其进行原始数据的输入，编辑算法和路径，这些都是由人工智能背后的人类所操作的，也就是说，机器人类所生出的作品与其说是人工智能所创造不如说是由其背后的人类所掌控着它来创造。从这点上看人工智能的创造和其开发者的关系更像是著作权上的职务发明，发明者本身并不享有专利权，其单位即开发者享有著作权，人工智能只享有署名权、标记权及获得报酬的权利。但是这一法理的推演并不严密，目前我们不承认机器人类的著作权是基于人工智能的智能化依然有待于提升，高等的人工智能在日常生活中并沒有真正普及。在未来人工智能化的时代到来时，机器人类同普通人类一样时，关于人工智能的著作权必然将会有所改变。

2.法律责任

据报道，美国多地因运用手术机器人操作致使患者造成烧伤、感染等不同程度损害的医疗事故达200多起，现代机器人类不同于传统的工厂机械手臂，其具有更高的智慧以及行动能力。并且在未来可能与人类共存这一前景下，在民事交往生活的过程中，出现侵权事件是不可够避免的，那么机器人类在侵权行为中的权利该如何保障，义务该如何承担？

首先，讨论机器人类作为侵权事件中的侵权者一方该如何承担义务。第一种观点认为，机器人类更像是开发者的雇员一样的存在，权利义务的承担类似于上文所提到的著作权，承担的是产品侵权责任，将人工智能的侵害看作是产品缺陷，开发者需承担因人工智能侵权所带来的损失。这种观点是将机器人类与开发者看成一个主体，但这显然在逐渐发展起来的人工智能技术上看来，对开发者是不公平的。开发者在输入算法及其他知识后，人工智能自己进行学习及进行行动判断所造成的损失，并不在开发者所预测的范围内。

因此，为了在一定程度上保护开发者的权利，我们提出了基于技术中立原则所衍生的替代责任。技术中立原则，即产品被广泛的应用在合法的领域，即使其生产者或销售者知道该产品可能会成为侵权工具使用，其也不构成侵权或是侵权的帮助犯。这就说明对于机器人类的制造者来说，其本身不可以非法的目的去生产该人工智能产品，并且不能主观的制造侵犯其他人的人身权利或财产权利的产品或是给机器人类输入类似算法导致机器人类对其他人的侵权。在未来人工智能广泛应用，如果制造商在制造之初并没有侵害某个人或多数人的主观意愿或是客观行为造成的侵权，开发者不承担侵权责任。

三、面对这一时代的法律制度安排

人工智能的迅速发展在便利生活的同时对社会也同样带来了巨大的挑战。面对这样的挑战，人类在不断完善自己进步的同时，社会制度也应对此进行必要的调整，以规制已经存在的社会问题，和规避将来可能出现的问题。而法律作为社会规范的手段，在这一过程中的作用更是不言而喻，但是由于法律本身的滞后性的特点，我们在制定出成文的法律之前还需要社会制度和社会道德来加以约束。

（一）以伦理道德为先导

许多人工智能科学家们基于高速发展的近十年的深度学习，来预测未来，认为计算机智能会以不可阻挡的滚雪球的方式呈现指数式增长。深度学习代表了机器学习的一个重要升级，但没有证据证明，这样的升级代表了强人工智能快速发展的开始。科学研究并不是容易的事情，但是并不能完全否定人工智能的指数式增长不能成为真实。我们现在做的并不应该是盲目的恐惧，更应该是迎难而上、知难而进，去制造更好的制度，去创造更美好的明天。

基于现在的技术，我们显然已经清楚人工智能比我们人类的大脑要更加聪明，存储信息量更大，基础性工作能力更强。这使我们的蓝领、白领们的压力非常大，这种压力是人工智能技术发展的必然，而我们又要反问，我们人类到底比人工智能要强在什么地方？是“爱”。人类拥有爱人与被爱的能力，就是这种能力让人类摆脱愚昧，让人类看重这一整体，也让人类彼此息息相关，心心相惜。

人工智能的发展让人类惊叹也促使人类去寻求解决办法，大概一个世纪以前美国的科学家、科幻小说家伊萨克·阿西莫夫提出“机器人三大律法”，这是首次人类直面机器人可能存在的威胁。在道德层面上阿西莫夫提出的律法为我们今天在道德上规制机器人类提供了基础的框架，应该在这一框架的基础之上建构一个更加周延的体系，对现代人工智能的发展给予一个道德上的指引和道德标准。

（二）以法律制度为保障

首先，是人工智能的安全问题。人工智能是基于大数据而发展起来的产物，其中存在大量的与我们生活相关的数据或是我们自身的數据信息，那么如何保障信息安全是一个重大的问题。现阶段，最好对人工智能的开发者责任加以严格的限制，通过开发者这一源头切断信息泄露风险。

其次，在人工智能急速发展的中国，虽然已经全面的论述了人工智能的发展，但是还没有上升到国家战略层面。美、日、韩、欧盟等已经将人工智能技术的发展列入国家战略中，中国也应紧随其后，为国内迅猛发展的人工智能产业提供一个整体的道德指引、法律基础和发展前景的概括性规划。

最后，规范人工智能在法律中主体地位。是统一适用一个标准，还是在不同的法律关系中做不同的考量，固定下来的制度更有利于人工智能的发展。人类与人工智能的法律关系与法律地位需要立法者对这一问题加以考量与研究，为未来的人工智能发展的法律规制做好未雨绸缪。

四、结语

在人工智能这个横冲直撞、扑面而来的未来面前，人类会遭遇前所未有的挑战。但人类不正是从各种挑战中一路走来，挣扎奋起的吗？人工智能的大脑确实比人类强大，但相比于人工智能，人类最大的优势在于创造力和同情心，让人工智能做它所擅长的，也让我们去从事更多富有同情心的工作。未来并不是充满恐惧，以法律为基础，以道德为指引去规制人工智能所带来的问题，敢于直面未来！

参考文献：

[1]吴汉东.人工智能时代的制度安排与法律规制[J].法律科学（西北政法大学学报），2017，35（5）：128-136.

[2]郭明瑞，房绍坤.民法（第四版）[M].北京：高等教育出版社，2017.

[3]乔雪吟.人工智能时代的制度安排与法律规制[J].法制博览，2019（8）：251.