人工智能领域的法律风险控制

王 玥 吴 妍

（南阳师范学院法学院，河南 南阳 473061）

随着社会生活的不断发展，人工智能被广泛运用到我们的日常生活中。从加速物流产业到智能家居产业，从提供医疗到改善教育，人工智能让我们的社会生活有了更深刻的变革。现在的人工智能还处于弱人工智能阶段，即利用统计学和拟合函数的知识解决简单问题，代替重复劳动的人工智能阶段。随着科学技术的快速革新，人工智能的理论技术日益成熟，未来极有可能出现区别于弱人工智能的强人工智能，甚至是更为超人工智能。随着人工智能的快速发展，它所产生的法律问题逐渐增多，人工智能的法律人格的确认和法律伦理困境、人工智能进一步发展而产生的侵权责任值得我们进一步深入探讨和研究。

一、人工智能侵权责任

在人类历史上每一次的科技进步发展都会对社会生活产生巨大影响，与此相对应的就是对人类法律领域提出了相对应的新要求和挑战，人工智能在科技高速发展的当下，其所涉及的民事责任，通常都表现在无人驾驶汽车或人工智能机器人等对他人人身或财产造成侵害而引起的侵权责任。

在2016年举办的中国国际高新技术成果交易会上，在没有指令和违规操作的情况下，一个名为“小胖”的机器人突然失去控制，内部发生故障导致其砸坏部分展台，且使一人受伤。

在这个案例中，我们很清楚地看到，人工智能是存在失控和算法出现错误的可能性的，在人工智能应用范围逐渐普及的今天，这样的人工智能失控事件只会越来越多，而由此引发的侵权责任认定和承担的问题，则是我们讨论的重中之重。

作为一个计算机学科的分支，人工智能的实质是生产出一种新的，能以人类相似的方式作出相应反应的智能机器，人工智能本质是使计算机对人的意识和思维的信息过程进行模拟，模仿人的思考方式，甚至超过人的智力。而在这种情况下，人工智能风险主要是来自人类对其缺乏控制或是无法控制。虽然人类是人工智能的发明者，但受到当前技术的制约，容易对人工智能缺乏完整的全面的控制。而随着人工智能的进一步发展，发展到了新的阶段，产生了自我意识，人工智能的风险就更加难以控制。现在的强人工智能发展面临瓶颈，所以当前人工智能侵权行为主要是弱人工智能引发的侵权行为。其原因主要有两个，一是人工智能在研发时期存在程序和编码上存在缺陷，致使发明出来的人工智能在操作时行为紊乱，不受指令控制，从而产生侵权行为。二是后期使用者未按照正确的指令或者说明进行操作，导致人工智能行为不受控制，产生侵权行为。

由于侵权责任中的主体为民法上的“人”，侵权责任构成要件中的“过错”是指“行为人”应受责难的主观状态，“行为”也是指“行为人”侵害他人合法权益的行为，“因果关系”也是指“行为人”的行为与侵权后果的因果关系。而现阶段的人工智能大多出于对编程指令的遵循阶段，即使是能做出判断和决定的人工智能，也只不过是在嵌入的数据库内依照筛选程序做出判断和决策。由此可知，现阶段的人工智能没有自主意识，无法作出意思表示，属于弱人工智能。因此，现阶段的人工智能不具备民事主体资格，人工智能侵权责任主体的认定依旧是其相关人。

既然人工智能不具有法律上的主体资格，那么它在法律上的属性就定义为“物”。人工智能的侵权责任也就可以归为产品责任。人工智能因其高智力投入和复杂的研发过程区别于一般的产品，其侵权责任的归属可以根据侵权行为产生的不同情形合理划分至研发设计人员、生产者、销售者和使用者这些不同主体身上。

在人工智能的研发阶段，研发阶段的人工智能侵权责任归属有两个主体，一个是设计者，一个是生产者。设计者对人工智能进行基础性的设计工作，生产者按照设计者的方案投入生产。生产者和设计者均承担无过错责任。

在设计阶段发生的侵权行为，无论设计者是否故意，都应当由设计者承担侵权责任，赔偿侵权损失。而在人工智能投入生产，进入流通领域后。设计者只有被证明是由于设计者的过失导致侵权行为的产生，才承担侵权责任。同样的，在生产阶段，也无论生产者是否故意，有无过错，均由生产者承担侵权责任，赔偿受害人的财产或人身伤害。

在销售阶段，人工智能进入商品流通领域。销售者从生产者手中接过人工智能产品，介绍并销售给使用者。根据《民法典》第一千二百零三条，因销售者的过错使产品存在缺陷，造成他人损害的，销售者应当承担侵权责任。销售者不能指明缺陷产品的生产者也不能指明缺陷产品的供货者的，销售者应当承担侵权责任。

二、人工智能的法律伦理困境

人工智能快速进入人的生活，给人类社会带来深刻的变化。人工智能的出现和发展必定会带来复杂的法律伦理问题。

（一）人工智能对法律理论的挑战

人工智能在法律理论上的挑战在其法律性质上，最大的挑战就是人工智能法律主体地位的确定。人工智能分为弱人工智能和强人工智能。由于弱人工智能暂且并不具备自我意识，其主体地位的确认更为明晰。弱人工智能不过是人类创造出来的，借鉴人类的智能行为，代替人类进行复杂琐碎的劳动的机器。当前的弱人工智能与人类智能有本质上的不同，它本质上是一个工具，是人类为了方便劳动、减轻劳累而创造出来的无意识工具。弱人工智能最复杂的工作也只不过是依据输入的编程代码对复杂庞大的数据进行机械性的选择、分析、计算和判断。不同的人工智能，只要是在相同的数据库下对同一个数据进行分析，其结果也是相同的。弱人工智能对法律的挑战以其特征来看主要集中在著作权、人格权、滥用等方面。比如，最近很火的智能小说生成器，只要填入姓名并且选择需要怎样的故事便能从数据库中生成一篇小说。其著作权的归属给《著作权法》带来了挑战。还有，大数据时代下，隐私的概念已经由传统法律中的权利，逐渐扩大到也可以成为一种商品，即为了得到一些服务和产品，我们会让渡一些隐私和信息。［1］所以，弱人工智能对法律的挑战主要就是其引发的法律问题无法在现行法律上直接找到答案，是对法律空白区的挑战。因此，法律的滞后性要求我们不断根据新情况，对人工智能可能出现的问题进行伦理评估，以保障相关法律的填补和相关政策的及时跟进。

而强人工智能区别于弱人工智能的工具属性，它更具独立性，核心芯片模仿人的大脑进行运转，控制人工智能。这种情况下，人工智能极可能产生自我意识，拥有独立的思维。因此，对强人工智能法律地位的承认就极为必要。但是由于现阶段的人工智能发展尚未突破瓶颈，对强人工智能的探讨受制于人工智能技术的限制，仅仅停留在畅想的现状，缺乏研究的基础。

（二）人工智能歧视问题

人工智能在使用的过程中很有可能形成无意识的歧视。人工智能在开发阶段存在不透明性，尽管人工智能并不知道其歧视和偏见，由于研发人员带着这种思想，在设计算法和训练数据的过程中会带有明显的指向性偏见。带有歧视观念的设计者在输入算法和设计编程的过程中，很有可能附带上了设计者本人的歧视观念。现实世界中的种族歧视、性别歧视和偏见都有可能被嵌入到人工智能当中，通过带有歧视性算法的训练和学习，延续设计者的歧视和偏见。那么这些人工智能在其数据库中执行带有偏见的算法指令对数据进行筛选、分析、计算，其作出的决策也是带有歧视和偏见的，就会致使特定人群的正常权益受到损失，受到不公正待遇，造成社会伦理问题，影响社会的公平公正。比如，COMPAS是美国的一种常用的预测再次犯罪的可能性来指导判刑的算法，COMPAS算法存在明显的偏见，其预测的黑人再次犯罪的可能性远高于白人，甚至达到了白人的两倍。［2］另外，有科学家研究，银行利用人工智能算法来方便决策，帮助提供接受房贷的名单，在检查审查神经网络决策制定流程的结果时发现，同意黑人房贷申请的人远远低于白人。［3］人工智能偏见，会随着算法的不断训练，深入各个应用领域。

三、法律应对措施

在以上我们讨论了由人工智能发展所带来的各种新型法律问题，包括人工智能的侵权责任归属及其法律伦理困境的问题，而针对以上可能会出现的问题，法律的作用无疑是非常重要的。在社会不断发展进步的同时，法律要继续起到维系社会稳定的作用，势必需要对人工智能进行更加具有可操作性的规范。

（一）对人工智能进行归类，建立人工智能伦理价值体系

对人工智能的归类划分，有助于对不同类型的人工智能产生的法律问题进行探讨。从大体上来看，人工智能可以分为弱人工智能和强人工智能两大类，而这两大类之下又可以再细化分成各小类，如按人工智能的使用范围，可分为生活类、商业类、辅助制造类等。关于人工智能主体问题的探讨集中在更为遥远的强人工智能身上，弱人工智能产生的法律风险则更具有现实意义，只要具体问题具体分析，善用各种法学解释方法，即可在现行法律上找到依据。

在对人工智能细化归类的基础上，还有助于对不同类型的人工智能嵌入不同的伦理价值体系，让不同智能程度的人工智能适用相应的人工智能伦理道德规范。人工智能必须与人类的价值观和规范准则一致，在更多的时候，人工智能的存在是由人类编程和设计制造了对应的程序和规则而产生的，这仍然是相应的制造者的意识体现，是其制造者的意志寄托或是使用者的要求与意识表现，因此，要求建立更为科学合理有效的行业制度，建立完善的人工智能行业的规范，以保障人工智能和谐稳定发展。

（二）建立健全人工智能生产发展制度，明确人工智能责任划分

人工智能在生产之前要对其硬件和软件进行合格性检查和安全性检查。由于人工智能的硬件和软件是分开进行制造，有较强的技术壁垒且软件制造趋于垄断，这就需要政府对其分别加强管制，如需明令禁止生产反人类的人工智能、开发犯罪程序、生产容易伤人的硬件等。此外，还要重视立法。随着人工智能进一步发展完善，相应的新型职业和行业产业无疑会应运而生，这是社会发展的必然结果，而法律需要对具体的人工智能违法犯罪行为进行规定，构建人工智能刑法违法机制，进一步保障人工智能发展的稳定，维护人民的人身权和财产权。

除此之外，需建立一套完善的人工智能责任制度体系，从而并明确AI设计者、生产者、使用者等相关法律主体的权责内容。无论是生产者还是使用者，都要遵纪守法，严禁对人工智能进行违法性生产和利用人工智能进行违法犯罪活动。责任的归属需要明确责任主体，根据具体情况，谁的过错由谁承担，合理分配侵权责任。

随着人工智能技术的高歌猛进，越来越多人工智能产品更加深入地融入我们的社会生活中。人工智能给我们带来享受的同时，也产生了各种挑战。人工智能发展迅速，产生的社会问题及法律问题正在不断革新，这就要求我们在人工智能不断发展的同时，对人工智能发展进行预测，对人工智能法律风险研究也应该同步进行，从实际出发，解决实际发展问题，尊重人工智能发展规律，逐步完善人工智能健康发展的政策法规，建立完善的行业机制，让人工智能更好地服务人类社会，更好地推动社会变革和人类发展。