论人工智能对当代法律的挑战

司源

摘要：人工智能从1956年的达茅斯会议提出，到现在已有61年的历史。经过了60多年的演变，人工智能的发展进入了新阶段并逐渐成为国际竞争的新焦点、经济发展的新引擎。人工智能为社会建设带来新机遇，将深刻地改变人类社会生活、改变世界。但人工智能发展的不确定性也会帶来诸多挑战。所以在大力发展的同时，必须高度重视可能带来的风险。

关键词：人工智能;机遇;挑战;立法

1.前言

人工智能（Artificial Intelligence），英文缩写为AI。它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。对于大多数人而言，他们简单地认为的人工智能就是机器人，其实机器人只是人工智能的一部分。近几年有关人工智能的新闻层出不穷，人们在为人工智能的强大能力感到惊叹。2017年4月27日，英国著名科学家史蒂芬.霍金就通过视频发表演讲，再一次提及了他对人工智能的担忧。尽管我对人类一贯持有乐观的态度，其他人也认为，人类可以在相当长时间里控制技术的发展，这样我们就能看到人工智能解决世界上大部分问题的潜力。

人工智能时代已从幕后走向台前。从阿尔法狗大战李在石、微软公司在推特社交平台上发布了名为Tay的人工智能聊天机器人到IBM研发出世界上第一位人工智能律师Ross。人工智能已走向大众生活，改变了传统认知。但在实践中，人工智能所引发的问题也是层出不穷。如何对人工智能的发展作出妥善地法律制度安排，在技术的发展过程中，对人工智能的法律地位、法律责任、权利义务如何安排，以引导实践的发展，是当代法学家应该思考的问题。虽然现在人工智能还处于前期阶段，我们对这些可能出现的问题还未有系统性的认识，但可做一些前瞻性的研究，以避免出现问题而束手无措。本文就人工智能对当代法律制度的冲击分析如下。

2.人工智能对民事法律关系的挑战

2.1人工智能的民事法律地位的界定

人工智能的发展，首先引发一个最重要的法律问题。即机器人究竟是人还是机器，在法律上是否具有主体地位，能否独立享受权利和承担义务。对于人工智能的性质，学界一直争论不休。比较普遍的说法有工具说、电子奴隶说、代理说等等。而现行体系下，人工智能是否具有法律人格地位并不清晰，是造成了现如今适用困境的主要原因。虽然现在机器人在法律的独立主体地位并没有获得普遍认可，但按照目前的趋势发展，扩大机器人在法律上的权利和义务，在智能技术快速发展的今天，并不是没有可能。到那个时候，我们传统的民法体系就会被动摇。

2.2人工智能致人损害的侵权问题

人工智能是通过计算机的程序设定来进行工作，与人类协作，所以出现失误在所难免。在实践中，就已经出现过机器人致人损害事件。在深圳举办的第十八届中国国际高新技术成果交易会上，有一台机器人突然发生故障，在没有指令的前提下打砸展台玻璃，导致部分展台破坏，同时有路人受伤。根据美国职业安全健康管理局的统计数据，因为机器人产业目前还没有具体的安全标准，在过去30年间发生了大约30起与机器人相关的死亡事件。那么，对于机器人造成的人员伤亡，他们应该承担怎样的责任呢。按照当前的法律来看，机器人属于电子产品，谁制造谁生产谁负责，似乎没有争议。但现实是，未来机器人与人类一样，他们有“自我意识”，可以用脑子进行思考抉择，哪些事情应该做哪些事情应该尽力避免。那么，机器人的行为就可能会超出了人类所能控制的范围。如果一味让生产者为机器人的行为买单，似乎有点不符合情理。

2.3人工智能侵犯知识产权的问题

现在的制造者往往会在机器人的程序输入大量他人的作品或著作，以达到帮助机器人完成自我使命以及产生自我意识。在一些地方计算机帮助人进行原来只属于人类的工作，智能机器人可能把大量的信息复制并储存下来，而按照一些国家的规定，存储信息本身就构成对他人著作权的侵害。

2.4人工智能与隐私权的保护

隐私权是指自然人享有的私人生活安宁与私人信息秘密依法受到保护，不被他人非法侵扰、知悉、收集、利用和公开的一种人格权。个人信息属于当事人隐秘的不愿被他们知晓的信息，包括家庭住址、信用和财产状况、健康状况等等。但在互联网四通八达的大数据时代，这些零散和广泛的数据都可能被收集起来，容易被他人操控并作为违法行为的工具。个人信息泄露并非只发生在我国。在互联网的发展过程中，我们需要以传统法律为基础，针对互联网的特点制定出一些专门规则来引导其健康有序发展。例如早在1986年美国就颁布了《电子通讯隐私法案》。大数据的到来也同时强化了人工智能开发者的责任。即在收集和使用数据的过程中，还要遵守相应的安全保障原则，采取适当有效的方法避免数据的泄露，防止未经授权随意披露使用篡改。随着人工智能技术的不断深入发展，更是不断强化立法保护的过程。

2.5人工智能生成作品的著作权问题

在现实生活中，人工智能创作的文学作品早已经投入实践。微软机器人“小冰”还会唱歌，还会写歌词和财经评论。但是这些作品背后的著作权，到底归谁所有？该行为是否能构成知识产权法上的"智力成果"和"独创性"的要求。关于人工智能的生成作品。知识产权法需要解决的问题是，机器人是否能称成为著作权的主体？有专家说，虽然机器人的著作创造是在开发者输入的模版个固定格式上进行的，但仍可以视为著作权法意义上的作品。也就是说，如果作品是由机器人独立创作的，那么就可以视为著作权法上的主体。但在现实中，因为机器人表达自我意识的有限性，他并不能像人类一样去行使权利和履行义务。所以，可参照职务作品或雇佣作品的规定，由机器人得开发者或创造者享有或使用。那么，具体该如何操作，就需要法律出面规制，法律应从何种角度来保护机器人创作的作品，由自身享有还是由机器开发者或创作者所有。

3.人工智能对刑事法律关系的挑战

3.1无人驾驶与交通肇事犯罪

李彦宏在位置讲解，而主驾位置虽然坐了司机，但双手已经离开方向盘。通过这个新闻，我们虽不能对百度自动驾驶的发展全盘否认，但从整个世界的大环境看，发展自动驾驶是大势所趋。那么，这里面便会涉及到无人驾驶与交通肇事犯罪之间的联系。首先，在无人驾驶中，法律上具有主体地位的“人”并没有参与其中，使得刑事责任主体无处可寻，即没有犯罪主体也就没有对象可处罚。再是，刑法上的构成犯罪须符合主客观相统一原则。而对于无人驾驶的主观意图我们无法查证，也就无法定罪。一般情况下，要分清人为操作不当还是人工智能的缺陷病没有那么容易，举证上尤为困难。然而，并非无人驾驶只要发生交通事故，用户受到损害都要归责于人工智能。如果一律的追究技术开发者的责任，在有些情况下可能有违公理。当然，有些学者认为，在刑法对待无人驾驶的法律地位上，应与公司的法律地位无异。即按照“刺破人工智能面纱”的规则原则来确定责任主体，由人工智能的实际控制人或责任人承担责任是合理的。但将来人工智能在一定程度上可能会拥有自我意识，而实际的设计者或制造者都没有办法完全控制或人工智能已超出原有程序行事，还一味让他们承担刑事责任，这样合理吗？

3.2人工智能与医疗事故犯罪

去年8月，老牌人工智能产品IBM Watson分析了数千个基因突变，最终确诊一位60岁的日本女性，患有一种非常罕见的白血病，并提供了适当的治疗方案，而几个月前她曾被医院误诊。Watson的整个诊断过程不到10分钟，如果换做人类医生，这个诊断需要耗时数周才能做到。这些科研人员表示，该技术未来也可以用于诊断其他疾病。对于过失犯罪的责任主体可能就不单纯是传统意义上的医务人员，还扩大智能技术或智能机器人。在医疗领域，随着技术的进一步发展，他们的适用范围会越来越广泛，可替代性越来越强。而他们的特殊身份能否被法律所认可，他们从事医疗服务是否应该取得相应的执照，以及出现医疗事故的责任承担，都是法律应该考虑的问题。

4.人工智能对司法实践的影响

司法实践中通常法官按照自己的理解解读法条，律师总是按照对当事人有利的方式解读法律。因此，人工智能运用于司法实践活动中，一定程度上能够促进司法公正。首先，它的记忆和检索的功能非常强大，能够为司法审判提供相对统一的推理和评价标准，从而辅助法官做出具有一贯性的判决。其次，人工智能运用于司法实践活动中，能够提高司法审判的工作效率。在司法人员的职业生涯中，难免要完成大量重复的机械工作，此时人工智能可以代替司法人员解决这些工作，从而极大地缩短其工作时间和压力。当然，随着人工智能法律技术的强大，司法人员是否面临被全面取代的危机也是值得思考的一个问题。

最后，对于人工智能的快速发展，我们还忽略了一个特殊群体，即未成年人。人工智能的发展衍生出很多電子产品并快递融入我们的生活。比如手机（软件开发商推出了很多APP）、iPad、电脑中就充斥着各种智能技术带来的内容冲击。而生活在电子时代的小朋友们，对于这些其实并不陌生。之后，亚马逊个人助手通过算法进行识别，竟然认为小孩子想听色情内容并开始播放。无独有偶，一名小女孩在和Econ内置的人工智能助手Alexa聊天时，订下了价值170美元的玩具，等家长发现并取消订单，已经为时已晚。从这些事例我们可以看到，由于人工智能技术的发展并不完全成熟，未成年在过早接触到这项技术会带来很多问题，对他们的成长也可能会带来负面影响。而对于人工智能的开发者或创造者，他们应该预料到未成年人接触到这项产品的可能性，并应该采取相应的保护措施。在法律方面，也应该考虑到人工智能广泛运用后对未成年可能造成的影响而加强立法保护。

总之，当前人工智能对法律的挑战主要集中在一下几个方面：缺乏法律价值引导、法律主体地位和法律人格不明、缺乏具体规则标准、责任划分等问题。而对于人工智能的立法问题，纵观全球，都属于世界新课题。在立法方面，国外已作出一定的尝试，我们可以在参考域外经验上，根据本国具体的发展情况作出适当调整。在人工智能法律和伦理研究方面，以UN和IEEE最为突出。2016年8月，UN下属COMEST（科学知识和科技伦理世界委员会）发布《机器人伦理初步报告草案》，认为机器人不仅需要尊重人类社会的伦理规范，而且需要将特定伦理准则编写进机器人中。_[1]2016年5月，法律事务委员会发布《就机器人民事法律规则向欧盟委员会提出立法建议的报告草案》（Draft Report with Recommendation to the Commission on Civil Law Rules on Robotics，简称《报告草案》）;同年10月，发布研究成果《欧盟机器人民事法律规则》（European Civil Law Rules in Robotics）.在国内，虽然近几年政府一直在大力推动人工智能的发展，鼓励抢占科技的制高点，但重心仍停留在研发阶段。而对于人工智能可能带来的社会和经济转型，在监管和法律方面还缺乏系统认识和积极部署。换言之，政府还未意识到应该以何种方式参与到这场科技革命中。试想，如果没有相应的法律法规与现行的人工智能发展想适应，势必会影响人工智能的进一步发展。在人工智能出现这样或那样的弊端，并与社会发展相悖时，而没有法律法规的引导和合理的规避，就会给社会发展带来负面效应。

5.结语

我们如今生活在高科技时代，享受着人工智能为我们描绘出的美好愿景。但科技的发展是一把双刃剑，人工智能在我们生活带来便捷的同时，也同样会颠覆很多传统的行业。按照哲学的观点，对于人工智能的发展我们应该从辩证法的角度来分析。出现了问题，不能一味的否定。用吴汉东教授的话来讲，我们相信，人类既然有智慧创造出人工智能，也就有能力和职责来控制人工智能。因此，最好是期待是人类的聪明才智，而非低估它。最好是承认风险的存在，而非否认它。我们应当思考的不是消灭客观危险，而是在这些潜在的威胁和挑战面前，增强风险认为你是能力，提高制度风险意识，通过法律和其他社会规范来规避风险，引导和规范人工智能技术健康发展，这即是法学家、法律家的任务。

参考文献

[1] 刘宪权.涉人工智能犯罪中的归因与归责标准探析[J/OL].东方法学：1-13[2020-04-29].https：//doi.org/10.19404/j.cnki.dffx.20200429.005.

[2] 刘梦杰.人工智能的发展进程及现状[J].科技创新与应用，2020（12）：55-56+59.

[3] 陈劲.高度智能化的市场还有戏剧性吗？[J/OL].人民论坛·学术前沿：1-9[2020-04-29].https：//doi.org/10.16619/j.cnki.rmltxsqy.2020.30.006.