智能机器人民事主体制度构建

2019-09-10姜晓婧李士林

科技与法律 2019年1期

姜晓婧李士林

摘要：人工智能在給人类社会带来进步的同时，也向人类发出了挑战。将智能机器人视为法律关系的客体所导致的法律困境，可以通过赋予智能机器人以法律主体地位得以解决。通过价值分析发现，姑且不论智能机器人可以在自我责任下高效服务人类，单就低调谦卑与人类主体相融合的态度就足以获得人类的主体认同，因而赋予智能机器人民事主体地位具有法理正当性。在智能机器人民事主体制度构建方面，可以利用比较分析的方法借鉴法人民事主体设立的经验，立足于义务本位的赋权理念，赋予智能机器人限制权利能力，利用救济代理和责任替代的路径弥补其权利行使的不能和责任承担的不足。

关键词：人工智能;智能机器人;民事主体;义务本位;替代责任

中图分类号：D916 文献标志码：A 文章编号：1003-9945（2019）01-0071-08

21世纪是人工智能的时代。自20世纪50年代阿兰·图灵发表《计算机器与智能》之后，“人工智能”一词开始在科学及哲学领域流行开来[1]，经过结构模拟、功能模拟，再到90年代信息网络的加持，人工智能的发展和研究势如破竹，成果喜人。然而，人类在创造智能机器人中设定的算法可能犯错误，展现出失控的机器人对社会和他人的破坏，而且被黑客轻易侵人的程序更可能作为人类的对手，制造“恐怖谷”。机器人没有与生俱来的道德，人类的价值观需要被编入人工智能系统的核心，从而控制他们可能带来的危害，但是现存法律条文的制定都是以人类作为法律关系的主体，机器只能作为冰冷的法律关系客体被人类控制。如今，被沙特授予公民身份的索菲娅已然宣告人类的惊悸和愕然都无法拒绝智能机器人的竞争和部分替代，推动人工智能发展的思想、哲学及经济动因已然存在，机器人也应当具有生存和发展的权利，那么智能机器人应当被赋予民事主体地位吗？其对人类的伤害和造成的损失应当承担责任吗？其民事主体地位应当如何在法律体系中被容纳呢？

一、赋予智能机器人民事主体地位的争议

明确规制对象的法律地位，进而基于其法律地位解决其权利赋予、义务设定、侵权规则等下位概念所涉及的问题，以及与现有相关法律制度的衔接，这是立法层面的惯用进路。审视大陆法系国家的法律体例可知，法律人格是整个法律殿堂的拱顶石，一切权利的享有与义务的承担都源自于主体具备法律人格，拥有权利能力。人格和权利能力的概念也撑起近代西方法律的骨架，人格背后的意涵链接整个西方的主体哲学，渗透到其权利义务、责任承担等各种外延问题，是支撑所有基本问题体现的内在价值理念。智能机器人法律规制中的首要问题为是否赋予智能机器人民事主体地位，以及怎么设定制度的问题，对此学界众说纷纭，可归纳为三派：即认为不应设立、暂时役有必要设立与应当设立。

认为不应设立的学者大多从法理层面论述，立足人与智能机器人的本质关系：智能机器人作为人类机器或工具而存在，因而无论智能机器人以何种形态出现，依托于技术而达到何种高度的智能化，其本质仍然是人类能力的延伸，并不具有自我意识、逻辑生成方面的自主性与逻辑性，因而也不可能具有本源性的权利能力和行为能力。其中，郝铁川教授认为智能机器人与人在权利能力、行为能力、模糊性法律规定、法律原则运用解释、交叉判断等多方面都有着本质差别，其逻辑、情感体系与人类具有根本不同，这些不同表明其仅具有工具属性。郑戈教授从权利赋予、义务履行以及责任承担的法律整体运行中考虑，认为最终要承担的责任都将转嫁给自然人，认为智能机器人法律人格的设立与否不是影响智能机器人发挥其功能、承担其责任的决定性因素，因而智能机器人民事主体地位的设立系多此一举[2]。而学者F.Patrick Hubbard则回避了直接赋予智能机器人全新法律人格的问题，提出对于智能机器人的民事主体地位和责任可以类推适用儿童或者动物的相关规定，完全可以通过转化改造的迂回方式规制智能机器人[3]。

认为暂时没有必要设立的观点多是基于智能机器人发展的现状考虑，吴汉东教授认为智能机器人现行发展阶段依然属于受控于人类的弱智能机器人，仍不足以取得独立的民事主体地位[4]。该观点对智能机器人民事主体地位的设立实际持观望、开放态度，并不反对智能程度达到脱离民事主体控制的阶段时对智能机器人赋予主体地位。

更多学者支持应当赋予智能机器人民事主体地位，且因支持理由、论证角度相异，进而提出的民事主体的设置路径、种类等也各异。部分学者基于解决当下频发的智能机器人致害事故的目的，提出赋予智能机器人民事主体地位的观点。其中Aishwarya Umaye认为;在不能完全适用生产者、销售者产品责任的情形下，明确智能机器人的法律地位，基于权利义务对等性的基本法理赋予智能机器人基本的宪法权利，是智能机器人法律责任确定的重要依据[5]。司晓、曹建峰博士认为从长远来看赋予智能机器人以法律人格是平衡损害分配责任的必然路径，因此可以通过设置强制保险制度、赔偿基金、分类适用严格责任和差别责任处置与自然人的差异[6]。至于如何赋予智能机器人民事主体地位问题，学者袁曾提出应该设立有限的法律人格制度，配合以人为本理念支撑的监管制度，使智能机器人在人类控制下发展例。学者杨清望、张磊主张借鉴法人制度，同样采用法律拟制的立法技术赋予智能机器人有别于自然人的有限法律地位，消除其在为人类服务中的部分障碍逗。学者张绍欣则认为应该警惕并抵制“图灵测试”混淆人与智能机器人的本质区别，其主张在智能机器人高度模拟人类的境况下，通过“位格加等”把人拟制为“超人”主体，进而提升人类地位[8]。总而言之，多数学者支持赋予智能机器人民事主体地位，且遵循现有的法律框架，从智能机器人投人使用的现实问题切人，就填平智能机器人致害损失、平衡智能机器人致害责任等现实问题，提出对策性方案，一定程度上缓解人类对智能机器人伤害事件的焦虑。笔者认为智能机器人民事主体地位的确立具有其正当性与合理性，但仅仅停留在事故防范层面，显然缺乏法律制度框架体系内学理上的严密论证。

二、赋予智能机器人民事主体地位的正当性

（一）自我责任下高效服务人类

智能机器人在机械性方面的应用有目共睹，其可以适应高强度、高危险工作，并且随着智能化的提高，智能机器人可替代的人类工作也越来越专业、复杂。除了代替人类从事体力劳动以外，智能机器人还可以极大地满足人类多样化的精神需求，而赋予智能机器人民事主体地位将助推智能机器人更好地完成人类任务，同时也廓清了多方主体之间关系，也更容易解决智能机器人牵涉的侵权纠纷，更有利于人类享受第四次信息革命的硕果，极大提升人类福社。

根据弗洛里迪（L.Floridi）的观点，人类经历了哥白尼革命、以达尔文为代表的生物学革命、以弗洛伊德为代表的意识革命这三次革命，目前将迎来的是以信息哲学为核心的信息革命驹。在信息革命的浪潮中，人类与智能机器人的融合在人与智能机器人双向变革的趋势下越发紧密：人类正在习惯通过网络以更加高效的方式表达自我，人际交往，构建自我存在，人类生存的信息化、数据化趋势不可逆转。与此同时，在計算机技术、脑神经技术等多学科的交叉研究下，智能机器人的思维模式也越来越接近人类，以至与之对话难以察觉与人有别[10]。譬如，微软小冰能与人类一样自发创作诗集《阳关失去了玻璃》，查理、帕罗等陪护型机器人成为了老人们家庭成员中的重要一员，Google Assistant不露AI痕迹地替主人与理发师预约时间，比任何私人管家更懂你。

随着人机交互高度发展的趋势，人类将赋予智能机器人越来越多的信任，智能机器人也将承担越来越个性化的任务，人与智能机器人之间的关系将超越人与其他普通客体的关系。为了使智能机器人更顺畅地执行个性化任务，我们必然要对智能机器人进行各种各样的授权。例如，跟踪、定位我们地理位置、捕捉我们饮食、睡眠、运动等基础数据、查看我们通信、购物记录等信息。随着人工智能发展水平的提高，这些数据的收集将越来越详尽，智能机器人对这些数据的利用也将越来越灵活，我们信息的开放程度将极有可能突破现在授权某APP获取我们具体某方面信息的界限，选择授权智能机器人综合获取我们多方位的信息并综合利用。届时智能机器人所具有的管理、运用能力已经可以达到独立处理的水平，在这样的情况下如果还将智能机器人视为客体，视其为人类提供服务的运营商工具，反而会因为运营商利益争夺等原因，面临更大的数据非法泄露危机，得不偿失。若将其单纯视为智能机器人主人的工具，则如果智能机器人基于非生产、销售者原因而发生的侵害主人的意外事件时，主人将面临诉诸无门的危机;如果智能机器人受到他人损坏，则限于智能机器人薄弱的客体地位，主人无论是基于物件损害赔偿抑或有特殊纪念意义的物主张精神损害赔偿，也难以弥补对主人造成的巨大损失。

如果赋予智能机器人以主体地位，智能机器人就可以其法律主体地位为依据，顺理成章地获得更多授权，扫除其参与民事法律活动中的制度性障碍，使其能够最大限度地参与到民事法律活动中来，激发智能机器人的活力彻底地完成人类所交付的任务。从责任层面而论，赋予智能机器人以民事主体地位，能够更好地处理智能机器人受损和智能机器人致害的问题。智能机器人高度的自主能动性与自我管理能力决定了无论是智能机器人受损对于其主人的伤害，还是智能机器人在执行工作中致他人损害，其带来的损失程度以及处理纠纷的复杂程度都已经远远超出传统主客体的调整范围。智能机器人通常会带着主人赋予其使命参与民事法律关系，但其参与方式、灵活机动的表现却独具个性，赋予智能机器人以独立的民事主体地位，更有利于多方主体之间公平承担责任。在涉及“生产者（或销售者）—智能机器人—受害人”三方的侵权纠纷中，避免了因为技术漏洞而强行加责于生产者（或销售者）的极端追责方式，不至于抑制科技的发展，也为强制保险等社会风险体系的设立提供了相应的制度空间;在涉及“施害人—智能机器人—主人”三者的侵权纠纷中，能够为排除物件损害责任的适用，提供制度上的正当性支持，从而免受智能机器人客体地位的局限而得以更加公正客观地衡量施害人所造成的损失，更有利于智能机器人主人权利的保障。

（二）与人类主体相融合

一直以来，就是否赋予智能机器人主体地位问题，都不乏反对者的声音，他们认为赋予智能机器人民事主体地位对人类带来的革命性的甚至是毁灭性的损害远远大于其带给我们的便利。

首先，他们认为智能机器人伤害人类，带来大范围失业等负面影响。比如，1978年日本广岛发生机器人将值班工人切割致死事件，德国大众汽车制造厂机器人致人死亡事件[11]。笔者认为个案的发生属于技术漏洞。其实，任何技术革新伊始，都会存在技术漏洞，甚至要经历一个较长期的技术不稳定期，人类既然可以创造智能机器人，就会有办法修复和完善智能机器人。我们有理由相信，随着智能机器人技术的成熟，由智能机器人引起的恶性安全事件必能控制。就失业问题，笔者认为这属于社会变革中出现的必然阵痛，应当为社会、市场的调整预留时间与耐心。历次革命都面临人类生产生活方式的全方位变革，工业革命的来临并没有导致农民集体失业，相应的信息革命智能机器人的各领域普及可能会带来人类劳动结构、劳动强度的重大调整，但并不意味着人类大量失业，人类有可能迎接更高水平的双手解放，从而更加专注于深层次的信息交流活动。

其次，他们担心机器伦理对人类伦理造成冲击，对智能机器人将统治人类忧心忡忡。笔者以为机器伦理与人类伦理不存在实质性的对抗，当前所表现出来的机器伦理对人类伦理的冲击属于技术层面的问题，如果秉承以人为本的理念进行智能机器人的开发，那么智能机器人天然具有人类伦理属性。且随着人与智能机器人的双向适应，人类意识逻辑下的伦理观与机器代码逻辑下的伦理观也在双向适应。机器的伦理体现在机器的行为选择中，而机器的行为选择路径则依赖于代码程序的设置，以及所调用的基础数据库是否全面完整。譬如，驾驶人习惯数据库开发不完整，必然导致基于此数据库的智能驾驶系统在面对突发情况时做出不容于人类普适价值的选择，进而显示出在人类看来畸形的机器伦理。至于智能机器人对人类统治的担忧，笔者认为大可不必。人类基因与智能机器人代码存在本质区别，人与智能机器人的关系不同于人与其他自然物种的关系，智能机器人并不存在基因不断繁殖与传播的天性，不会与人类在社会资源和自然资源上相竞争。

三、赋予智能机器人民事主体地位的合理性

（一）智能机器人民事主体的可能

回溯民事主体的发展史不难发现，民事主体的选择远远不局限于自然人。自然人、动物甚至建筑等无生命体都曾作为民事主体出现过。就“人”这一普遍被认同的民事主体而言，其具体范围大小在不同历史阶段也有所不同，例如在古罗马、古巴比伦时期部分人被减等降格为奴隶而排除出民事主体的范围;我国封建时代也有将人划分为蒙古、色目、汉人、南人而分别赋予不同权利的阶段;直到14世纪文艺复兴，经过启蒙思想的洗礼，对人这一抽象主体全面保护的理念才逐步普及，非自然人民事主体中最为典型的即目前仍得到法律承认的法人这一拟制的民事主体[12]。除此之外，在神学文化主导时期，例如古罗马、中世纪等曾经出现过将寺庙等宗教建筑作为民事主体赋予权利的情况，对河流、船只等物品提起审判的事例也曾有发生。近些年来，对动物权利保障的呼声日益高涨，将动物设立为权利和义务主体的讨论甚嚣尘上，其中瑞士已先行立法賦予受虐动物以享有律师服务的权利[13]。通过以上民事主体的制度史梳理可知，民事主体的形式可以是开放而多元的，这为赋予智能机器人这种新生事物为民事主体，提供了制度上的可能。

（二）可资参照的民事主体标准

假定智能机器人具有民事主体地位，那么可否参照现有民事主体的法律规定，建构其主体地位呢？审视现有的主体立法，关于自然人和法人成为民事主体的实质标准主要有：名义独立、意志独立、财产独立和责任独立。通过从拟制主体—法人的角度解读以上实质标准，并结合智能机器人特征予以分析，笔者认为智能机器人可以满足现行民事主体设立的实质标准。

关于名义独立，就法人而言，指法人拥有自己独立的名称从而能够与他人为民事法律行为，而不是以法定代表人或其他内部成员的名义。法人独立旨在明确民事主体在民事法律活动的独立存在，以及民事侵权纠纷中追责指向，为避免民事法律关系的混乱作制度铺垫。法人名义的独立依赖于合法成立为其他主体所知。智能机器人独立名义的取得可以参照法人独立名义的获取方式，日本机器人帕罗户籍的取得，沙特阿拉伯机器人索菲娅公民身份的认证以及美国高速公路安全管理局（NHTSA）对Google自动驾驶系统“司机”的认定等，都是为智能机器人设立独立名义的成功例子。

关于财产独立，就法人而言，主要体现在，法人财产与股东的个人则产相互独立;股东对法人财产没有直接支配权，而须以法人的名义依照法律或法人章程的规定占有、使用、收益或处分法人则.产，其强调的是法人财产与股东个人财产相区别。根据2016年欧盟委员会法律事务委员会向欧盟委员会提交的《关于为“电子人”开立独立资金账户的动议》来看，智能机器人民事主体财产独立实现的技术性难度并不大[14]。关于意志独立和责任独立，就法人而言即对外发生民事法律关系，是由于该法人的团体意志或独立意志，而不是某个或某几个成员的个人意志或个人意志的简单相加;必须独立对外承担民事责任，以自己所支配的财产赔付。其并不应解读为意志生成的自发性或者承担责任的自主性，而是指法人对外发生民事法律关系时意志的团体性而非个人性，在财产独立的基础上以自己支配的财产承担责任而非其他主体承担替代责任。但是意志独立和责任独立有赖于制度的构建，例如法人章程关于股东通过表决机制形成法人意志的设计，以及公司法人破产制度的设置等。智能机器人依据其特定代码程序通过指定路径来实现特定目的，其生成的意志不存在多主体冲突的情况，能够满足当下意志独立的标准;既然其财产独立，那么责任自负自然证成，即便强制责任保险也只是责任赔付的转嫁，并不违背责任独立。

综上所论，无论是关于民事主体的历史溯源，还是现行法律中法人的独立拟制，无不表明民事主体地位的赋予可以通过立法技术实现。为了方便权利行使与应对不断出现的新生事物与传统法律框架之间的冲突，法律拟制这一立法技术的优势将逐步凸显。通过现行民事主体设立标准的实质性分析，足以证明智能机器人民事主体地位的确立具有制度上的可能性，我们可资参照法人民事主体设立的经验，以法人人格否认为最后保障，设计智能机器人的民事主体地位制度。

四、智能机器人民事主体制度的设置

民事主体与民事权利是同时存在的，学理通说将民事主体定义为参与民事法律关系，享有民事权利并承担民事义务的当事人。民事权利的享有和民事义务的承担看似取决于法律规定或主体意定，但实质上更多由社会因素和政策主导。俄罗斯、欧盟侣等各国也一直在尝试建构智能机器人民事主体制度，更多的国家和地区也在研究和制定相关发展政策和计划[15]。笔者不揣深浅，就智能机器人主体地位、权利义务及责任承担提出设想，以廓清智能机器人参与民事活动的法律框架。

（一）义务本位的赋权理念

即便公司法等法人法已经日趋完善，“民法是人法”的口号依旧响亮，“民法是权利法”的观念也早已深入人心，“以人为本”的价值理念始终是指导智能机器人立法的根本原则，赋予智能机器人以民事主体地位，并不代表放弃自然人原有的权利，在“以人为本”的价值指引下，赋予智能机器人民事主体地位以便其更好地服务于人类，以更丰富的途径实现、保障人类的民事权利。法律关于智能机器人主体所承载的权利和义务的制度设计必然要从其义务为出发点，即采用“义务本位”的立法理念。这也与欧盟4月25日发布的政策文件《欧盟人工智能》（Artificial Intelligence forEurope）中基于以人为本的人工智能发展理念，旨在通过人工智能价值引导人工智能发展，塑造其社会影响，与造福个人和社会的价值观不谋而合。

（二）智能机器人限制权利能力

关于法人的权利能力，学界有一种理论认为法人是限制权利能力人，正如拉伦茨所言：“法人与自然人在财产法上的权利能力范围一致，人格法上，法人成为权利义务承受者的范围明显较自然人为窄，身份法上则全然空白，故以自然人为参照系，称法人为部分权利能力。”[16]智能机器人被赋予其权利能力的必要性，起源于智能机器人为服务人类所需的授权，是其作为代替人类履行某些义务时可能需要某些权利作为其参与民事法律行为的先决条件，并不同于自然人权利，笔者也认同智能机器人为限制权利能力主体。

1.智能机器人权利能力和行为能力获得的非自主性

智能机器人的限制权利能力，源于其权利能力和行为能力的获得不具有自主性，端赖于人类的赋权，比如帕罗的民事地位与民事权利的获得始于其户籍登记，索菲娅作为民事主体得到认同始于其电子人身份证明的获得。人类根据设定智能机器人完成的任务而赋予其完成任务所需的权利，权利的产生与消灭应该全部取决于义务的履行情况，故智能机器人这一拟制的主体所承载的，也必将是由人类根据自身需要为其拟制的权利。

2.智能机器人权利的个性化

智能机器人所拥有的权利依赖于其所履行的义务，智能机器人拥有权利的时间长短依赖于具体义务的履行进度，因而每个智能机器人所被赋予的权利也必将根据其使命不同而千差万别。比如医疗智能机器人有获取人类病史信息的权利、新闻撰写智能机器人有编辑、发布信息的权利、管家智能机器人有使用、处分主人财物的权利等。

（三）权利救济与部分替代原则

智能机器人作为人类实体的延伸，在与其他主体的交往过程中，涉及自己权利被侵害或者侵害他人权利的情形，此时如何救济智能机器人的权利以及智能机器人如何承担责任，值得思考。

1.权利救济的代理

智能机器人被赋予定制化的义务与定制化的权利，那么当其权利受到侵害时，现代科技是否可以支撑智能机器人向人类一样运用各种方法，针对性的救济自己的权利呢？基于物理伤害的应激性保护反应容易实现，但智能机器人所承载人类权利和义务，其发展趋势必当越来越涉及超乎传统工具的具有人文色彩和感情色彩的权利与义务，这样的权利被侵害时，智能机器人是否有意识，智能机器人是否知道如何救济，其救济的方案与其背后主人的意愿是否一致，救济方案是否可以提前预设？在人类救济权利尚需寻求外界帮助的今天，赋予智能机器人独立的救济权利，恐怕难以保障其权利能够完整救济。因而，部分甚至绝大多数权利的救济以其主人作为后盾，在智能机器人权利遭受侵害后，其主人有权代理智能机器人寻求救济。

2.责任承担的部分替代原则

除对智能机器人的法律地位进行必要规制外，更应明晰若发生侵权事故时认定相应法律责任的原则。当下我国侵权责任法体系中规定了高度危险责任、产品责任、机动车交通事故责任、医疗事故责任等几类侵权责任。智能机器人由人类制造，而后服务于人类，因其区别于其他工具的高度智能性，兼具产品与服务者的双重角色。因而就智能机器人侵权责任承担可以借鉴“雇主责任”与“产品责任”，形成产品责任——强制保险——用人者责任组合的方式分别覆盖不同原因导致的智能机器人责任承担。如果智能机器人因为制造者方面技术疏漏等原因而发起侵权行为，则不妨套用产品责任，由生产者、销售者承担侵权责任;如果非因智能机器人制造者的过错，而是为完成自身任务而侵犯其他主体的权利，则应借鉴用人者责任，由用人者承担侵权责任;除此之外，为了规制智能机器人因其他原因，即既受生产时技术水平限制无法预料规避而归咎于生产者，又非是为人类执行任务所侵害其他主体合法权益的，应当由生产者、销售者、消费者按比例缴纳的强制保险负担[17]。

结语

21世纪的核心挑战便是人类如何与智能机器既安全又合乎道德伦理的共存。随着自动化系统和人工智能的广泛采用，事后再考虑道德约束智能机器的作法已经遭遇困境。人类在创造人工智能机器人中设定的算法可能犯错误，展现出失控的机器人对社会和他人的破坏，而且被黑客轻易侵入的程序更可能作为人类的对手，制造恐怖谷。虽然学术界内的行业隔阂普遍存在，但研究者不能仅仅执着于智能的目标，应当寻求可以匹配人类价值观的智能程序和算法。无论采用逆向强化学习还是其他方法，价值观和道德问题必须是人工智能开发者的标准出发点。

作为内化道德的法律制度应当在智能机器的技术发展道路上尽到自己的规范责任，虽然法学界就是否赋予智能机器人主体法律主体地位存在争议，但鉴于将智能机器人视为法律关系的客体所导致的种种法律困境，可以通过赋予智能机器人以法律主体地位得以解决，且顺应人工智能的技术发展趋势，因而赋予智能机器人民事主体地位具有法理上的正当性，姑且不论智能机器人可以在自我责任下高效服务人类，但就与人类低调谦卑的融合态度就足以获得人类的身份认同，更何况现行民事主体设立：的标准足以证明智能机器人民事主体地位的确立具有制度上的可能性。我们可以参照法人民事主体设立：的经验，立足于义务本位的赋权理念，赋予智能机器人限制权利能力，利用救济代理和责任替代的方式弥补其权利行使的不能和责任承担的不足。

展望未来，不久的将来，强人工智能将变为超人工智能，达到和超过人类水平的智能奇迹必将出现。届时系统将智能化到可以自我复制，从而在数量上超过人类，并且还可以自我提高，从而在思想上超越人类。那么他们会有道德身份和自由选择吗？我们还能以任何托词拒绝其主体身份吗？

参考文献：

[1]皮埃罗·斯加鲁菲.智能的本质[M].任莉，张建宇，译.北京：人民邮电出版社，2017：2.

[2]郑戈.人工智能与法律的未来[J].探索与争鸣，2017（10）：81-82.

[3]F.Patrick Hubbard，"Sophisticated Robots"：Balancing Ua-bility，Regulation，And Innovation（2014）.

[4]吴汉东，张平，张晓津.人工智能对知识产权法律保护的挑战[J].中国法律评论，2018（2）：3.

[5]Aishwarya Limaye，FRIEND OR FOE，Legal Rights of Ar-tificial Intelligence[J].Boston College Intellectual Property&Technology Forum，2017（1）

[6]司晓，曹建峰.论人工智能的民事责任：以自动驾驶汽车和智能机器人为切人点[J].法律科学，2017（5）：173.

[7]袁曾.人工智能的有限法律人格审视[J].东方法学，2017（5）;55-57.

[8]孙占利.智能机器人法律人格問题论析[J].东方法学，2018（3）：13.

[9]L.Floridi.Artifcial Intelligence‘s New Frontier：ArtifcialCompanions and the Fourth Revolution [J].Metaphiloso-phy，2008，39（4）.

[10]张正清，张成岗.第四次革命：现代性的终结抑或重构——信息伦理对人工智能伦理的启示[J].武汉大学学报（哲学社会科学版）， 2018（3）：179.