管窥人工智能应用中的侵权责任

许幸丽　王艳华

摘要]随着大数据与人工智能的浪潮席卷全球，人工智能技术迅猛发展，手术机器人被广泛应用于医疗领域。手术机器人具有提高手术精确性、安全性、创新诊疗模式、减少医生繁杂工作量等技术价值与社会价值。但其最大的问题是手术机器人技术安全漏洞产生的医疗损害所引发的责任承担难题。当手术机器人不再被简单的认为是人类工具的延伸时，传统医疗损害责任归责体系难以适应，需要亟待完善责任规则，明确手术机器人是否具有法律主体资格，确定其产品属性、责任主体范围，在归责原则方面以无过错责任原则来认定责任，以实现科技创新和权利保护间的平衡。

[关键词]人工智能;手术机器人;民事主体;侵权责任

[中图分类号]D902[文献标志码]A[文章编号]2095-0292（2021）05-0025-05

一、问题的提出

当我们在享受人工智能日新月异的变化给我们带来的便捷时，一些棘手问题也横亘于我们眼前，对现有的法律规则和法律秩序带来一系列挑战，甚至可能会带来一场法律革命的变革，如随着人工智能的自动性、适应性、规模性不断增强，自动驾驶汽车、手术机器人“飞入寻常百姓家”，但由于现行的《侵权责任法》调整规制的是人的行为，责任承担主体也为自然人或者单位，并没有将责任分配给机器人的法律规定，因而对于人工智能适用现有的《侵权责任法》，可能会导致受害人或者其近亲属无法就其遭受的损害寻求充分的救济，甚至无法找到侵权责任主体来承担责任，对于被侵权人的权利保障或我国提倡的人工智能的发展来看，将会产生人机协作遭受诟病。

据研究报告显示，手术机器人在医疗领域中的应用日愈广泛，认知智能取得进一步发展，并成为医疗行业新兴热点。在国务院颁布的《新一代人工智能发展规划》提出的保障措施中，为应对人工智能发展可能带来的系列变革与挑战，形成适应国际化人工智能发展的制度，需要制定促进人工智能发展的法律法规，以加强人工智能发展带来的社会问题研究，建立保障人工智能健康发展的法律法规框架，开展与人工智能应用相关的权利、义务、责任等法律问题研究。在自动驾驶汽车、手术机器人等应用领域，加快研究制定相关责任风险法规，为新技术的快速应用奠定法律基础。

基于此，本文主要讨论对于人工智能引发的损害，侵权责任是否可以归责于自然人、单位或者必须要在民事主体之外的人工智能之间进行责任分配，我们是简单规避对于人工智能引发的损害，直接规定由人工智能的所有者或者使用者承担损害责任，违背“行为与责任同时存在”的基本原則;亦或赋予人工智能电子人格，其法律明文规定直接由人工智能机器人享有权利并承担义务。学者袁曾就表示人类必须为自己的行为付出代价，人工智能同样如此，并不因为人工智能并非人类就可以逃脱法律制裁，总要有主体为做出的行为负责。[1]

对于人工智能机器人引发的损害，侵权责任的承担主体，适用何种归责原则，理论界学者论述不一，争议较大。笔者不惴陋见，以手术机器人的侵权责任为研究主题，探讨《民法典》侵权责任编该如何进行责任认定、风险规制与责任分配。

二、手术机器人责任主体的甄别

（一）争论焦点：手术机器人可否就损害后果独立担责

法律责任的认定，首先需要明确责任主体。[2]在医疗事故中，手术机器人造成的损害究竟应该由谁来承担侵权责任，是根据侵权责任编医疗损害责任规定，由医疗机构承担责任，抑或规定由产品的生产者或者销售者承担侵权责任。由于手术机器人在诊疗过程中，医生承担了人机协作的辅助者功能或者设计指令由手术机器人完成某些复杂的医疗活动，可以说手术机器人是主要的完成者。在此种情景之下，手术机器人能否独立承担责任，我们需要考虑手术机器人是否可以像医疗机构、生产者或销售者一样具有承担侵权责任的民事主体资格。

现阶段来讲，学理界对于人工智能法律主体地位的学术研究尚集中在讨论是否赋予其人工智能主体地位，主体说与客体说的争论局限在我国《民法典》对民事主体的定义和目前人工智能的发展水平是否相匹配，并且有限的理论研究大多也是在相互借鉴，无论是支持一方还是反对一方都没有充足的理论基础，且相互诟病，在研究过程中陷入悖论。笔者认为在探讨是否赋予人工智能民事主体地位时，不应空中楼阁，局限于象牙塔中，要想研究人工智能的法律主体资格，当然要根据人工智能的发展阶段，在法律的视角下定义人工智能。我们撰写本文的目的在于提供一些思考并在发生此类纠纷时提供一种解决思路，因而本文主要探讨的是在弱人工智能时代手术机器人的侵权责任。

（二）民法视阈下主体身份判断：不具有主体地位

如前所述，学术界对于手术机器人的法律地位尚未有统一的定论，主要分为主体说和客体说。根据《民法典》的规定，能够作为民事主体参与民事法律关系的有自然人、法人和非法人组织，从其定义来看，很难将手术机器人划分为享有权利承担义务的民事主体。自然人是基于自然生理规律出生的人，是权利义务的当然主体，[3]而法人和非法人的主体资格则是基于法律拟制，申言之，法人、非法人组织成为法律主体资格是基于调整法律秩序的需要。从法理学的角度来看，自然人是权利义务的当然主体，具有独立的意识，而手术机器人是接受程序指令进行活动，其中外科医生控制台是手术机器人运行的中枢系统。从本质上来讲手术机器人是基于人的算法运行，对数据进行处理，反映人类自我意识和对象意识，体现和固化虚拟现实。[4]因而对比民事主体的定义可知，手术机器人不具有自然人所特有的自然属性及理性，自身并无独立存在的价值和独立意识，不过是为社会发展的需求而创设，因而不能享有与自然人相同的法律人格。

法律主体存在二元结构，即自然人与非自然人，[5]手术机器人是否可以拟制为法律主体，亦有争论，其中持肯定说的大致基于以下三种理由。贡献说认为人工智能为社会发展做出了巨大贡献，为人类提供了便捷服务，为了更好地规范及应对人工智能发展过程中出现的法律问题，救济被害人权利，我们可以将其拟制为法律主体;构造类似说主张人工智能是由“所有者”以货币、非货币财产出资或提供知识产权研发出人工智能，即人工智能与法人、非法人组织具有类似的构造，[6]可以参照法人制度赋予人工智能法律主体资格，称之为法人。第三种观点则借鉴欧盟规定，主张为避免与国际脱轨，可以参考国外的法律规定，赋予人工智能主体资格。[7]否定说则主要有自我意识说、责任分担说，其中持自我意识说的学者认为人工智能是科技的产物，基于设计者设定的程序或者大数据的分析而认识事物。[8]如龚凡为人工智能编入代码而模仿人类为撒贝宁吟诗一首，博得满堂彩，但其认知范围和自身能力也是有限的，更不具有自我独立意识，而法人通过机关法定代表人或成员的意识使法人的意识得到表现。责任承担说的学者意见为若赋予人工智能法律地位，手术机器人无法进行指令操作或者发生不可预见的技术故障时，对患者造成不可逆的人身损害。手术机器人与其他民事主体需要对患者共同承担责任，属于多数人侵权，事实上多数人的侵权责任在当事人之间分配是一个复杂问题，包括侵权行为过失相抵、侵权责任形态，[9]如前所述，人工智能不具有人类的抽象情感，在侵权过程中不存在故意或过失，导致最终的责任承担归于设计者、生产者或者产品使用者，使得手术机器人拟制的法律主体资格流于形式。手术机器人无独立的财产，人类需要对脱离控制的手术机器人承担责任，[10]与不具有民事主体资格的手术机器人截然不同的是，法人责任制度是是法人主体资格认定的内在根据，[11]法人具有独立的人格，可独立承担民事责任。

人工智能是一个动态的发展过程，回归目前的技术水平，支持赋予人工智能法律地位的学者过于化繁为简，认知存有误区，缺乏相应的现实基础和理论论证。学者无法回答若赋予手术机器人主体资格，责任如何承担，另外手术机器人不具有人类的抽象情感，故意或过失的主观心理无法界定，无法进行责任划分，会引起侵权责任体系的紊乱。

三、手术机器人的侵权责任机制

诚如前述，当前的法律并未赋予手术机器人法律主体资格，即在弱人工智能时代，如何自洽的适用现行法律，探究其在侵权关系中的归责原则，认定责任主体，需要探讨。

（一）手术机器人致人损害的责任承担

在民法二分法体系下，权利主体和权利客体的地位明确，且无法互相转换。人机协作的手术模式中，法律不可能对手术机器人的思维、行为以及责任承担层面产生影响，申言之医疗损害中，赔偿责任无法在手术机器人、使用者、生产者之间进行责任分配。然而手术机器人作为手术的主要操作者或者辅助者侵犯患者生命权或者健康权的案件不乏一二，在其无法承担赔偿责任的境况下，为保障受害者权益，应当说明及明确在不违反行为与责任同在的原则下，是否可以追究医疗机构、产品生产者、销售者的侵权责任。

1.产品生产者与销售者责任

《人工智能安全与法治导则（2019）》（以下简称《导则》）中明确提出：当前人工智能仍处于弱人工智能时代，其产品定位是“工具”，人工智能的设计者、生产者、运营者、使用者承担法律主体责任。从表面看，该《导则》通过构建人工智能的产品属性，即人工智能虽然更加广泛地参与民事活动，但其本质依然通过人类创造生产而拥有“生命”，明确手术机器人的客体地位。毫无疑问，有损害必然有责任，在手术机器人引起的医疗事故中，由于手术机器人被认定为科技产品，机器人以及机器人技术内部缺陷造成的损害，完全可以根据产品责任规则进行调整，由生产者、运营者、使用者承担责任。

法律中的责任问题，究其根本就是对侵权行为的责任分配问题，[12]手术机器人致人损害的责任分配问题，大致可以分为两种。第一种可以归为外部侵权，即手术机器人进行系统操作时，侵权人试图控制系统或者打断操作过程，手术机器人从而变成侵权人的利剑，人工智能技术的不成熟，使得手术机器人程序更容易被攻击。在此种境况下，手术机器人引发的医疗损害的责任承担主体毫无疑问的应有侵权人承担，我们对此不再赘述。复杂的是第二种情况，即手术机器人自身的技术缺陷而引发的医疗损害。在英国一例由手术机器人引发的医疗损害案例中，医院在指令手术机器人给患者做心脏手术过程中，手术机器人将病人心脏放错位置进而戳破病人的动脉，系统失灵后拆掉手术缝线，最终导致该患者一周后死于非命。

不可否认的是，对于手术机器人引发的医疗损害，无论是创造者技术漏洞的缘由，抑或生产者、销售者的不当生产销售，甚至是手术机器人自身原因力引发的医疗损害，都需要查找侵权责任承担主体，[13]

同时，手术机器人的产品属性明确，学者阿萨罗为寻找可能的法律解决途径创新性指出，手术机器人及机器人技术造成的医疗损害，可以利用民法中产品责任的相关法律进行规制调整，因为机器人一般被视为科技意义上的产品。基于手术机器人的产品属性，依据相关的法律要求，产品的缺陷、产品警告的缺失等归责主体必然涉及生产者、销售者主体，我国的《产品质量法》、侵权责任编都对此做出规定，即手术机器人若存在产品缺陷，手术机器人的生产者和销售者存在过失，没有尽到合理的注意义务，造成他人人身、财产损害的，则生产者、销售者需要承担相应的责任。

2.医疗机构责任

与其他人工智能产品截然不同的是手术机器人被适用于更加复杂的医疗领域，被称为顶尖上的技术革新，然而这亦是最大的风险。笔者通过检索发现，手术机器人引发的医疗事故虽尚不足以颠覆我们的技术蓝海图景，但蚂蚁撼象，手术机器人也给医疗机构带来诸多麻烦，隐患丛生，以四川省人民医院为例，频频被诉诸被告。在手术机器人引发的损害中，有一个值得我们需进一步思索的现象，法官在判决这类案件时，不约而同的适用医疗损害责任且集中在医疗机构过失责任方面，将医疗机构的过错做为兜底性条款，包罗万象，而医疗产品责任却鲜有提及。可见我国法官在解决此类医疗纠纷案件时，尚未承认手術机器人的医疗产品定位。[14]

从反面论证，若手术机器人引发的医疗损害适用侵权责任编中医疗机构过错责任的医疗技术损害，否认手术机器人本身缺陷引发的医疗产品损害，则是赋予手术机器人主体地位，逻辑又是自相矛盾的。可见手术机器人引进医疗领域，由于医疗机构这一特殊主体的介入，实际上医疗损害的发生就兼具了产品责任以及医疗损害产品责任的多种责任属性。医疗机构作为手术机器人的操控者，在整个应用过程中作为算法的辅助者，参与度较高，从这个视角看，医疗机构作为医疗损害的责任主体是言之凿凿的。其次医疗产品损害中对医疗机构的归责原则采取不真正连带责任，类似于产品责任中销售者的角色定位，将医疗机构纳入人工智能产品损害的责任主体范围更便于救济患者权益，患者通过举证手术机器人存在不合理缺陷，使其损害赔偿最终归属于手术机器人产品的使用者—有过失的医疗机构，生产者和销售者的侵权责任形态。

3.适用产品责任抑或医疗损害责任

在法律行为侵犯同一民事权益而承担侵权责任时，可能引发不同责任规范同时适用的责任竞合难题，[15]通过前文研究，我们得出手术机器人的法律定位属于“产品”这一法律范畴，当手术机器人致人损害而寻求责任救济时，就会产生责任竞合的差异，主要表现为产品责任抑或医疗损害责任，具体有哪一方承担责任，需要对现行理论观点按图索骥。

对于手术机器人侵权责任承担，学者素有争议，可归纳总结为产品责任、医疗损害责任。根据《产品质量法》的免责条款规定，产品流通时的科学技术尚不能发现缺陷存在的，生产者和销售者可以据此免责，而缺陷产品的认定对于不了解其背后工作原理的受害者来说如同雾中看花水中探月，不具有现实性。相对于医疗机构而言，作为手术的全程参与者或者说是医疗纠纷的亲历者，应了解手术机器人是否存在缺陷，进而对这场危险的开启者进行监督。

司法实践中，对于医疗损害责任规定，前文已引而述之，在检索的五例因手术机器人引起的医患纠纷中，法官以手术机器人作为一项危险性技术而要求医疗机构承担医疗技术损害，以实现患者权利救济与医疗损害之间的平衡。这种观点初看似有一定的合理性，但细细推敲不免让人疑虑丛生，对于其辩驳上文已进行罗列，不再赘述，笔者私以为对于手术机器人引起的医疗损害，以医疗技术损害原则追究责任主体更符合权利救济目的。

（二）手术机器人致人损害的归责原则

在探究手术机器人的应用领域与侵权责任时，是确定该侵权责任处于何种归责原则之下， 因为归责原则不同， 侵权责任的损害赔偿会有差异，[16]侵权责任编确定了由过错原则和无过错责任原则两大归责原则组成的用以确定行为人民事责任的标准。

回归人工智能设计的初衷，其目的是为社会提供便利，便捷服务是人工智能系统的价值观，而过错责任原则是以行为人主观上存在过错为前提构成要件，[17]因而过错责任原则是无法适用于手术机器人参与的医疗损害中。进一步而言，对于不能归咎于人机协作模式中医生的过错，过错责任原则对于手术机器人实施的行为不具有约束力，因为过错责任原则真正约束对象是理性人的行为，与手术机器人无关。另一方面过错推定原则作为过错责任原则的特殊形态，法律对其适用通过列举式规定予以界限明确，其中可适用医疗损害中的过错推定也仅仅限于“违反诊疗规范的法律、法规、规章”，“隐匿或者拒绝提供与纠纷相关的病例资料”以及“伪造、篡改或者销毁病例资料”，依据体系解释来看，过错推定原则条款后并未使用“等”“法律规定的其他情形”的字眼，这就是说，手术机器人引起的医疗损害中没有过错责任原则适用之基础。

归责原则作为责任分配之度量，体现着侵权责任法的公平与正义，然而在适用过错原则具体分析人工智能引起的医疗损害中，不难发现这是一段艰难的路程，过错责任原则受到诸多挑战。无过错责任原则因严格责任而成为受害人权益保护之圭臬，对于无法归咎行为人的过错或不存在行为人过错的纠纷，无过错责任原则便有了进行规制的可能。依据侵权责任编的特别规定，产品责任实行无过错责任归责原则，只要产品存在缺陷造成他人损害，手术机器人引起的医疗纠纷便可适用产品责任，申言之产品责任就已成立。[18]

从目前人工智能技术成本、立法回应、普遍使用程度以及社会可接纳度尚有待完善和推广的实际社会现象下，手术机器人致人损害适用无过错责任原则，具有合理性，其原因在于人工智能系统的可靠性、稳定性对于手术机器人的使用者而言安全适用至关重要。而生产者是系统设计的命运决定者，在此利益链条循环下，对生产者适用严格责任具有一定的合理性。此外，技术的快捷使得绝大部分患者并不了解手术机器人层面背后的知识，而手术机器人不过是为患者的需要而设计，其在无人问津时并不具有自身独立价值。在无法回避手术机器人技术引发的问题时，无过错责任原则才能让手术机器人的设计及生产全程处于监管之下，以机制约束生产者、销售者，进而推动技术修正。

四、结语

手术机器人致人损害引起的医疗侵权责任作为一种新型、复杂的侵权责任类型，是技术发展背景下引发出来的新客观现象，而法律的滞后性必然导致对现有的侵权法体系引起一系列挑战。本文通过对手术机器人主体地位的甄别，判定在弱人工智能时代，基于立法成本、自身属性和技术发展的考量，手术机器人不宜界定为民事主体，其本质属性仍为物。手术机器人医疗损害纠纷案中，介于手术机器人应用领域的特殊性，由医疗机构承担不真正连带责任，患者向医疗机构请求赔偿的，医疗机构承担赔偿责任后，根据规定向生产者、销售者进行追偿。最后手术机器人侵权的归责原则应适用无过错责任原则，手术机器人具有科技产品属性，生产者、销售者因手术机器人的使用而盈利，就应当承担更严格的责任、履行更高的要求而适用无过错责任原则。

[参考文献]

[1]袁曾.人格智能有限法律人格审视[J].东方法学，2017（5）：53.

[2] 孙占利.智能机器人法律人格问题论析[J].东方法学，2018（3）：16.

[3] 梁慧星.民法总论[M].北京：法律出版社，2017.

[4] 余乃忠.自我意識与对象意识：人工智能的类本质[J].学术界，2017（9）：97-98.

[5] 吴高臣.人工智能法律主体资格研究[J]自然辨证法通讯，2020（6）：20-26.

[6] 李想，杨梅.人工智能法律地位的审视—基于实质与形式要素之考量[J]济源职业技术学院学报，2017（7）：31.

[7] 曹建峰.10大建议！看欧盟如何预测AL立法新趋势[J]机器人产业，2017（12）：17-20.

[8] 刘洪华.论人工智能的法律地位[J]政治与法律，2019（1）：17.

[9] 杨立新.多数人侵权行为及责任理论的新发展[J]法学，2012（7）：42.

[10]杨清望，张磊.论人工智能的拟制法律人格[J]湖南大学科技学院学报：社会科学版，2018（6）：95.

[11]宋才发法人主体资格认定的法律探讨[J]华中师范大学学报：人文社会科学版，1998（7）：21.

[12]约翰·弗兰克·韦弗.人工智能机器人的法律责任[J]财经法学，2019（1）：140-142.

[13]吴汉东.人工智能时代的智能安排与法律规制[J]法律科学：西北政法大学学报，2017（5）：132.

[14]丁璐人工智能体医疗损害责任分析———以达芬奇手术机器人为例[J]北京化工大学学报：社会科学版，2020（1）：69.

[15]张家勇.中国法民事责任竞合的解释论[J].交大法学，2018（1）：5-11.

[16]崔建远.论归责原则与侵权责任方式的关系[J].中国法学，2010（2）：40.

[17]刘晓璇，张虎.论人工智能的侵权责任[J].南京社会科学，2018（9）：107.

[18]宁金成，李瑞升人工智能致损对传统侵权责任法的挑戰及立法回应[J].电子科技大学学报：社会科学版，2021（1）：40-45.

Tort Liability in Artificial Intelligence Application——Take Surgical Robot as the Starting PointXU Xing-li，WANG Yan-hua

（School of Law，Zhengzhou University，Zhengzhou 450001，China）

Abstract：With the boom of big data and artificial intelligence sweeping the world and the rapid development of artificial intelligence technology， surgical robot has been widely used in the medical field. Surgical robot has the technical and social value of improving the accuracy and safety of surgery， innovating the diagnosis and treatment mode， and reducing the complicated workload of doctors. But the biggest problem is the liability for the medical damage caused by the security loopholes of surgical robotics. When surgical robots are no longer the simple thought is the extension of human instrument， traditional medical damage liability imputation system is difficult to adapt to， liability rules， it is necessary to reform the need to clear whether surgery robot has legal subject qualification， determine its product attributes， scope of responsibility main body， in terms of imputation principle to no-fault liability principle to identify responsibility， To strike a balance between technological innovation and rights protection.

Key words：artificial intelligence; surgical robot; civil subject; tort liability

[责任编辑孙兰瑛]

[作者简介]许幸丽，郑州大学法学院硕士研究生，研究方向：民商法学;

王艳华，郑州大学法学院副教授，研究方向：民商法学。