医疗人工智能侵权责任研究

福建农林大学 邓卫文

一、问题的提出

人工智能概念于1956年提出以来，经过几十年的发展，已经不再是遥远的科幻概念，而是越来越紧密的走进社会的各个领域，走进人们的日常生活中。人工智能表现出超高的“智力”，是一门专门研究、模拟人类智能理论和方法的科学。目前人工智能的研究方向主要倾向于与社会上各个领域的结合。医疗领域是人工智能与其他领域相结合研究过程中，研究最早、联系最密切、投入最大、影响最深远的领域之一。如使用最多的手术机器人达芬奇手术机器人，是目前最先进手术机器人。我国人口基数大，随着人口老龄化，我国将面临巨大的养老医疗压力，此外国家鼓励生育计划的出台，我国也需要更多的医疗资源，导致我国医疗资源紧缺。因此我国对医疗人工智能的发展也非常重视。2017年，国务院印发的《新一代人工智能发展规划》就提出建立快速精准的智能医疗体系。2018年国务院印发《关于促进“互联网+医疗健康”发展的意见》，其中指出要加深人工智能与医疗的结合，促进医疗服务行业的快速发展，有效提高医疗健康业整体的服务能力和普惠水平。

人工智能赋能医疗领域的同时，不可避免的由于人工智能技术本身存在的问题，或者使用者的过错，会造成患者的损害。在出现医疗人工智能侵权事故的时候，如何通过法律规定确定事故发生因果关系、责任承担主体成为各国关注的焦点。人工智能本身具有自主学习能力，虽然现阶段的人工智能不具备自主思维能力，但人工智能通过自身算法，根据大数据判断，在治疗的过程中会自主做出判断，医生在这过程中由决定者变成了监督者，由于“技术黑箱”问题，人工智能在医疗过程中如何做出决断的原因也不得探究，则传统的医疗损害责任和产品责任难以判定的损害因果关系。此外，根据民法规定，人工智能并不具备法律主体的地位，那么如果由人工智能本身的原因造成的损害，由人工智能本身负责，还是由医疗机构或者生产者负责，通过现行的法律并无法合理给出答案。这些问题也就成为了我们研究的重点。

二、医疗人工智能对传统法律责任实现的挑战

（一）医疗人工智能侵权损害的因果关系难以确定

因果关系分析是确定侵害行为与损害结果之间具备关联性的逻辑推理活动，也是责任主体要为此承担法律带来的不利后果的前提条件，要确定一个责任主体，必须准确推理出因果关系。而人工智能运用于医疗领域所导致的侵权具有复杂性，难以准确认定侵权因果关系。首先人工智能算法复杂，设计者在设计的时候医疗人工智能就可能存在技术缺陷，也有可能在制造或者销售的时候导致产品出现了缺陷。人工智能是极其复杂的算法，其程序运行、对医疗数据的整合，和如何做出决断的过程是不透明的，因此被称为“技术黑箱”，也导致人工智能其本身具有很多难以解释、预测的现象。因为人工智能行为的复杂性和不透明性，也就很难确定医疗人工智能本身存在产品质量问题。

其次，人机交互使得因果关系难以确定。现阶段医疗人工智能的使用是人工智能与医生相互结合使用的。有检测型人工智能，主要提供给病人检测，得出数据供医生使用；也有医生和医疗人工智能共同作用给患者治疗的；也有由医疗人工智能全自主给患者治疗，而医生只是起到一个监督者的作用。医生会出现错误与过失，医疗人工智能也会出现错误，在一起医疗事故中，如何查明是人的过错还是医疗人工智能的过错，又或者是二者竞合行为导致的过错，这过程是非常困难的。

（二）医疗人工智能法律责任主体确定问题

医疗人工智能侵权中确定法律主体地位，决定着谁有资格、有义务承担法律责任，是法律责任构成的必备要件。我国现行的法律主体包括自然人和法人。现阶段关于法律主体的认定主要以伦理角度出发，强调法律主体具有自由意志，能够自由支配自己的行为，并对其负责，享受权利并承担义务。自由意志是成为法律主体的前提条件，而现阶段人工智能处于弱人工智能阶段，并不具有自由意志，按此观点，现阶段的医疗人工智能并不能成为法律责任的主体。但一部分学者以工具性角度分析，法律对民事主体的确定除了伦理问题外，更重要的是实用性，法律是人的利益的体现。以此角度决定是否赋予医疗人工智能法律主体资格，有支持赋予医疗人工智能“电子人”身份的肯定说，也有只承认其具有有限主体资格的折中说。

人工智能是否具备法律责任主体地位，目前存在着三种不同的观点。（1）肯定说。欧盟2 01 6年发布的《就机器人民事法律规则向欧盟委员会提出立法建议的报告草案》中将人工智能定义为“电子人”，使其具有一定的民事权力和义务。（2）否定说。否定说将医疗人工智能划分为医疗工具，由于其本身不具备自由意志，也就不具备完全的行为能力，因此不能将其认定为法律主体。（3）折中说。以工具论主义出发，一定条件下赋予人工智能法律主体地位，以弥补法律在人工智能领域的漏洞。

（三）医疗人工智能侵权的过错责任适用困难

过错是过错法律责任的核心要素，是指行为人在实施某种侵害行为时，没有尽到特定标准的注意义务，从而造成他人损害时的一种应受非难的主观状态。过错是承担过错责任的必备前提。医疗人工智能侵权的过错责任适用情况是当医生在医疗过程中，出现过失，致使患者受到损害，而根据医疗损害责任承担的一种过错责任。

但以人的自由意志为理论基础的过错责任的适用，在医疗人工智能的快速发展下面临着巨大的挑战。首先，现在人工智能医疗检测疾病的准确率往往比医生高，当出现医疗人工智能的判断与医生判断不一致的情况下，医生可能选择准确率更高的人工智能，那么，这种情况下出现医疗损害就不符合医生的过失的条件。此外，有些完全自主操作的医疗人工智能在医生的监督下工作，其行为完全自主，医生监督情况下仍发生的医疗损害，更加不属于医疗损害中的过失了。如果不能认定医生存在过失行为，则医疗损害责任归责路径也就难以实现。但如果认定是医疗人工智能本身存在“过失”行为，直接适用产品责任，将侵权责任归责到设计者或者生产者，则显得不公平，容易打击医疗人工智能的发展前景。

三、医疗人工智能法律责任制度完善路径

（一）明确医疗人工智能的法律属性

首先要确定医疗人工智能的法律地位——医疗器械。从伦理性的角度出发，现阶段医疗人工智能还处于弱人工智能阶段，并不具备自主思维，不能对自己的行为负责，赋予医疗人工智能法律主体地位的条件还不成熟。而且在现阶段的医疗过程中，医疗人工智能主要起到辅助作用，在最终对患者的治疗方案也由医生决定。由此看来，人工智能在医疗活动中不能脱离人类，也不能做出独立诊断行为，所以人工智能产品在实践中不可能被视为拥有独立法律人格。

从工具性的角度出发，赋予医疗人工智能法律主体地位主要是为了解决现阶段医疗人工智能侵权责任分配不清的问题，赋予其“电子人”身份或者有限主体地位，并以此为主体承担对患者的赔偿责任。但其作为财产，如何赔偿患者也难以界定。如果医疗人工智能拥有一定的法律地位和财产后，其财产的管理权将产生巨大的争议。医疗人工智能是医院的财产，如果其也拥有财产，那么医疗人工智能所拥有的财产是否能归属到医院也是个问题。

（二）建立医疗人工智能注册登记并强制购买保险制度

鉴于医疗人工智能责任主体难以确定、因果关系不明、传统归责路径不完善的困境，为了保障患者得到应有的赔偿，并且在不打击医疗人工智能的发展前景下，可以借鉴欧盟的经验，建立人工智能注册登记的形式进行管理。并且为维护公平正义，在平衡各方面的利益情况下，建立强制保险制度，在医疗人工智能投入使用之前，由医院、生产者等相关主体共同出资，为医疗人工智能购买强制责任险。当发生医疗损害事故时，由保险公司进行赔偿，既可以公平分配各方责任，也能保障患者的合法权益。

（三）引入“黑匣子”技术解决技术黑箱问题

医疗人工智能算法的复杂性和不透明性，导致很难确定医疗人工智能在侵权过程中发挥了一个怎样的作用。为了应对“技术黑箱”问题，应该更加强调透明性原则，强调透明性原则能够有效抑制智能机器人发展的不确定性而给人类社会带来的极端风险。因此有必要考虑引进“黑匣子”技术，记录医疗人工智能执行的每一个活动的数据，学习的每一份数据，以及对其决策做出贡献的逻辑[6]。此外，对于先进的医疗人工智能还应配备内部录像系统，对于提供诊疗服务的全过程，以医疗机器人的视角予以录像，为后期的专家鉴定提供一手资料。

四、结语

医疗人工智能技术的发展是一柄剑双刃剑，一方面其给医疗领域实现精准化、个性化、高质量的诊断和治疗带来希望;另一方面，因其参与诊疗活动，给医疗损害责任的分配与承担提出了现实挑战。但技术的发展是不可避免的，将来医疗人工智能越来越深入的运用是发展的趋势，等医疗人工智能技术进入强人工智能时代时，法律也必须面对和解决智能机器人医生的法律行为和法律地位问题，并对其进行适时的修正和更新，保障患者的权益，分配各方责任。