医疗人工智能的法律思考

于 强，赵 飞

(昆明医科大学，云南 昆明 650500)

现阶段人工智能在医疗领域的发展与应用还处在初级阶段，在畅想未来精准、高效的基于人工智能技术的医疗服务时，也应深刻地思考医疗人工智能所面临的技术、隐私和法律问题[1]。人工智能在医疗健康领域的应用主要包括虚拟助理、病历与文献分析、医疗影像、辅助诊断、诊疗结果预测、药物研发、健康管理、疾病预测等方面。医疗人工智能应用前景广阔，不仅会带来技术方面的重大革命，也存在法律关系、道德伦理、社会治理等方面的新问题和新挑战。正如习近平总书记指出的“要整合多学科力量，加强人工智能相关法律、伦理、社会问题研究，建立健全保障人工智能健康发展的法律法规、制度体系、伦理道德”[2]。因此，必须未雨绸缪，做好科学理论和认识方法论上的准备和应对。本文将从法律的角度，分析和探讨医疗人工智能的法律地位，以及医疗人工智能应用中的隐私权保护和相关法律责任问题。

1 医疗人工智能的定位

2016 年，欧盟委员会的法律事务委员提交了一项动议，建议将最先进的人工智能机器人的身份定位为‘电子人’，由此引发了经久不息的争论，至今尚未停息[3]。对医疗人工智能法律地位的界定非常重要，只有找到科学的认知方法论，从理论上厘清这个问题，才能解释和应对随着医疗人工智能的发展和运用，必然出现的各种复杂、具体的问题，包括高级医疗人工智能中的机器人能否独立对其医疗行为承担责任，发生医患纠纷或侵权行为时追责主体和责任主体如何认定，医生、患者和医疗人工智能之间的关系是什么等。

从法律领域讲，医疗行为属民事法律关系调整范畴，民事法律关系中的主体包括自然人和法人。赋予人工智能以法律主体资格，有诸多难以逾越的障碍。如果在传统法律主体观念下，机器人首先需要具有自我意识才能成为法律主体。但证明机器人具有自我意识而不受人类控制，极具挑战[4]。法学学科属社会科学领域，人是目的、而不是工具，这是法哲学的一个基本命题。民法理论中对自然人界定的理论基础和基本逻辑是超出了自然科学领域生物学范畴的，其中的关键在于尊重人的自我意识、主观能动性、社会性和人格。因此，考察医疗人工智能尤其是高级人工智能中的机器人是否具有民事法律关系中的法律主体地位，关键也在于考察其自我意识、主观能动性、社会性和人格权。之所以要讨论这个问题，出发点在于医疗高级人工智能中的机器人似乎已经超出了传统医疗辅助设备、工具的范畴，其基于人工的智能创造而具备了“智慧”。但事实上，医疗人工智能本质是基于计算机运算、大数据以及移动互联网技术的综合运用，完成系统、复杂的计算和集成，并据此作出在速度上远超医生这个自然人的判断和决策。从这个基本原理出发，医疗人工智能并非真正的自我意识基础上的主观能动性创造和“智慧”形成。缺乏了这点，医疗人工智能也就不可能存在医生与患者相互的思想和行为中的社会关系。总之，医疗人工智能无论发展到哪一步，无论多么“高明”，都属于人类创造的自然物，永远不能超出人类所创造的工具这一本质属性。因此，医疗人工智能无法归入民事法律关系中的自然人主体范畴。当然，有学者认为，如同最初法人获得法律主体地位一样，现行法律同样不需要局限于现有民事主体分类，完全可以新创设一个特殊的人工智能法律主体”[5]。笔者认为，这种设想和设计其实已经超出了本文基于人格权对法律关系主体的探讨范围，如果从功利主义出发，要赋予人工智能一个法律关系的适格主体资格，则另当别论。因此，文中涉及的医疗人工智能是法律关系中的客体，也就是医生或者患者权利义务所指向的对象，可以具体表现为一种物化的工具、非物质财富即智力成果和行为结果三类。

2 隐私的有效保护

隐私权是一项重要和基本的人权。基本要义包括自然人的私人信息秘密依法受到保护，不被他人非法侵扰、知悉、收集、利用和公开。医生对患者隐私权的保护有法律上的明确规制，包括医师在执业活动中履行保护患者隐私的义务；尊重患者的知情同意权和隐私权，为患者保守医疗秘密和健康隐私；泄露患者隐私，造成严重后果的，须承担相应的行政责任或刑事责任。

医疗人工智能的“智慧”来源于生理、病理、病例、药理等方面信息的集成，从某种程度上讲，这些健康医疗大数据量的积累决定了医疗人工智能“智慧”程度的高低，而这些健康医疗大数据又来源于具体的患者，属患者的私人信息秘密。但目前的基本现实是，人们的隐私数据在信息时代被记录得越来越多，被侵扰、收集和利用也越演越烈。医疗人工智能中对健康医疗大数据的收集、集成和运用，面临着科技进步与信息安全、隐私保护之间的突出矛盾。无论是健康医疗大数据生厂商或医疗人工智能制造商，数据信息从何而来？如果没有法律上的明确授权，或是基于医学研究或健康促进为目的的隐私侵权的责任排除，这将是一个无法回避也无法解释的法律问题。

2017年6月1日起施行的《中华人民共和国网络安全法》，对隐私保护以及信息和数据收集、使用等作出了相关规定：明确任何个人和组织不得利用网络侵害他人名誉、隐私、知识产权和其他合法权益；网络产品、服务具有收集用户信息功能的，其提供者应当向用户明示并取得同意；任何个人和组织不得从事窃取网络数据等活动；任何个人和组织不得窃取或者以其他非法方式获取个人信息，不得非法出售或者非法向他人提供个人信息；网络运营者应当对其收集的用户信息严格保密，并建立健全用户信息保护制度；网络运营者收集、使用个人信息，应当遵循合法、正当、必要的原则，公开收集、使用规则，明示收集、使用信息的目的、方式和范围，并经被收集者同意等。

总体而言，目前我国对隐私权保护方面的规定散见在不同的法律规定中，且多为一些原则性的、排除性的规定，在侵权发生后的救济过程中具有操作性的规定不足。同时个人作为侵权控方主体，在取证、举证环节明显处于弱势，救济很难达成。因此，建立和完善隐私保护方面的立法非常迫切，应明确医疗人工智能发展和技术开发的根本目的，信息采集与隐私保护的平衡关系，授权与信赖保护的关系，信息采集和集成的主体、来源以及责权利，信息采集、集成和使用的界限，相关法律责任及救济程序等。

3 法律责任的相关问题

医疗人工智能的运用中，必然存在相关责任的明确和追责问题。比如暂且排除医疗人工智能存在的“主观上”过错不谈，而由于医疗人工智能数据分析和应用的失误或错误，导致辅助诊疗的失误或错误从而造成医患纠纷，追责主体是医生还是患者。责任主体是作为医疗人工智能直接使用的医生，还是作为医疗人工智能所有者的医院，或是作为医疗人工智能开发者的生厂商，抑或是作为医疗人工智能提供者的经营者，或者是多种责任主体的共同责任或连带责任？有学者认为，可以考虑为人工智能设立类似公司注册资本的基金，施行强制保险制度，在两个维度上设立人工智能的责任承担制度[6]。总之，追责的问题需要得到明确的法律解释和法律明确。另一种情况是，如果医生和医疗人工智能在诊疗过程中，在人机对话、交流甚至是“会诊”中存在诊疗的意见分歧，一旦最终的事实是医疗人工智能的“智慧”超越了医生的“智慧”，是正确的诊疗结论或方案而医生未予采用从而导致误诊误治造成医患纠纷，医疗人工智能是否能够作为控方患者的证据提供者指证医生的诊疗过错呢？更深层次的问题是，如若这种情况发生，可能导致医生威信、声誉的影响，甚至患者或社会可能对医生高智力劳动价值的可信度和认可度大打折扣。还有一种情况，高级医疗人工智能有“情绪”和“情感”的感性认知，甚至有“思考”和“判断”的理性思维。如若患者和医疗人工智能在诊疗过程中，在人机对话、交流、沟通中，由于患者的言语、行为刺激和侵犯，“惹怒”了医疗人工智能，从而引起医疗人工智能防卫、反击、攻击导致侵害的责任追究，也是必须预见和思考的问题。

因此，在将来的相关法律中，应该建立一个完整的医疗人工智能法律责任体系，在明确相关法律关系主体享有的权利、承担的义务的同时，具体明确追责主体、责任主体、归责原则、责任情形和法律责任等。

4 结语

习近平总书记在中共中央政治局第九次集体学习时强调指出，“要加强人工智能同保障和改善民生的结合，抓住民生领域的突出矛盾和难点，加强人工智能在教育、医疗卫生、体育、住房、交通、助残养老、家政服务等领域的深度应用”[7]。人工智能已被广泛应用在各行各业，医疗健康领域更是重要应用场景之一。据有关方面预测，到 2025 年医疗行业将占世界人工智能市场规模的 1/5。正如有专家指出，“人工智能将给未来医疗技术带来深刻的变化，是未来医学创新和改革的强大动力”[8]。医疗人工智能应用，必将助推医疗健康产业发展和卫生健康事业发展，尤其能有效解决优质医疗健康资源配置共享、卫生健康大数据运用、提高预测和诊疗的精准度，释放医生高智力劳动压力，提高医用数据精准度和计算效率等问题。

同时，技术革新带来的社会问题是无法回避的。人工智能时代已经来临，它不仅改变人类世界，也会深刻改变人类的法律制度[10]。人工智能的发展将对法律形成巨大冲击，这不仅体现在其对律师行业未来就业率所产生的压力上，还体现在其对民法、刑法、侵权法、知识产权法等法律条文和判例体系的深远影响[9]。自然科学与社会科学和人文科学从来都不是背道而驰，科技发展和社会进步的终极目标都在于服务人类这个最高的价值主体。法治要提供制度环境安排，这一安排的质量将直接决定新兴科技等的发育状况[7]。法律作为社会控制的最有效手段、社会稳定的最重要调节器和定纷止争的评判规则，应有效预见和应对医疗人工智能时代的新挑战和新问题。据有关报道，全国人大常委会已将数字安全法、个人信息保护法和修改科学技术进步法等人工智能方面立法列入规划抓紧推进。法律理论、实践和制度上的进步，必将为医疗人工智能促进人类生命健康发挥重要作用。