医疗人工智能的伦理困境与治理探析

（苏州科技大学 马克思主义学院 江苏 苏州 215009）

引言

2020年春节前夕，新型冠状病毒感染的肺炎疫情在湖北武汉地区爆发，随后打响全国战“疫”。自这场威胁人类生存的传染病在全国及世界范围内蔓延以来，许多国家对此高度重视，疫情已经被世界卫生组织认定为一场国际关注的突发公共卫生事件。就在今年1月21日，英国《卫报》报道了医疗机器人治疗美国首例新型肺炎病患的新闻，为了防止病毒的传播，这名患者将由人工智能医生进行治疗。这一消息再次引发人们对人工智能在医疗卫生领域应用方面的深思。医疗人工智能可以给出专业的参考意见、增强用药规范性、促进人类医生的学习，甚至可以增进医患关系的和谐，对人类医生也起到一定的帮助和辅助作用。那么，人工智能是否可以替代人类医生呢？沃森医生会不会出错？如何定义机器人医生的主体地位？这些是医学界必须关注和亟需解决的问题。

1.医疗人工智能存在的伦理困境

英国最近的一项调查报告称，63%的成年人对允许个人数据用于改善医疗保健状况感到不安，也不利于人工智能系统取代医生和护士从事他们通常从事的工作［1］。本项调查反映了人们对于AI在医疗领域存在的一些担忧和伦理考虑，沃森医生能否代替人类医生、是否应该给予医疗机器人主体地位、人工智能医疗能否解决医患矛盾、增进医患关系的和谐，这都是医疗人工智能目前所面临的现实困境。不得不承认，医疗人工智能的飞速发展的确带来了一系列潜在的伦理和社会挑战，如医疗共情和人机互动、个人数据和隐私保护、主体资格和责任认定等。

1.1 医疗共情与人机互动。机器会像人类一样拥有意识吗？至少当前的技术仍未做到，不过人工智能在模拟人类认知功能上在不断发展，流行的人工智能技术包括结构化数据的机器学习方法，如经典的支持向量机和神经网络，现代的深度学习，以及非结构化数据的自然语言处理［2］。沃森医生可以给病人看病，但必须接受精确的数据输入才能诊断，何况有些症状病人无法用医学术语对此描述，也会因为恐惧拒绝将真实的病情告知给医疗机器人，而相反一个资历丰富的医生却能读出病人神态中隐藏的有关信息。人机互动效果不佳的原因是人工智能缺乏人文关怀，在临床表现中尤为明显，可见医疗共情尤为重要。信任是病患关系的桥梁，医护人员在与患者进行有效的临床共情沟通后，得到病人的信任自然能够做出准确诊断、提供治疗方案。根据病人的需求和对其病情的判断，医生相应地进行一定的安抚和心理疏导，此时医患关系更加和谐，病人不用再面对一台冷冰冰的“机器人”，更配合治疗过程。尽管医疗AI拥有类人的移情关怀的外观，诊疗和用药指导方面给人类医生提供专业的参考意见，可仍面临着人机互动和医疗共情不佳的困境。

1.2 个人数据与隐私保护。随着物联网的发展，我们俨然成为了全球互联世界中的“透明人”，如何理解隐私和保护隐私，成为一个迫切需要重新概念化的伦理问题、法律问题和社会问题，加以重视［3］。人工智能基于医疗大数据的处理，包括患者的年龄、姓名、住址、婚姻状况等个人信息，还包括遗传史、各项体检指标、过往病史、身体状况以及诊疗数据等其他信息，这牵扯到个人数据与隐私泄露的风险。医院的网络服务器一旦遭致网络病毒或黑客侵害，保存于云端或存储器的含有病人隐私的信息就会被不法分子获取，病人的隐私权得不到有效的保障。医疗人工智能的隐私保护存在的伦理困境主要有：采集医疗数据时是否得到患者的知情同意？谁有权利获得患者的诊疗数据和健康信息？谁来承担隐私泄露的风险和责任？2015年，一份由北大研究者提交的名为“关注自闭症”的国际多中心临床研究合作方案被北大生物医学伦理委员会拒绝［4］，委员会考量的一个现实原因正是该方案实验参与者隐私保护的缺失，以及数据具有不可控性。

1.3 主体资格与责任认定。人工智能医生可以代替人类医生的主体地位吗？如何处理由医疗AI所引发的医疗事故？是否应该赋予医疗机器人和人类一样的“权利和义务”呢？这些问题迫使我们思考人工智能技术带来的伦理法律困境，迫使我们重新审视科技和人类社会之间的关系，以便人工智能更好地服务人类。2016年5月，欧盟法律事务委员会已立法将智能机器定位为“电子人”，并赋予其“特定的权利和义务”，这在法律层面将颠覆我们对人工智能的认知。今年美国首例新冠肺炎患者是由医疗机器人治疗，其装备有摄像头、麦克风和听诊器，这是人工智能参与辅助诊疗的最新案例。当前技术还不成熟，人工智能并未做到全程无需医生参与的独立诊断，未来机器人有可能会发展成一名类似于医生的“自然人”，拥有独立的判断能力，在法律主体资格上极具挑战。那么手术机器人在诊疗中发生医疗事故，谁来承担相应的责任？Brent Mittelstadt在他的文章《AI Ethics-Too Principled to Fail？》中提到“原则主义”是从医学中产生的一种理论道德框架，其基础是从业者、研究伦理委员会的经验，以及医疗机构在逐案处理道德问题时的经验［5］。以原则主义的观点剖析，实施手术的主角是机器人医生，可主体责任归咎于拥有从业经验的人类医生，也就是法律责任层面还是医生占据主导地位。若机器人因为设计缺陷和机器故障发生伤人事件，或其做出违背设计者意图的行为，怎么认定该行为？这涉及到机器人的程序员、设计者以及生产厂商的相关责任，主体资格与责任认定不清晰和各方的“权利和义务”不明确，是医疗AI目前的伦理和法律困境。

2.医疗人工智能发展的治理对策

AI在医疗领域的快速发展为人类健康保障提供了支撑，虽然医疗AI应用中存在一些伦理困境，但只要对这些伦理困境提出相应的治理对策，就能让医疗AI更好地造福人类。

2.1 以人为主的“人-机”医疗模式。如今智能机器人能够通过图像识别、大数据等技术帮助人类医生进行临床指导，除此之外，机器人的心智开发已然成为科学家们研究的焦点。AI倡导者认为机器也能拥有类人脑，人们创造出优于人类的、独立自主的、具有与自然人一样人性构建的智能体并非假想。因此，若把这样的观点纳入医疗行业来思考，在实践中医疗AI很有可能根据一套机器伦理来实现医疗共情与人机互动，前提是智能机器人在开始行动前首先需要遵循一定的伦理原则。最近，有一个过程“装备”认知结构与机器学习的最新进展，可这根本不能模拟任何心理过程［6］。因此，笔者反对机器的心智可被开发和复制这一说法，尽管DeepMind研究人员提出了一种具备理解自己以及周围智能体心理状态能力的新型神经网络ToMnet，可这无法证明人工智能已完全掌握人类的“心智”。AI虽有感知和思维（智能系统），但无情感系统（感受和动机）以及意志系统（意志和行动）的引导，就不能发挥其应有的能力，比如自愿做出照顾病患的决定和行为。而在以人为主的“人-机”医疗模式下，一方面能发挥AI的辅助作用，另一方面有利于护理工作中的人文关怀和相互信任，以人为主的“人-机”医疗模式的构建显然可以促进患者的健康和福祉。

2.2 患者隐私保护法律的制定与完善。首先，通过一系列法律法规的制定可以规避病人隐私的泄露，使人工智能系统的安全性、保密性更高，从而保障患者的隐私权。我国涉及病人隐私权的法律有《职业医师法》、《母婴保护法》等，但这些法律转化为实践的行之有效的方法仍很困难，原因在于它不是系统完善的专门法，所以在对病人隐私权保护法律的制定与完善上可借鉴欧美国家的立法经验，例如在1996年美国国会通过的法案，《健康保险转移与责任法案》中提到泄露患者姓名也将触犯法律。另外部分欧美国家有专门对医疗数据进行必要监管的法律条例，若分析和管理数据时有牵扯到关键的个人隐私信息，通过马赛克的方式予以保护。其次，政府应加强病人的隐私保护，并利用互联网融合医疗的模式来推进患者隐私保护新技术的开发和运用。数据加密也是一项防止隐私泄露的技术，对此进行推广可保证数据的安全，同时再设定一套严格的访问程序以防止他人窃取。最后，网络保险的购买用于减少隐私泄露的风险也是一项防范措施，能将损失降到最低。

2.3 建立责任伦理规范与AI监管机构。在医疗人工智能发展的治理中，如何确定各个利益方的相关责任，是需要迫切解决的问题。首先，出于安全性、可控性、可靠性和问责制的考虑，可以认为在不同的应用领域实现智能系统部署的透明责任分工符合民主社会的利益，因此这些制度应按照立法权制定的道德和法律规范行事，并允许追溯，以便于司法权分配责任。那么该如何追究相关责任人呢？按照谁设计谁负责、谁使用谁负责的原则，建立合适的责任伦理规范，例如我国《侵权责任法》中规定，一旦因医疗设备和医疗产品的缺陷所引发的医疗事故，生产者和医疗机构必须承担连带赔偿责任。其次，成立专门的由医学专家、计算机专家、伦理学学者等构成的医疗AI监管机构，负责对人工智能的安全性、伦理性进行一定的评估报告，以减少医疗事故的发生率。最后，建议采用一定的技术手段为人工智能设定人类的道德标准，执行医疗机器人的登记制度，医疗AI监管机构监督医疗机器的生产和应用，这些治理方法都可降低医疗风险，消除人们的顾虑和担忧。

3.结论

科技与伦理就如同天平的两端，科技的发展会给价值观与伦理道德带来巨大的冲击，如何平衡两者之间的关系是我们当前亟待解决的问题。医疗人工智能的发展势如破竹，正向新台阶迈进，在医疗AI为我们提供优质、高效医疗服务的同时，必将带来新一轮的伦理困境。针对医疗人工智能的伦理问题，医学界应准确把握当前形势，重新调整当下思路，化危机为契机、化被动为主动，将前瞻性研究与回顾性分析两者相结合，合理评估医疗人工智能带来的利弊，并根据临床实践制定出相应的有效对策，以此达到医疗与科技的融合与创新，进而推动人类医学的进步与发展。目前世界各国均建立起相对完善的科技治理体系和伦理研究框架，我国也在积极应对风险、推进人工智能与人类的和谐共存，让人工智能技术朝着积极的方向发展。