“人-机”医疗模式下的伦理学问题及应对策略*

谭 璐，刘小红

(西安交通大学第一附属医院儿科，陕西 西安 710061，luluoxia@126.com)

20世纪70年代“人工智能”首次进入临床，之后经历了井喷式发展的过程，一直到今天被应用于医疗行业各个领域，如医学影像及病理学辅助诊断、手术机器人、药物挖掘、营养学、医院管理、健康管理、可穿戴设备、风险管理等。中国也在这场重大变革中抢抓机遇，加快发展。2017年7月20日，国务院在《新一代人工智能发展规划》中指出要在医疗领域“推广应用人工智能治疗新模式新手段”。迄今人工智能的应用已经渗透到医疗的各个方面，在带来更加优质、高效医疗服务的同时，也带来了一系列伦理风险和挑战。本文将从大数据时代未来医疗模式的转变、“医-患-机”三者关系的变化、数据安全方面探讨了人工智能医疗带来的伦理风险；并提出了可能的解决对策，从而让人工智能更好地为人类健康服务。

1 人工智能医疗应用中的伦理问题

1.1 大数据时代，人工智能对未来医学模式的影响

医学模式是指人类对医学问题和医学实践开展研究时需要遵循的实际原则和方式。为适应人类发展的需求，医学模式随时代而变迁。21世纪经历了巨大的科技变革，大数据、人工智能为医学的发展带来新活力，传统医疗模式不能满足社会进程发展的需求，而人工智能作为一种技术的创新，成为连接未来医学模式的桥梁，多元医疗模式共存局面由此产生[1]，包括个体化医疗模式、智能医疗体系、多学科合作医疗模式。

1.1.1 个体化医疗模式

个体化医疗模式强调“以人为本”的人性化科技，打破长久以来“千人一方，头痛医头，脚痛医脚”的医疗模式。利用人工智能先进的数据处理与分析技术，精准发现疾病病因与治疗靶点，并与患者的基因、生物学标志、表型相结合；同时综合社会环境、人生观、价值观等特征完成个体精准诊疗策略，提高疾病诊治和预防效率。

1.1.2 智能医疗体系建立

随着医疗人工智能技术的发展和相关配套政策的完善，智能医疗体系逐步建成。涉及医院业务管理系统；电子病历系统；临床应用系统，包括手术机器人，生物兼容的生理监测系统等；慢性病管理系统，包括可穿戴设备或家庭智能健康监测设备等；临床支持决策系统，包括智能影像识别，病理分型及智能诊疗助手等；公共健康卫生系统，加强群体智能健康管理等。在我国，人口老龄化、慢性病高速增长、专科医生缺乏，导致了供需严重失衡，加之地区医疗资源分布的不均衡性，导致大医院人满为患。智能医疗体系的建立可以改善现有的医疗现状，让医疗条件不发达地区的医疗水平无限趋近于医疗条件发达的地区，即“均质化医疗”，使患者对某一固定区域的实体性医疗机构的依赖程度大大降低，对虚拟的人工智能医疗系统依赖程度越来越高，在一定程度上可缓解“中国国情”的紧张的医患关系。

1.1.3 多学科合作医疗模式

人工智能医疗的应用涉及医学、计算机、伦理学、法学等不同学科的交叉，因此需要多学科共同合作以解决和论证不断涌现的实际问题。应注重培养复合型人才，鼓励高校、科研院所与企业开展合作。

1.2 “人-机”医疗模式下，如何定义和管理“医-患-机”关系

1.2.1 医生与人工智能医生孰优孰劣

医学曾经是传统和经验的领域。随着医学科学的发展，分析处理数据量的急剧增加，我们(作为人类)处理数据的能力已达极限。因此，我们越来越多地去寻求人工智能技术的帮助甚至是依靠。一时间“恐惧、不确定性和怀疑”之声四起——放射科医生将被解雇，机器人将取代临床医生，等。但现实却平淡无奇，就像以前的任何一场技术革命一样，临床界必须接受这一新浪潮，为医疗部门提供支持，为患者提供更好的结果。医生与人工智能医生可以和谐共存，这场科技的变革是积极的而不是消极的[2]。

人工智能作为一种新的临床方法，在数据处理方面人类无法比拟。可以通过建议可能的诊断，来辅助临床决策支持；可以帮助患者更好地了解自身的健康，并在自我管理方面发挥重要作用；可以用于医师培训和质量改进等。虽然人工智能在疾病诊断方面的表现与临床专家相当，但在控制性临床研究中，尚未被评估。人工智能具有潜力改善疾病的诊断和护理，但过早使用可能会导致医疗保健系统压力增加、患者承受过度的心理压力，并可能因误诊而死亡。数字医学领域的大多数研究都是在一维传感器、一种图像或完全基因组学上进行的，这是远远不够的。例如，2000年6月，当人类基因组草案首次公布时，仅仅拥有一张基因组图就不可能改变医学的未来[3]。相反，需要多模式数据来理解人类的独特性和个性化医学。这需要对解剖学、生理学、生物学、环境和人口统计学数据进行汇总，其中生物层包括DNA、RNA、蛋白质和微生物组、代谢组、免疫组和表观基因组。又如，糖尿病个体的连续血糖传感器可以提醒一个人血糖是否呈上升或下降趋势。但是，需要整合了人的身体活动、压力、睡眠、饮食摄入、肠道微生物群以及可能的其他相关数据链[4]。人工智能无法克服这些偏见，缺乏对数据集的解释性。训练有素的医学专家、研究人员和技术专家必须补充和分析基于人工智能的数据研究，以抵消任何偏见，并作出合理解释。

虽然某些医学研究区域可能更容易进行人工智能替换，但个体的社会环境或微妙的医疗环境，不能被“机器”所感知，医生在这众多关系中应始终保持权威立场，由医生-患者二人组决定要做什么，人工智能协助医患双方做出决定。总之，人工智能只是提供决策支持，而不是决策替换[2]。

1.2.2 传统医患关系受到挑战

医患关系是社会关系在医疗卫生领域的缩影。由于医学知识的高度专业性，医患之间存在明显的信息不对等，患者处于认知的“盲区”，从而使得医务人员在传统医患关系中占有绝对主导地位。而人工智能的加入冲击了医生的主导地位，使得医生和患者之间的主从关系变成了由医生、人工智能和患者组成的三角关系。人工智能医生与人类医生之间是主体-客体关系，还是主体-主体关系?人工智能的加入会不会使得原本紧张的医患关系进一步恶化？

毋庸置疑，“三角关系”的本质遵循患者“利益最大化原则”，医生在诊疗的过程中会做出双方利益的有效平衡。但人工智能医生除了做出科学的诊断，是不会去考虑任何个人利益问题的。且人工智能缺乏解释能力，并可能与医生的判断和患者自主权不适当地冲突。由此可见，医生的主体地位并未因“三角关系”的存在而变化。

人工智能辅助医疗将大大地提高医患之间的信任风险[5]，患者及其家属面对医生、人工智能医生及其诊断结果组成的多重主体，会产生更多决策困扰，患者主体性、知情同意等权利将面临更多的挑战。人工智能医生的参与使得本就紧张的医患关系更加错综复杂。此时，患者更需要的是专业医生作出解释、诊断及进行治疗。医患彼此间的相互信任显得至关重要，可导致更高的治疗依从性及更好的就医体验。通过重申信任对健康结果的重要性，可以加强医患关系，同时实现人工智能的好处。未来的临床互动将承认各方(人工智能、临床医生和患者)的优势。

1.3 人工智能医疗引发数据伦理问题

1.3.1 信息共享

人工智能深度学习算法需要大量的数据集进行训练，通常由数千或数百万张图像组成。这种规模的医疗数据集获得需大量资金的投入。因此，开发人工智能诊断工具的个人可能依赖任何可用的数据来产生初始结果。用于培训的数据集可能会被仔细整理，以去除不完整的数据样本。例如，Kanagasingam及其同事观察到，仅对高质量图像进行分析的系统在对低质量图像或受现实临床环境中存在的其他缺陷影响的图像进行分类时，可能会提供错误的诊断[6]。而Gulshan等报告用于筛查糖尿病视网膜病变的人工智能算法，其培训数据来自美国和印度的患者，仅对该人种的糖尿病视网膜病变和糖尿病黄斑水肿筛查有效，而不是所有人及所有可以检测到的眼部病变[7]。正是由于医疗信息“孤岛化”，“价值化”使得大规模医疗数据不能整合利用，单个存在的医疗数据只能作为一种基础资源，只有经人工智能二次开发的数据，才能产生数据背后潜在的巨大价值。为了促进科学数据的共享，国际组织、各国政府、科研资助机构等广泛开展科学数据的共享服务与实践。国际上先后成立了世界数据中心(WDC)和国际科技数据委员会(CODATA)。美国国家航空航天局(NASA)曾发布一整套数据共享政策。欧盟启动了“欧洲数据自由流动计划”“欧盟云倡议(European Cloud Initiative)”。而我国近年也联合多部门发起成立开放数据中心委员会(ODCc)。但在信息共享的同时要避免数据被无序开发及滥用，造成个人隐私权和数据权被侵犯。

人工智能的核心技术是数据与算法，需要海量的数据作为支撑，多样化的数据才能减少运算偏差，提高运算效率，因此，应鼓励跨医院、跨地区的数据交流，建立学术联盟组织，在众多医疗中心间分享统一格式标准的临床数据，同时应加强数据约束机制。大数据时代，“信息共享”势在必行。

1.3.2 隐私在大数据时代“死亡”

鱼与熊掌不可兼得，提倡“信息共享”的同时，人类必然要面对所带来的隐私权被侵犯问题。大数据具有巨大的社会价值，可诱惑某些别有用心者捕获个人的隐私信息，从而使得我们的身份、行为、健康状况、喜好等个人隐私信息有随时被暴露的风险。由此引发严重的隐私危机。在这个负隐私时代，人类遭到无所不在的窥探，“我知道你是谁，我知道你做过什么”[8]。

医疗数据涉及的患者身心健康状态、疾病用药史、甚至个体基因信息等，一旦泄露后果不堪设想，如保险公司根据搜集的信息有意提高参保人的保险费用，或者因某种疾病或基因缺陷而拒保；学校、用人单位在得到个体的健康管理资料后，是否会将其作为录取入学或聘用的重要参考依据？2016年，英国伦敦皇家自由医院在没有充分保护患者隐私和确保数据来源正当性的前提下，将约160万名患者的信息交给“深度思维”公司进行医学研究，被英国信息委员会勒令限期整改。2015年，一项利用苹果手机自带App软件来早期诊断儿童自闭症的国际多中心临床研究合作方案被北京大学生物医学伦理委员会拒绝，伦理委员会拒绝的一个重要原因就是受试者隐私保护的缺失和对数据可控性的担心。

2 人工智能医疗伦理风险的应对策略

人工智能伦理研究的最终目标是人工智能的发展应增进人类福祉，并与人类的道德价值相符合。在医学领域，从某种意义上讲就是要给人工智能一颗“良芯(良心)”，“行有德之事，做有德之机”，使患者利益最大化[9]。

2.1 “人-机”医疗模式下，道德主体的确立

2017年科大讯飞与清华大学联合研发的人工智能“智医助理”机器人在国家医学考试中心监管下参加了临床执业医师综合笔试测试，并以456分的成绩通过了临床执业医师考试。这无疑一颗炸弹，在医学界引发大量言论。是否应赋予“机器人医生”同等的权利与义务？要说明这个问题，我们必须确定谁才是这场“人-机”较量中的道德主体。

作为主体，需具备目的性、自觉性、能动性、选择性和超越性等特征。为满足生存发展的需要，主体则不断地去建设、去创造。并在这个过程中协调与自然、与社会的关系。对自身和社会则不断地进行认识、审视、判断、选择和更新。这便是道德主体的具体表现[10]。医学不单纯是一门科学技术，医生面对的是千差万别的有思想和情感诉求的人，患者不同的语气和表情可能蕴含着不同的含义。疾病的诊断和治疗亦是一个非常复杂的过程，需要不断思考、推理、实施与创新。人工智能不能因时、因地、因人、因情而区别对待，只能利用人类已有的知识，缺乏对未知事物的分析处理能力。可以说人类大脑“一直被模仿，从未被超越”。故在“人-机”医疗模式下，医生是唯一的道德主体。必须坚定医生为主导，人工智能为辅助，构建人机共同体，从而更好地服务患者。

2.2 完善责任承担制度

人无完人，更何况由人类编程的“人工智能”，随着其越来越多地参与到医疗活动中，程序中的“bug”会逐渐暴露出来，由此引发的事故责任该如何判定？它的设计者、制造者和使用者是否应当为它们的过失承担相应的责任？假设若干年后赋予人工智能一定的权利，那么人类是否会将某些道德责任推卸给人工智能，为人类行为免责？目前，我国尚未出台相关政策用于界定人工智能的法律地位、责任分担机制及监管对象。但基于人类作为“人-机”医疗模式下的道德主体，故当“人工智能”发生医疗事故时，按照谁设计谁负责、谁制造谁负责、谁使用谁负责的原则，追究相关的责任人。参照阿西莫夫著名的“机器人三法则”，设计制造者应编写相应的程序，为人工智能设定相应的道德标准。同时，多学科联动成立监管机构，评估人工智能的行为及决策，让其在与人类的互动中更加符合人类的道德准则，最终目的是一切有利于人类。

2.3 完善个人信息保护政策

加强个人信息保护，保护网络和隐私数据安全是发展人工智能的前提，也成为各国关注的热点话题之一。欧盟于2016年最先提出 《个人数据保护通用条例》，并于2018年5月生效。条例要求数据处理者对个人信息进行加密处理，不仅包括姓名、身份证号、住址、电话号码，甚至与个人的生理、心理、基因、文化等特征相关的信息。获取个人数据之前，需获得个人或监护人的知情同意。对所有数据的访问，都有一套严格的访问控制程序。一旦有违规操作，将面临严格的处罚机制。这为数据保护制定了新的全球标准。我国目前还未出台专门的隐私权保护法，仅是在其他法律条文中一笔带过，如《侵权责任法》将隐私权的保护归结成为对人格权的保护，当发生“对我国公民的隐私权造成侵害的，应当承担侵权责任。”2016年新颁布《网络安全法》虽然在个人信息保护方面提出了具体要求，但并未对隐私权保护提出具体要求。在人工智能高速发展时代，我国政府应借鉴国际已有条款，尽快就人工智能技术加强政府相关部门的监管力度，完善有关政策立法，保护个人数据隐私安全。

2.4 人工智能与医学人文互为表里

人文精神是以人为本，对人类的命运、幸福与痛苦，对人的存在、价值与尊严的强烈关怀与承担，以及对价值理想或终极理想的执着追求的总和。强调人性、理性和超越性。科学技术的发展作为人类社会的产物，始终服务于人类，而科学技术附着的价值属性也与人类社会息息相关。人工智能作为一门新兴科学，终极指向是人的存在与发展，故其的价值尺度必为人文精神。人的优势在于对情感和具体情境的考虑以及解决复杂问题，但是在记忆、分析、处理大量数据上有缺陷。人工智能技术能够很好地弥补不足、提升效率，而具备医学人文素养的医生能够使冰冷的医疗技术具有人文精神和热度[10]。找准人工智能与医学人文之间的契合点，沟通和弥合两者间的裂痕，才能使高端科学技术真正回归和服务于人类。人工智能和医学人文的结合顺应时代要求，也是科学与人文的互动、互补和共融关系的呈现，只有人文和伦理的回归才是医疗生命主题的魂魄、精神与落脚点[11]。

“有时，去治愈；常常，去帮助；总是，去安慰”。一百年后，当我们再回首，不要因为“我们走得太快，走得太远，以至于忘记了为什么而出发”！未来是人-机互动的时代，人工智能把医学推动到前所未有的高峰，医生转型为知识的管理者，有更多的时间与患者沟通并提供关怀，为患者提供决策咨询，或帮患者决策。这一过程看似简单，实则不然。大量的医学伦理和法律问题随之不断涌现。但问题终结为一点，即以“患者利益”为基本出发点，这样才能成功开启破冰之旅，切实推动中国医疗大数据的发展。