数字化医疗的法律挑战与治理策略

汪青松 罗 娜

作为解决日益扩大的医疗供需差距的有效方案，数字技术在医疗领域的应用正方兴未艾，受到越来越大的重视，数字化医疗（digital health）由此崛起。数字化医疗在改善诊断和治疗、增强医疗保健和促进人群健康方面具有巨大潜力。特别是新冠肺炎疫情全球大暴发以来，防治工作的许多环节都依赖于大数据和人工智能算法来预防、诊断、治疗，以及监测病毒的来源与传播。毋庸置疑，数字化医疗正在变革传统的医疗保健模式，并为医疗生态系统中的所有参与者创造新的机会和空间。与此同时，也必须正视的是，数字技术在医疗设备和医疗服务中的应用仍必须面对诸多的技术、伦理和法律问题。技术问题或可留给技术本身去解决，伦理与法律问题则需要结合一般的社会伦理原则、妥当的法律制度设计、多元的监管框架以及有效的治理结构来破解。鉴于数字化医疗在微观层面的发展涉及方方面面，难以逐一触及，故本研究将立足于宏观视角从医疗信息的载体、医疗卫生的实施、医疗服务的供给三个角度概括医疗数字化发展的总体变革，并分析由此带来的主要法律挑战，随后对欧盟以及部分国际组织为应对这些挑战而采取的立法举措进行简要评析，在此基础上提出进一步完善数字化医疗治理机制的相应建议。

一、数字化医疗的发展前景与积极意义

从支持医生每天做出临床决定的移动医疗应用程序和软件，到人工智能（artificial intelligence，AI）和机器学习（machine learning，ML），信息技术正在推动医疗领域开启新一轮数字化革命。基于大数据和算法的人工智能旨在通过规划、制定战略和做出高级决策来模拟人类智能，被视为“新一轮工业革命”的基础。[1]数字技术非常适合帮助我们应对新的挑战，将为未来医疗服务的提供和体验提供强大动力，推动医疗服务迈入数字化时代。数字化医疗可以理解为数字技术与健康、医疗保健、生活和社会的融合，以提高医疗服务的效率，并使诊疗更加个性化和有效。全球著名的企业增长咨询公司弗若斯特沙利文（Frost &Sullivan）将数字化医疗定义为“利用计算和电信技术，将数据应用于医疗服务供给，以支持业务流程工作流、临床工作流和患者数据管理”[2]。我国有学者认为数字化医疗是一个系统概念，是以大数据资源数据库为共享平台，实现医疗产业链条资源合理科学配置，在充分应用大数据平台、移动互联设备、云计算算法、区块链等加密技术的基础上，对医患客户的医疗情况实行实时监测、分析、治疗、管理，为市民建立可视化的数字医疗档案，并通过数字信息化医疗资源共享平台，将医疗设备、医药研发、生物科技技术进行整合运筹，实现研发机构、医疗设备制造商、医疗机构等的实时共享和有效互动。[3]数字化医疗涉及广泛，医疗领域许多新技术的发展与应用都属于这一定义的范围，包括移动医疗、医疗信息技术、可穿戴设备、远程医疗和远程护理以及个性化医疗等，但其主要呈现在三个方面：医疗过程自动化、患者参与和移动性。数字化医疗的目标是在提高效率和控制成本的同时实现更好的患者疗效，并为此提供了无限广阔的机会。

数字化医疗使个性化医疗和精准医疗得以出现。个性化医疗可以定义为基于对个人需求、期望、偏好、约束和行为的了解，为个人量身定制医疗服务内容的能力。个性化医疗的新范式建立在数据访问、数据分析和计算之上。数据驱动的个性化预防保健和治疗需要分析具有基因图谱和疾病状态的大型健康数据集，以及医学成像数据，以便开发机器学习算法。对于许多患者来说，与疾病相关的患者特征可能有数百万个，数字化方法可以在大规模的数据集之中开展高效准确的检测。机器学习方法有可能增加对疾病相关因素的理解，并有助于从其特征预测疾病风险。机器学习还可以促进健康数据挖掘和建模，以改进医疗决策。相关方法可以分析、建模和预测每个个体的疾病进展和治疗可能。物联网、计算平台、数据共享和生物学之间的融合加强了这一点。除此之外，第五代移动通信技术还将增强远程数字医疗服务的接入，新冠肺炎疫情期间这种远程服务的重要性已经显而易见。

从患者角度看，数字化技术可以让患者或消费者对自己的健康做出更明智的决定，有更多的控制；从医疗机构角度看，数字化医疗工具有可能提高医疗机构准确诊断和治疗疾病的能力，为医疗机构提供了对患者健康更全面的看法，增强为个人提供医疗服务的能力。包括机器学习在内的医疗算法的使用和发展，有助于发现更好的治疗方法，并在与癌症和其他疾病的斗争中提供有希望的前景，为促进预防和早期诊断以及在传统护理环境之外管理慢性病提供新的选择；从社会整体角度看，扩大医疗服务数字化的举措将有助于国家机构提供一个有弹性、有效和以人为中心的卫生系统，也有助于为经济发展注入新的增长潜力。人们对数字化医疗的监管和市场准入的期望很高，因为全球有超过10亿人无法获得所需的医疗服务，这些服务要么不能触及、无法获得、负担不起，要么质量很差。[4]数字化医疗对经济发展的助推作用也值得期待。据弗若斯特沙利文公司报告，到2023年，全球数字化医疗市场的估值预计将超过2340亿美元，高于2019年的估值1470亿美元。

二、医疗数字化发展引发的宏观变革

数字技术正在对医疗设备与医疗服务系统进行全方位重塑，它可以收集、储存和分析海量的医学和遗传数据，了解人类状况，识别疾病模式，做出高度准确的诊断，并大规模提供精确的卫生干预措施。数字技术也为非传统意义上的医疗机构，如信息技术企业、互联网平台等介入医疗服务领域提供了便利。医疗数字化发展的微观现实样态丰富多彩，列举起来难免挂一漏万，因此，本部分仅从医疗信息的载体、医疗卫生的实施、医疗服务的供给三个角度概括医疗数字化发展的总体变革。

（一）医疗信息载体的变革：医疗记录电子化及其共享

公民的数字化医疗和健康记录存储在医院或诊所的个人健康记录（PHR）和电子健康记录（EHR）中。近年来，电子健康记录在全球范围内提供的数据量大幅增加。收集的健康数据越多，从中可以挖掘的东西就越多，在对这些数据进行大数据分析的基础上可以做出更好的决策。如果医生能够获得患者完整的既往医疗健康记录，就更有可能据此提高医疗护理的质量。因此，为实现这一目标，必须提供一项方便用户的服务，使公民个人的健康和医疗记录能够实现共享。易言之，必须使得电子健康记录的数据具有标准化、开放性和可操作性。[5]

欧盟地平线2020项目（HORIZON 2020）中有一个健康数据互通促进项目（InteropEHRate），旨在通过提供模型和方法，使电子健康记录中的健康数据具有可互操作性，在需要时提供健康数据，并可供医学研究机构使用，从而支持健康事业发展。为了实现这一点，该项目将开发开放式交换协议，支持患者、医疗参与者和研究人员之间以患者为中心的健康记录交换。以患者为中心体现在患者完全控制自己的数据及其路径。关键健康数据管理在“患者手中”，即通过移动设备上的智能总端（S-EHR）进行管理。数据总是通过高度安全的通道传输，包括直接的设备到设备（D2D）通信。该项目将增加一种分散的、患者驱动的自下而上的方法，作为通过国家电子健康联络点（NCPeH）进行独家患者数据交换的自上而下方法的替代方法。可以预见的是，该项目将为开放的欧洲电子健康记录交换格式和流程铺平道路。

中华人民共和国国家卫生健康委员会也积极推进全民健康信息平台等基础设施建设，支持医疗数据共享，先后印发《省统筹区域人口健康信息平台功能指引》（国卫办规划函〔2016〕1036号）、《医院信息平台应用功能指引》（国卫办规划函〔2016〕1110号）、《关于加强全民健康信息标准化体系建设的意见》（国卫办规划发〔2020〕14号）等一系列文件，制定医院和基层医疗卫生机构信息化建设标准与规范。2021年11月9日，国家卫生健康委在对十三届全国人大四次会议第10294号建议进行答复时称，正在研究建立全国统一的电子健康档案、电子病历、药品器械、公共卫生、医疗服务、医保等信息标准体系，并逐步实现互联互通、信息共享和业务协同。

（二）医疗卫生实施的变革：精准公共卫生

数字技术设备和系统有潜力改善公共卫生政策，可以实现对诸如新冠肺炎疫情或流感大暴发进行国家层面的实时监测。因此，在突发公共卫生事件防控中，数字技术可以帮助公共卫生监管机构实现病毒传播的地理可视化，并实现对待检测群体的“精准筛查”。[6]此外，数字技术使科学家能够更好地识别与所关注疾病相关的基因变体，了解感染及其传播方式以及病毒突变。[7]从人口层面上看，更细粒度的数据和新技术推动了时下所谓的“精准公共卫生”（precision public health，PPH）的发展，为政府和私营公司提供了更有效干预的新机制。“精准公共卫生”与数字技术的发展密切相关，因为它利用数据和预测分析来识别健康风险，更快地检测疾病，并为达到适当目标受众的亚群体设计干预措施。[8]“精准公共卫生”还提供了一种有吸引力的可能性，即以更低的成本进行更有效的预防和个性化干预，并为低收入环境中缺乏保险或无法获得设施医疗的个人提供更好的医疗保健。[9]中国在抗击新冠肺炎疫情时，借助于疫情监测报告系统、哨点监测与多点触发机制、面向个人的手机端应用程序等，在很大程度上实现了公共卫生应急的精准防控与一体化管理。[10]

（三）医疗服务供给的变革：供给主体的多元化

新冠肺炎疫情全球大流行暴露了传统的面对面医疗模式的局限性。数据驱动系统在很大程度上填补了封锁期间的空白，极大地改善了人力资源分配，避免了医院不必要的额外费用，并提供了新的远程服务选项。数字技术在医疗保健中的应用正在改变甚至颠覆研究人员开发、医疗专业人员实践和患者体验的医疗方式。这种颠覆的一个突出表现是利用基于算法的人工智能系统的新医疗“应用”的出现。这类应用程序通常是由商业公司开发，而不是由数字医疗领域的医疗专家开发的。随着这类应用和人工智能可穿戴设备的使用成为主流，拥有数字技术而非医疗专业知识的“超级平台”进入医疗行业，传统的医疗服务提供方式进一步被颠覆，如平安保险旗下的“平安好医生”，京东旗下的“京东健康”，阿里巴巴旗下的“医鹿”，互动峰科技旗下的“好大夫在线”等。此外，包括脸谱之类的社交媒体公司也开始介入医疗健康领域。①

另外，看似单一的数字化医疗应用实际上有多个主体参与合作。例如，云服务提供商、电信公司、密码学研究实验室、隐私增强技术与医疗专业人士和区块链公司合作[11]，不仅在医疗保健领域提供数字基础设施，还提供金融和保险服务。有些设备是为诊所和医院提供远程医疗服务（远程放射、远程咨询、远程护理和远程手术），有些设备是直接为最终用户设计的。例如，用于外科手术的微型机器人，可以减少药物的副作用，避免不必要的干预。[12]平台公司为患者提供在线预约服务，可以满足他们的特定需求，还可以提供与服务质量相关的评分系统，帮助患者做出明智的决定。智能手机供应商可以方便地访问移动健康应用程序，通过对患者行为的实时监控来帮助开展量身定制的治疗。除了数字化临床医生，在线药店和在线实体药店也正在成为数据驱动的预防系统的一部分。

三、医疗数字化发展带来的法律挑战

数字技术日渐广泛的发展与应用带来极其复杂的机会与风险，由此也面临一些重大挑战，主要包括安全性、准确性和透明度以及伦理问题，涉及法律、道德、技术和治理等诸多层面。医疗领域的数字化发展自然也不例外，其所带来的法律挑战和问题需要在数字技术广泛应用之前就得到认识和重视，才能在妥善解决的基础上确保技术应用对人们的生活产生有意义的影响。

（一）设备与网络安全问题

数字化的医疗设备与医疗网络关乎人的生命健康，可靠性和安全性是至关重要的问题，但是在开发的早期阶段，对可能出现问题的认识还远远不够。[13]世界经济论坛《全球风险报告2021》指出，“网络安全失败”是世界面临的第四大危险，位列传染病、民生危机和极端天气事件之后。[14]虽然数字医疗技术和医疗机构日益网络化和智能化，但往往缺乏有效保护，因此特别容易受到网络攻击、网络破坏、网络恐怖主义等网络犯罪活动的影响，导致数据滥用和患者伤害。新冠肺炎疫情暴发以来，这种攻击的危险性进一步凸显。全球许多地方的医院都成为勒索软件攻击的受害者，它们的网络被封锁，危及患者的生命，直到它们同意向攻击者支付赎金。例如，法国国家网络安全局报告说，在新冠肺炎疫情大流行的2020年度，法国有27所医院遭受网络攻击，比2019年增加了4次。自2021年起大约每周有1所医院被袭击。[15]

医疗网络防攻击能力的不足无疑会危及生命，因为越来越多的患者通过数字设备接受医疗保健，特别是在重症监护和康复病房。在这种情况下，支付赎金并不能保证医院的网络能恢复到与攻击前相同的状态，也不能保证此后不会再受到其他的攻击。支付赎金也会刺激勒索软件市场和变相鼓励更多的网络攻击，因而并非一种适当的应对方式。从技术的角度说，隔离被勒索软件控制的机器是防止攻击扩散到网络其余部分及其外部合作伙伴的首要任务。进而言之，必须全面提升医疗网络的反攻击能力。

（二）数据与隐私保护问题

数字化和人工智能的快速发展虽然开启了一个充满新机遇的领域，却也构成了又一个亟待洞察的“黑箱”，增加当前隐私和数据保护法律框架的不确定性，并可能会引发若干严重的道德困境。数字化医疗的发展给监管机构和其他决策者带来了一些挑战，最明显的是在隐私和数据保护领域。医疗记录的数字化管理带来了数据安全问题与隐私保护难题。远程医疗平台的兴起，使得患者数据越来越多地由专有软件收集，由此引发了对就医者的健康、安全和隐私信息面临损害或侵害等未知风险的担忧。[16]有研究认为人工智能系统可能会违背数据主体的意志，因为此类系统通常会以意外的方式收集、处理和传输敏感的个人数据，而无需及时提供通知、选择和解释选项的必要手段。[17]事实上，数字化记录及其传输可以让任何医生了解患者的病史，尽管他们以前从未见过面。这就提出了一个问题，即立法者必须制定哪些法律保障措施，以确保所处理的个人数据具有法律确定性和安全性，并防止滥用和伤害患者。

新冠肺炎疫情以来的公共卫生反应凸显了数据保护和数据共享之间实现平衡的困境。以电子健康记录可互操作性的方式处理个人数据可能会干扰数据保护或隐私的基本权利。“精准公共卫生”回避了这样一个问题：以个人为中心的护理方法如何与人口规模上的利益相协调——以尊重个人、确保隐私、增加而不是减少自主性和选择的方式。[18]在使用数字应用程序开展近距离追踪时如何保护隐私的问题上严重缺乏共识，这可能会导致用户与政府或私营公司之间的信任缺失。脸谱公司的自杀预防算法的发展也引发了关于社交媒体平台是否应在公共卫生监控中发挥作用的讨论。一个并非基于公共利益的商业机构可能会收集用户的私人健康信息并对其采取不当行为，尤其是当涉及个人敏感数据时，例如个人的心理健康状况。根据用户的地理位置，自杀检测算法产生自杀风险“假阳性”的后果可能会带来严重影响。

（三）法律适用与管辖问题

数字化医疗发展也在很大程度上超越了地理的限制。远程医疗、人工智能医学和智能医疗设备之类的数字化医疗工具可供最偏远地区的医疗机构和医生使用。此外，高度敏感的医疗数据可能会在瞬间传遍全世界。在这种背景下，电子健康和远程医疗服务几乎可以从世界每一个角落提供，必要的数据也可以传输到每一个角落。和这种情境不相适应的是，人工智能医学以及电子健康和远程医疗相关的法规的适用范围通常仅限于特定的司法管辖区域。此外，这一领域的规则和条例的数量与复杂性因国别与地域不同而存在明显差异，无国界开展活动的“医疗技术”企业可以选择在最有利于其商业模式的司法管辖区设立大本营，以此规避更严格的法律约束。对于远程医疗、人工智能应用程序或电子健康应用程序等数字医疗设备的从业者以及患者而言，必须了解在跨境情况下开展的医疗技术提供和医疗服务活动要受哪些法律管辖，比如许可要求和数据保护的法律，以及适用于电子健康、远程医疗和远程手术服务的合同法、侵权法等。

四、数字化医疗挑战的立法应对举措与评析

数字化医疗所带来的法律挑战并不是医疗领域所独有的，而是数字化技术诞生和应用伊始就普遍存在的，因而也较早引起关注。以欧盟数据立法为代表的相关规范设计正是为了应对数字化技术带来的法律风险与挑战。与此同时，医疗领域数字化发展所引发的问题也有其自身特点，特别是在诸如新冠肺炎疫情全球暴发这样的特殊背景下，监管机构和其他政策制定者也正在采取一些立法举措来应对。

（一）数据保护规范

在数据保护立法方面有代表性并对世界范围内相似立法产生深远影响的当属欧盟《通用数据保护条例》（General Data Protection Regulation，GDPR），其较为核心的制度设计主要包括：一是对个人数据进行涵盖广泛的界定，区分了特殊类型的敏感个人信息，排除了匿名信息的保护要求。②二是赋予数据主体广泛权利，包括被遗忘权、数据访问和更正权、数据可携权、限制特定处理权、反对自动化决策权、撤销同意处理权，以及反对自动化决策流程（包括数据画像）权。三是增加欧盟数据控制者和数据处理者的义务，要求他们实现隐私保护制度化，分为默认隐私保护和设计隐私保护：默认隐私保护要求义务主体限制对个人数据的收集、处理和存储；设计隐私保护要求义务主体在确定处理数据的方式和处理数据时实施适当的技术和组织措施。例如，尽可能采用假名化的个人数据处理方法，使个人数据不再明确反映某特定数据主体。四是充分考虑了个人数据处理的国际因素，扩张了域外适用效力，建立了以“经营场所原则”和“目标指向原则”为基础，以“普遍管辖”为补充的管辖规则。

对于数字化技术和人工智能在医疗领域遇到的挑战，《通用数据保护条例》也试图通过其关于自动决策的规则设计予以积极应对。该条例第22条规定，“如果该决定对其产生法律效力或类似重大影响，数据主体有权不受仅基于自动处理（包括分析）的决定的约束”。当自动化决策或分析是数据主体与数据控制者之间签订或履行合同所必需的，或者是基于数据主体的明确同意的，“数据控制者应采取适当措施，以保障数据主体的权利、自由和合法权益，至少是获得对控制者人为干预、表达观点和质疑其决定的权利”。同时，《通用数据保护条例》也为包括健康决策在内的某些基于公共利益目的的科学研究提供了一些特权。该条例第89条规定了数据主体权利保护的豁免：第一，出于公共利益、科学、历史研究或统计目的而进行的存档处理，应根据本法规，对数据主体的权利和自由进行适当的保障。这些保障措施应特别确保技术和组织措施到位，以遵守数据最小化原则。这些措施可能包括化名，前提是这些目的能够以这种方式实现。如果这些目的可以通过不允许或不再允许识别数据主体的进一步处理来实现，则应以这种方式实现这些目的。第二，如果出于科学、历史研究或统计目的处理个人数据，欧盟或成员国法律可规定削减相关条文中提及的权利，但须遵守本条第1款所述的条件和保障措施，前提是此类权利可能导致无法实现特定目的或受到严重影响，并且此类削减对于实现这些目的是必要的。

在新冠肺炎疫情暴发的背景下，欧洲数据保护委员会于2020年4月21日发布了《关于新型冠状病毒肺炎研究的健康数据处理指南》[19]，支持在适当的法律框架下进行研究和数据共享。相关重要规则包括两个方面：一是假名性要求。即由设备和应用程序传输的数据应包括唯一的假名标识符，这些标识符应该由应用程序生成并且是特定化的，还必须定期更新，更新间隔与控制病毒传播的目标相符。这些方面的工作也应以降低识别或追踪个人之风险的方式进行。二是透明性要求。欧洲数据保护委员会规定，即使是在假名的情况下，任何数据处理都必须是透明的，并且数据处理应具有充分的隐私保护措施，未经事先授权，不得与第三方共享。

（二）人工智能使用规范

欧盟推行的一项重要战略是发布《可信人工智能伦理指南》，以鼓励开发值得信赖且更合乎伦理的人工智能。该指南由人工智能高级专家组于2019年4月8日发布，收到了500多条评论。[20]该指南尽管不具有法律约束力，但其关注了人工智能在医疗、教育和消费技术等领域整合时将给社会带来的一些扩散性问题。如该指南关注政府、公司和其他组织需如何开发合乎伦理的人工智能应用。根据该指南，人工智能系统应该是负责任的、可解释的和无偏见的。为了帮助实现这一目标，欧盟建议使用一份评估清单，列出人工智能系统应满足的七个基本领域，以便被认为是可信的。在这些要求中，自治、隐私和数据治理是核心。人工智能系统收集的个人数据应合法、安全、可恢复、可靠、确定和私密。该指南还强调了“透明度”的重要性，用于创建人工智能系统的数据和算法应该是可访问的，并且应该确保可追溯性。

2021年4月21日，欧盟公布了《关于“欧洲议会和理事会条例：制定人工智能的统一规则（人工智能法案）并修订某些联盟立法”的提案》。拟议的人工智能法按照人工智能应用系统的不同类别采取风险标识方法，如禁止、高风险、有限和最低风险。被禁止的人工智能系统是指那些违反基本价值观且被认为不可接受的系统，例如，对人类安全、生活和权利构成明显威胁的人工智能系统，或者使用语音协助鼓励未成年人危险行为的游戏系统。高风险类别包括关键基础设施、教育或职业培训、产品的安全组件（例如人工智能在机器人辅助手术中的应用）、基本的私人和公共服务、司法和民主程序等人工智能系统。此类产品将受到更严格的监管。例如，部署适当的风险评估和风险缓解系统，确保用于训练算法的数据集的质量，记录相关活动以确保结果的可追溯性，应用一定程度的人力代理和监督，向用户提供相关信息等。属于有限风险和最低风险类别的系统制造商（例如通过使用聊天机器人），将被鼓励采用无法律约束力的行为准则。[21]

其他国际组织也发布了人工智能指南，如经合组织理事会《关于人工智能的建议》[22]，提倡创新、可信、尊重人权和民主价值观的人工智能。世界卫生组织也发布了《关于人工智能健康伦理和治理的指南》。[23]该指南基于六项原则：保护人类自治；促进人类福祉、安全和公共利益；确保透明度、可解释性和可理解性；培养责任感和问责制；确保包容性和公平性；推广反应灵敏、可持续的人工智能。

（三）简要评析

关于数字技术和人工智能在医疗设备、医疗服务中广泛应用所产生影响及其立法应对，仍然存在许多不确定性和悬而未决的问题。首先是立法的针对性与约束力存在欠缺。例如，欧盟《通用数据保护条例》的一个严重问题是，由于其采用的概念高度抽象，无法充分区分人工智能在医疗环境中的不同应用。经合组织[24]、欧盟委员会[25]以及中国发布了人工智能关键原则[26]，以规划人工智能技术的发展。然而，这些软法律机制不具有法律约束力，对人工智能开发人员产生了相当大的道德义务，却没有提供有效的质量流程来降低滥用或伤害患者的风险。其次是数据权利保护有效性的不足。在数字化医疗的特定背景下，由于数据的准确性起着核心作用，数据保护监管的相关性和有效执行机制至关重要[27]，尤其是对于敏感的健康数据和儿童等弱势个人。再次是缺乏对医疗设备与服务采购透明度问题的关注。正如新冠肺炎疫情所表明的那样，透明度意味着需要解释为什么选择特定供应商而不是其他供应商，以及政府如何识别和管理潜在的利益冲突。最后，缺乏维护医疗信任的有效机制。医疗诊断、决策、治疗的自动化“黑箱”本身欠缺传统的医患信任基础，并可能会增加不信任感。此外，将敏感数据处理委托给数字卫生领域的私人参与者将增加损害卫生系统核心价值观以及患者信任的风险。这些问题，现有的规范都尚未给出充分有效的应对举措。因此，解决数字化医疗带来的诸多挑战需要超越任何一个学科的单一视角或参考框架，这意味着我们需要一种跨学科的无缝集成方法。

五、数字化医疗治理机制的完善建议

数字化医疗的“黑箱”及其带来的法律挑战动摇了基于医患之间的人身性信任、对医院的制度性信任的传统医疗信任基础。与此同时，医疗专业加上数字技术的加持，患者的信息弱势更加明显，权利更易受到侵害，而救济和追责变得更加困难。因此，数字化医疗治理机制应当侧重于从这些方面来构建和完善。

（一）营造数字化医疗领域的信任生态系统

首先，信任生态系统的构建需要增强数字化医疗技术的伦理性。第一，要保障患者或消费者的知情权。在伦理上使用数字医疗技术需要确保人们意识到他们正在与人工智能系统交互，并了解其能力、局限性、风险和好处。第二，不应造成对患者或消费者的束缚。人工智能在医疗保健中的使用不应限制患者或消费者的人权和自由。例如，人工智能的设计不应导致对人的客体化、非人化、从属、歧视、刻板印象、胁迫、操纵或通过设计使人产生依恋或成瘾。第三，应有更高的安全性。人工智能设计者有责任设计高度精准的人工智能系统，以避免数据和算法设计中的偏差。他们还应预测人工智能系统对个人、社会或环境的潜在影响。第四，数字化医疗的开发方式应该能够实现人的监督、可追溯性和可审查性。对数字化医疗系统基于伦理的审查应由独立组织进行，并且其商业模式或法律结构不会产生利益冲突。从所用方法的选择到相关用例的选择，任何潜在的冲突都将影响认证过程。设计伦理应纳入任何设计方法和用例选择中。认证机构的独立性将直接影响最终用户对数字化医疗系统和服务认证的信任。

其次，塑造数字化医疗领域的人权文化。数字化医疗系统并不是一种中立的医疗产品，因为它们是由人类编程的，有侵犯人权和歧视的风险。在医学领域，需要对拟推广的数字化应用进行人权影响评估。尽管这种方法可能无法解决数字化带来的所有挑战，但它可以为包括弱势群体在内的所有相关参与者提供一个讨论的框架。加强对医生和数据科学家的人权教育，将有助于在快速发展的技术科学领域创造人权文化。这种方法将建立一个职责链，为整个数字化医疗技术开发过程及其后的应用带来更大的透明度和一致性。

最后，加强法律保护的技术性嵌入。数字化系统和网络可以帮助患者及其家人开展自助式护理，从而实现“将护理从医疗机构转移到受护理者的家庭或连接设备中”。因此，相应的法律设计和实施应当基于更安全、更透明、更易访问的基础设施。区块链技术为解决这一问题提供了一个有效的基础性技术架构，并带来了新的挑战。[28]人机交互的研究正在成为社会接受数字化医疗技术的一个关键方面。界面设计将在向患者分享信息和与患者互动方面发挥重要作用。应当将相关法律保护“嵌入”医疗产品和服务的用户界面。这种以用户界面为中心的隐私设计方法提供了多种优势，最明显的是更高的透明度、责任感和可选择性。

（二）完善数字化医疗的权利保护设计

首先，尊重个人医疗数据共享使用的同意权。与医生共享医疗数据是改善自身医疗服务的一个重要环节，而共享科研数据则有助于改善所有社会成员的医疗服务。同时，医疗数据高度私密，因此共享过程必须对个人隐私进行充分控制。从法律上讲，共享通常基于同意，但在实践中往往需要处理复杂的信息。因此，同意程序的实施方式在阻碍或帮助个人方面起着重要作用。基于人工智能的技术潜力，应当致力于帮助个人更加了解其共享的数据，从而提升个人做出知情同意决定的能力，特别是促进个人在利用医疗数据的背景下做出适当的同意决定。

其次，加强公共领域数据开放的隐私保护。完善的隐私保护机制对于公共领域的数据开放来说至关重要。数据收集、处理和使用主体应制定完善的隐私保护制度，包括法律依据、关键原则、与风险相称的技术和组织措施、默认的或设计的隐私保护、在处理个人数据之前必须向数据主体提供的通知类型等。相关保护制度所使用的措辞必须清晰明了，便于相关人员理解。数据越可识别或风险越高，对于数据控制和数据处理环节的控制要求就应当越严格。对于完全聚合的匿名数据，由于没有重新识别的可能性，则不需要相同级别的控制。此外，独立的外部监督机制也非常重要。欧盟《通用数据保护条例》第36条规定，“成员国可要求控制人就其为公共利益所执行任务的处理，包括与社会保护和公共卫生相关的处理，咨询监管机构，并获得监管机构的事先授权”。

再次，保障患者的自主权。尊重人权的核心内容包括人的身体、道德和心理完整性受到保护的权利，以及选择或行使个人自主权的权利。就数字化医疗领域而言，尊重患者的自主权需要满足以下几个要求：必须提供知情决策所需的所有信息；该信息经核实已被适当理解；患者经核实具有作出决定的能力；患者所作的决定与先前的条件一致。

最后，重视医疗自动化决策相关的解释权。由于人权和自由观念的发展，目前的法律及条例已经要求在敏感领域有一定程度的可解释性。人工智能的应用程序仅是接管了一些传统的职业，但这并不代表其控制者就不负责提供解释。他们必须遵守同样的规则，也必须为其服务提供解释。一般法律原则要求在发生法律纠纷时对自动化决策作出解释。欧盟《通用数据保护条例》规定，当公民受到自动化决策的约束时，有必要对人工智能系统的逻辑进行合理的解释。解释权也应该在自动化医疗决策的背景下得到确立。[29]医疗决策的日益自动化也伴随着一些问题，比如如何维持医患之间的信任关系，或者如何验证决策。这也是欧盟《通用数据保护条例》中规定的解释权发挥作用的重要领域。

（三）明确数字化医疗的责任分配机制

数字技术驱动的设备和系统本身并不能独立承担法律责任。欧盟等大多法域都不承认人工智能系统本身具备法人资格。[30]因此，为数字技术设备与系统的参与者明确一个责任机制，对于确定开发人员是否对其以后使用的算法负责、负责什么以及该责任的规范基础确实至关重要。[31]这对于修复数字技术设备与系统造成的损害也非常必要。对于数字化医疗领域的责任分配，传统的基于过错的责任计划、产品责任或合同责任对患者的保护确实不够。

在这方面，欧盟的做法依然具有借鉴意义。2020年10月20日，欧洲议会通过了一项决议，特别规定了人工智能的责任。这项决议提出了一项指令，在产品责任、消费者保护和防止歧视方面，以及在合同责任方面承继了现有制度。但同时，该决议也认识到，由于基于数字技术的人工智能系统是概率系统，它们本质上给患者带来了很高的伤害风险，因此，对人工智能系统相关风险的创造者、维护者或控制者，对任何损害——无论是物质损害还是非物质损害——承担责任。然而，非实质性损害必须造成可证实的经济损失。由此，就将责任完全转移给人工智能系统的运营商。欧洲议会的该项决议采用了基于风险的方法，风险越高，对患者的保护就越高。“高风险”是指在自主操作的人工智能系统中，以随机且超出合理预期的方式对一人或多人造成伤害或损害的重大可能性；潜在风险的重要性取决于可能的伤害或损害的严重程度、决策的自主程度、风险具体化的可能性以及人工智能系统使用的方式和环境之间的相互作用。高风险系统的运营商对此类系统造成的任何损害承担严格责任，即使他们能够证明自己尽职尽责地行事，或者高风险人工智能系统以自主方式行事。如果受害者能够证明发生了损害，系统做出了决定，并且损害与决定之间存在因果关系，运营商将承担责任。不可抗力是免除责任的唯一理由。

数字技术在医疗领域的应用前景非常广阔，多元化来源的海量个人数据，加上人工智能和机器学习能力、物联网和强大的计算平台，有可能以颠覆性的方式重塑医疗系统。正在发生的数据驱动预防和个性化医学的转变，可能会改善诊断和治疗，同时降低公共卫生政策的成本。但是，必须注意到，数字化医疗在为精准公共卫生、个性化医疗等的出现提供机会的同时，也改变了传统的医患信任关系，由此提出了新的法律、道德和社会挑战。对这一全新领域的任何评价与引导首先需要认识到这些问题的复杂性和跨学科性，在此基础上，才能通过重建符合数字时代的医疗信任生态系统、加强权利保护设计和明确责任分配机制来完善数字化医疗治理机制。

注释

①脸谱公司采用主动检测技术，扫描用户在脸谱平台上的文字和图片信息，用来分析用户是否符合“自杀倾向”的模式。当系统认为用户有自杀倾向时，会向负责审核内容的工作人员发送报告，相对于上传到网站的暴力或者色情内容，“自杀”类报告将获得更高的优先级，提醒工作人员进行优先处理。工作人员会根据情况采取不同措施：直接联系用户、联系用户的相关亲朋好友、尽快通知当地急救人员。

② 欧盟《通用数据保护条例》第4条第1款：“个人数据是指与一个已识别或可识别的自然人（数据主体）相关的任何信息。可识别的自然人是指能够被直接或间接加以识别的人，尤其是借助姓名、身份证号码、位置数据、在线身份识别码这类标识，或通过特定于该自然人的一个或多个身体、生理、遗传、心理、经济文化或社会身份等要素。”该条例导言部分第26条：“数据保护原则不应适用于匿名信息，即与已识别或可识别的自然人无关的信息，或与以不可识别或不再可识别的方式匿名呈现的个人数据无关的信息。”该条例第9条：“禁止处理显示种族或民族血统、政治观点、宗教信仰或工会成员身份的个人数据，禁止处理遗传数据、生物特征数据，以唯一识别自然人、健康数据或自然人性生活或性取向数据。”