智能医疗算法审查的融合型立法研究*

任 颖

算法是系统运算、处理数据、解决问题的特定指令，“算法权力”甚至改变了“原有的权利-权力格局”。(1)郭哲：《反思算法权力》，载《法学评论》2020年第6期。智能医疗算法能够直接决定医疗资源信息获取、医疗数据读取、智能诊疗系统的输出结果，(2)S.-K. Kim etc., Consistency of Medical Data Using Intelligent Neuron Faster R-CNN Algorithm for Smart Health Care Application, Healthcare, 2020, 8(2), 185.改变医疗卫生法律关系的内容和范围。随着智能医疗新业态步入快速发展轨道，智能医学影像、血流储备分数计算软件、糖筛眼底图像辅助诊断软件等多项应用程序相继获批，智能医疗企业迅速完成多轮融资，并深度融入临床科室应用进程。在推进智能医疗算法决策、算法分发及爬虫算法应用的同时，如何防范医源型与药源型安全风险，使主体“免受自动化决策的侵害”；如何使医疗健康及生物识别信息“不因数据交易和数据挖掘而泄露”，(3)苏宇：《算法规制的谱系》，载《中国法学》2020年第3期。成为智能医疗算法审查立法的重心所在。

一、智能医疗算法决策与算法分发的潜在风险与问题

智能医疗临床应用覆盖传染病预测、病因识别、病灶标注、靶区勾画、诊疗方案、干预措施、医护服务、药物研发等多个领域；智能医疗法律关系不仅包括医患关系，而且广泛涵盖卫生行政部门、智能医疗研发企业、医疗机构、第三方检测机构之间的关系，智能医疗所面临的现实问题复合性强、复杂程度高。智能医疗算法决策、算法分发、爬虫算法的潜在风险亟须得到高度重视。

(一)智能医疗算法决策可能引发叠加型的医源型与药源型风险

智能医疗算法决策可以分为人机交互型决策与自动化机器决策两个类型，智能医疗算法决策打破了传统的医患共同决策模式，将“基于机器学习的算法自动化场景”嵌入医疗决策过程，(4)参见唐林垚：《“脱离算法自动化决策权”的虚幻承诺》，载《东方法学》2020年第6期。从而给医疗健康服务带来新的风险与挑战。传统的医疗决策模式经历了从医生决策到“医患共享决策”的转变，(5)参见郑红颖等：《医患共享决策评估工具的研究进展》，载《中华护理杂志》2018年第5期。形成了以患者知情同意为基础，以医患双方的良性沟通和互动为路径，以诊疗共识为目标的医疗决策方式。在智能社会，人工智能在医疗机构之间搭建起新型的医疗联合体平台，也形成智能系统与医疗机构之间的新型关系。在智能医疗临床应用过程中，医患共同决策不仅是医生建议与患者意见综合作用的结果，而且受到潜在算法的影响，智能医疗算法甚至“直接作为行为规范影响”医疗决策的结果。(6)参见张凌寒：《算法权力的兴起、异化及法律规制》，载《法商研究》2019年第4期。同时，智能医疗算法本身并不在执业医师的控制之下，算法的隐蔽性也使人们很难直观地发现其问题。如果智能医疗算法存在隐蔽性的风险与问题，可能直到健康损害实际发生，才能被识别出来。智能医疗算法具有可复制性且应用广泛，一旦智能医疗算法决策被用于危害健康的活动，其危害的范围就不仅是哪一个主体，而且可能导致大范围、多点源的公共健康危机。在实践中，通过智能算法技术远程控制心脏电击器、药物输液泵等设备，危害生命健康的问题已经日益受到关注。智能医疗领域面临的风险和挑战从医疗技术风险扩张到智能技术风险，从传统的医疗决策领域扩展至新兴医疗决策模式，呈现出诸多新的特征。

随着医疗人工智能深度学习算法的应用，智能技术与医疗技术的融合日益加深，新型智能医疗风险与传统领域医疗风险交织叠加，呈现人机交互与复合性特征。深度学习算法与思维模拟技术的应用，使智能医疗机器具备短时间内迅速学习数代人积累的医疗经验，并通过堆栈自编码网络，掌握基本医疗经验的内在规律，形成自主判断决策甚至是具有超越性的机器识别和创造能力。医疗人工智能正在“引发一场深刻的革命”，(7)王文：《数字中国：区块链、智能革命与国家治理的未来》，中信出版社2020年版，第1页。全方位改变医疗技术开发、医疗过程监管、医疗机构运行及医师诊疗的全过程，技术安全问题与医疗联合体的新型医疗安全问题愈加凸显。智能预警、诊疗康复等智能医疗系统的深度应用，在传统领域的医疗风险基础上，衍生出新型的医疗系统风险与介入治疗行为风险。医疗安全的影响因素不再局限于医疗机构之内，也不以空间场所为界限，而是逐步向虚拟智能空间延伸。智能医疗算法决策“挣脱了时间、空间的限制”，实现智能空间万事万物的互联互通。(8)参见[美]尼古拉·尼葛洛庞蒂：《数字化生存》，胡泳等译，海南出版社1997年版，第7页。智能医疗影像数据平台、智能诊疗服务平台等均能通过人机物三元协同介入医疗进程，导致医源型与药源型安全风险相互叠加，隐患排查的难度加大。

医疗人工智能遗传算法与进化算法的发展，使医源型与药源型风险呈现高度不确定性，智能医疗算法决策面临可控性方面的安全隐患，算法机械化与医疗人文关怀之间存在冲突，通过算法代码贯彻维护人类生命健康等内在价值判断面临困境。随着“算法所产生的影响力与控制力”不断增强，智能医疗算法面临更大的“潜在的不可控的风险”。(9)周辉：《算法权力及其规制》，载《法制与社会发展》2019年第6期。第一，算法控制方并不是医疗机构，智能医疗算法驱动使医源型风险的演化与医疗系统相分离，医源型风险因素与危害结果之间的关系处于不确定甚至不可控的状态。第二，人工智能在药物研发、配置方面的应用，使药源型风险具有“耦合性和高度的不确定性”。(10)张乐：《新兴技术风险的挑战及其适应性治理》，载《上海行政学院学报》2021年第1期。面对不确定的医源型与药源型风险，传统的医疗专家系统较难精确预判算法机械化对医疗人文关怀可能带来怎样的危害。第三，医源型与药源型风险的影响范围不仅限于特定医院与就诊患者之间，而且扩展到所有使用智能穿戴式医疗设备的用户。便携式、可穿戴式智能医疗设备的应用，能够对哮喘等疾病及时做出预警，并在必要时为病人进行药物输入与初步救治；公共场所智能健康系统，可以通过电子监控系统捕捉心率、视网膜等健康数据，并引导及时进行医疗介入。这在为人们提供便利的同时，也引发新型的医源型与药源型风险。对于医疗人工智能通信网络的攻击，通过医药供给与医疗介入危害健康安全。(11)参见李勤：《警惕医疗设备遭遇“黑客”》，载《中国科学报》2014年5月7日第7版。以“宪法上的风险预防义务”为基础，(12)参见王旭：《论国家在宪法上的风险预防义务》，载《法商研究》2019年第5期。针对智能医疗新兴风险与传统风险的预防型立法，(13)参见任颖：《从回应型到预防型的公共卫生立法》，载《法制与社会发展》2020年第4期。成为智能医疗算法审查立法的关键环节。

(二)智能医疗算法分发及自主应用对健康公平产生双向影响效应

算法公平并不局限于市场公平，更包括健康公平、社会公平等广泛含义。算法不仅是撬动竞争行为的杠杆，而且成为影响健康公平的重要因素；“以算法达成更隐蔽的共谋”，不仅影响市场公平，更给健康公平保障带来挑战。(14)参见孙晋：《数字平台的反垄断监管》，载《中国社会科学》2021年第5期。《国务院反垄断委员会关于平台经济领域的反垄断指南》第5条至第8条对基于算法实施的排除、限制竞争行为作出规定，第14、15条对通过算法设置限制或障碍的方式作出规制，第17条规定了差异性算法与差别待遇的认定条件，第21条规定执法机构可以在特定情形下要求企业修改算法，但智能医疗算法对健康公平的影响尚未有专项立法加以规定。智能时代健康公平的实现，需要智能医疗研发企业恪守医疗市场公平竞争秩序，防范“算法引发的偏见、歧视和支配”对健康公平造成的不利影响。(15)参见汪庆华：《算法透明的多重维度和算法问责》，载《比较法研究》2020年第6期。智能医疗算法分发具备定向投送和引导功能，当智能医疗企业“构建公正、不含偏见的算法”时，算法分发会有利于实现更加高效与公平的健康决策；(16)参见陆凯：《美国算法治理政策与实施进路》，载《环球法律评论》2020年第3期。当智能医疗算法歧视通过聚类和分类算法、“基于统计回归的专家排序”方法等应用，(17)参见唐林垚：《公共卫生领域算法治理的实现途径及法律保障》，载《法学评论》2021年第3期。影响患者选择最匹配医疗机构时，则带来负向的结果，直接制约健康公平的实现。智能医疗算法的开发普及对健康公平产生双向影响，也给算法审查立法带来新的课题。

智能医疗算法分发及自主应用对健康公平的消极影响，主要表现为算法“技术性歧视”。(18)徐琳：《人工智能推算技术中的平等权问题之探讨》，载《法学评论》2019年第3期。以效率为导向的算法设计“给传统的平等权保护带来危机”，“算法黑箱造成的透明度缺失”不利于健康公平的实现。(19)参见崔靖梓：《算法歧视挑战下平等权保护的危机与应对》，载《法律科学(西北政法大学学报)》2019年第3期。智能医疗系统算法黑箱、算法歧视，会直接影响健康公平可及，可能对“某些群体造成歧视”，(20)郑智航、徐昭曦：《大数据时代算法歧视的法律规制与司法审查——以美国法律实践为例》，载《比较法研究》2019年第4期。引发“数据歧视并导致了权利侵害”。(21)王聪：《“共同善”维度下的算法规制》，载《法学》2019年第12期。不论是患者查询医疗服务机构，还是医疗机构选择智能医疗合作企业，均处于隐藏的算法分发的支配下。患者获取医疗资源信息、医疗机构的数据读取、智能诊疗系统的输出结果，均可能受到算法黑箱、信息茧房的影响。智能医疗算法分发、算法筛选可能加剧医患信息的不平衡，影响医患需求的匹配度，对健康社会权利的实现造成不利影响。算法的不公平直接影响健康公平可及，影响卫生健康服务与医疗保障的均等可及。智能时代的健康公平保障面临新的困境。从根源上看，智能医疗产业发展与基本医疗行业公益性存在一定矛盾。智能医疗产业发展以经济效益为主要驱动力，需要商业化、产业化的激励，来推动智能医疗技术的创新和突破；而基本医疗行业则承载着公共健康保障与生命安全维护的重要任务，需要立足医疗行为、医疗关系、医疗结构，来推进整个社会健康公平发展，实现社会的公平正义。利益协调和立法融合，成为智能技术在医疗机构诊断和治疗、日常健康监测与疾病预警等方面应用面临的新问题。

智能医疗新业态的发展亦会对健康公平产生积极影响。智能医疗系统的开发普及和临床应用，能够化解医疗资源的有限性与日益扩大的医疗需求之间的矛盾，提高优质医疗资源的覆盖面。一方面，通过智能医疗技术的临床应用，医疗机构能够突破地域和时间的限制，为人们提供优质高效的医疗卫生服务，弥合人口基数大背景下医疗需求与医疗资源之间的鸿沟，医用智能设备、家用可穿戴式智能系统、公共场所智能健康预警设备的推广，使人们随时随地可以监测自己的健康状况，并根据智能系统建议及时进行防范，避免延误最佳治疗时机；另一方面，智能医疗算法技术的应用，能够为行动不便或突发疾病而无法寻求医疗救助的群体提供帮助，智能合约能够创设“基于逻辑的自动执行结构”，(22)余成峰：《法律的“死亡”：人工智能时代的法律功能危机》，载《华东政法大学学报》2018年第2期。当智能系统发现用户健康指数异常时能够进行自动挂号预约，使特殊群体及时获得医疗救治。智能医疗算法的临床应用，能够从总体上提高优质医疗资源的覆盖面。与竞争法视角对企业的监管和规制不同，卫生法视角的智能医疗算法审查不应采取单向度规制的路径，而应立足智能医疗算法对健康公平的双向影响，推动立法保障与立法规制的融合发展。

(三)智能医疗爬虫算法使医疗健康及生物识别信息保护面临挑战

智能医疗算法应用所带来的新的风险和问题，不仅包括健康风险，而且涉及医疗健康信息安全风险；不仅涉及个人信息安全，更关系国家生物信息安全。与企业数据库中的消费偏好、地址信息等私益内容不同，医疗卫生信息数据涉及具有高度可识别性的生物样本信息；对数据信息的加工利用也不局限于身份识别与定位，而是扩展到群体乃至种族识别与分析范畴，构成对群体利益和公共安全维护的潜在威胁。在“算法嵌入式扩张”背景下，“算法平台化运行与公共利益隔离”。(23)张凌寒：《算法规制的迭代与革新》，载《法学论坛》2019年第2期。智能医疗平台运行如何符合公共健康保护要求，成为算法审查面临的首要问题。解决这一问题的立法思路主要有两种，一是民法典的知情同意规定，《中华人民共和国民法典》第1034条明确将生物识别信息、健康信息纳入受法律保护的信息范围，第1035条将自然人或其监护人同意作为信息处置的一般条件，如果个体或组织未经同意处理生物识别信息、健康信息，需要承担侵权责任；二是《个人信息保护法》的法益衡量路径，《个人信息保护法》第28条将生物识别、医疗健康信息列入敏感个人信息，规定只有符合特定目的、严格保护、充分必要的前提下，才能对敏感个人信息进行处理。但针对智能医疗算法应用的知情同意，面临知情权与商业秘密保护的冲突，法益衡量亦面临健康数据的合理使用与国家生物信息安全的平衡问题。智能医疗算法审查面临技术与组织两个方面的问题和隐患。

在技术方面，智能医疗算法技术的应用不断消解人们对于自身医疗信息的控制能力。智能医疗以信息网络为依托，以“大数据的积累和挖掘”为支撑，(24)朱晓明：《走向数字经济》，上海交通大学出版社2018年版，第6页。以算法运行为脉络，通过海量生物信息挖掘、数据整合，实现智能空间医疗数据存储、交换、访问、使用、处理的开放共享。(25)[美]格雷格·舒尔茨：《云和虚拟数据存储网络》，李洪涛等译，国防工业出版社2017年版，第27页。智能医疗爬虫算法收集大量数据，并能够运用算法进行大数据分析，进行精准的用户、群体乃至种族画像，使医疗健康及生物识别信息保护面临更大挑战。智能传感器能够在医疗过程自主开启信息收集功能，医疗器械与医疗设备等硬件、医疗辅助诊断与决策支持等软件系统能够广泛收集生物信息。智能临床病理诊断及医疗救治、智能核酸检测及传染病追踪、智能健康护理及流行病学调查的开展，采集和分析细胞样本、基因信息、机能指数等；可穿戴式智能医疗设备及公共场所健康监测设备的应用，更是将样本数据采集与控制的范围从就诊患者扩大至社会群体，引发个体医疗健康数据安全与群体生物信息安全问题。智能医疗算法审查需要解决技术治理面临的新问题。

智能医疗算法审查还面临组织治理领域的新问题。一方面，智能医疗爬虫算法的应用极大拓展了医疗健康数据采集的范围，华生(Watson)等全球性智能医疗企业已经进驻我国，其经手和控制的医疗数据集正在不断递增，相应的生物信息安全隐患也不断扩大，跨境健康数据安全问题亟待解决；另一方面，人工智能为医联体多学科联合诊疗提供支持，同时也打破医患关系的传统边界，带来“整合医疗组织”新型问题，(26)陈多等：《城市医疗联合体绩效考核现状、问题及对策分析》，载《中国卫生资源》2019年第6期。掌握医疗健康数据信息的主体除医疗卫生机构之外，还包括智能医疗技术研发方、运营商等，以数据共享、算法公开为基础的医疗人工智能发展，推动新兴技术与生产生活的深度融合，也导致特定国家或地区的生物信息能够被多个主体追踪，引发基于智能医疗组织系统互联互通的信息安全问题。针对第一个方面的问题，2021年《数据出境安全评估办法(征求意见稿)》发布，其中第4条规定符合法定情形的重要数据出境应进行数据出境安全评估申报，但对于重要数据的范围，尤其是跨境医疗背景下医疗数据传输的特殊性未予以详细界定。针对第二个方面的问题，《卫生行业信息安全等级保护工作的指导意见》将保护居民健康信息安全作为工作要求，并设置了自主保护、指导保护、监督保护、强制保护、专控保护五级工作机制，指出三级甲等医院核心业务信息系统的保护级别原则上不低于第三级，但在医疗机构之间的跨院数据共享背景下，医疗机构所掌握的健康信息规模与其评级可能并不对应，不论是哪一级的医疗机构，均可在健康信息平台获取共享医疗数据。智能医疗算法审查的立足点应从医疗机构评级转向医疗过程监管，及时更新立法制度设计。

二、智能医疗算法审查立法路径的法理辨析

智能医疗算法审查立法究竟是采取单向度规制模式、概括式算法审查立法还是融合型立法，如何在现有部门法分立格局中实现算法风险防控的跨部门融合，怎样有效应对嵌入式的智能医疗算法技术和组织系统安全隐患，成为智慧法治与卫生法治建设的共同议题。

(一)传统的法律部门划分与智能医疗算法审查“领域法”融合

“传统部门法分析框架”难以对“算法侵害及算法自动决策”展开系统规制。(27)王莹：《算法侵害类型化研究与法律应对——以〈个人信息保护法〉为基点的算法规制扩展构想》，载《法制与社会发展》2021年第6期。部门法学是农业文明和工业文明时代的产物，以“静态的闭合的规范”为主要内容。智能时代的立法“以动态的开放的问题”为导向，实现“对传统部门法学的超越和有益补充”，形成具有“综合性、交融性的特点”的“领域法学”，并整体性地对新兴问题进行系统回应，“避免机械划归部门法导致”“僵化和碎片化”。(28)杨文德：《领域法学崛起因应新兴学科挑战》，载《中国社会科学报》2018年11月21日第5版。以“部门法分立格局”展开智能医疗算法审查立法，割裂了“风险控制的整体主义视角”。如果仅从某一部门法出发进行规制，“无助于风险控制工具之间的协调”，(29)宋亚辉：《风险控制的部门法思路及其超越》，载《中国社会科学》2017年第10期。较难满足智能医疗算法审查的行业性、专业化、个殊性要求，无法系统防控智能医疗领域的医源型与药源型风险。智能医疗算法决策所引发的医源型与药源型风险具有特殊性、行业性，并具有多点源、多触发面特征。智能医疗法律关系涉及的主体众多、内容复杂、覆盖面广，并跨越了传统的医疗空间与智能空间。智能医疗算法决策风险防控只有突破部门法的壁垒，将不同风险控制措施融入医源型与药源型风险防控过程，才能够形成保护人民生命健康的严密防护网。目前的算法审查主要有三种路径，一是价值层面的算法伦理审查、公平机器学习。在此基础上，不同的算法审查方式需要得到有效整合，智能医疗算法决策风险立法的跨部门融合亟待实现。

智能医疗算法审查“领域法”的融合，立足风险立法跨部门融合诉求，通过“融合与体系化构造”，形成超越“分立格局的独特结构”；(30)宋亚辉：《风险立法的公私法融合与体系化构造》，载《法商研究》2021年第3期。立足“领域特殊性”，克服“领域知识壁垒”，(31)王禄生：《论法律大数据“领域理论”的构建》，载《中国法学》2020年第2期。形成以“问题为导向”，以“整合性、多维度”“应用性和协同性”为特征的立法逻辑；(32)刘剑文：《论领域法学：一种立足新兴交叉领域的法学研究范式》，载《政法论丛》2016年第5期。从整体主义视角出发，“制衡算法权力”，推动“规制范式重构”，(33)曹博：《算法歧视的类型界分与规制范式重构》，载《现代法学》2021年第4期。为智能医疗算法风险防控奠定规范基础。《中华人民共和国民法典》第1008条规定，为医药、疾病防治方法、医疗器械研发进行临床试验前，应明确可能的发生风险，并履行告知义务；《基本医疗卫生与健康促进法》第32、47条对医疗风险告知、医疗风险分担机制做出规定，第71条设置了“疾病和健康危险因素监测、调查和风险评估制度”；《中华人民共和国医师法》第45条规定疾病防控机构、基层医疗卫生机构等，应配置公共卫生医师负责风险评估研判等工作，但立法之间的衔接有待加强，新兴风险与传统风险防控有待深度融合。适应叠加型的医源型与药源型风险防控要求，智能医疗算法审查立法需要形成超越传统法律部门划分的行业性、领域性融合立法。其一，针对智能医疗算法决策风险的特殊性，实现风险防控立法范围拓展与结构融合。智能医疗算法决策风险呈现传统风险与新兴风险、个体健康风险与公共健康风险相交织的特征，智能医疗算法临床应用过程中可能引发的健康风险还从私人风险向公共风险扩展，并呈现高度不确定性特征。智能医疗算法审查立法以领域立法、融合立法为路径，不仅有效应对相对可控的传统风险，而且对高度不确定的新兴风险作出科学预判；不仅需要从私权利角度保护个体的生命健康权，而且从社会权角度充分保障公共健康安全。其二，在智能医疗算法审查立法中确立风险预防原则，以有效防范化解卫生健康领域重大风险为目标，推动智能医疗算法风险立法与基本医疗立法的有效衔接。在推进智能医疗算法审查融合立法的过程中，不能将风险立法条款机械嵌入基本医疗立法结构，而要通过风险立法与传统领域立法的跨部门融合，协同推进传统风险与新兴风险规制，提升智能时代医疗立法的整体效能。

(二)单向度规制模式与智能医疗算法审查融合立法的辨析

智能立法的单向度规制模式通过对“算法主体行为的法律规制”，(34)金梦：《立法伦理与算法正义——算法主体行为的法律规制》，载《政法论坛》2021年第1期。化解智能医疗算法分发及自主应用的“正当性隐忧和伦理性风险”，(35)李训虎：《刑事司法人工智能的包容性规制》，载《中国社会科学》2021年第2期。防范算法黑箱、算法歧视所导致的差别待遇，防止智能算法“对人公开的或隐蔽的宰制”，(36)孙伟平：《人工智能与人的“新异化”》，载《中国社会科学》2020年第12期。但单向度规制模式也存在明显的局限性。在立法导向方面，单向度规制模式以控制与监管为重心，通过事前审查、事中控制与事后监管，实现对智能医疗算法应用的全方位管控，防范智能医疗算法的消极影响，但对不利因素的遏制，并不能够直接导致健康公平可及的实现，也难以充分释放智能医疗算法对健康公平的积极作用。智能医疗算法的普及在节省医疗成本的同时，有利于实现优质医疗资源在不同地域、不同行业、不同群体范围的普惠共享，促进健康社会权利的实现。健康社会权利属于积极权利的范畴，需要“采取积极有效的措施来保障其实现”。(37)广州大学人权理论研究课题组：《中国特色社会主义人权理论体系论纲》，载《法学研究》2015年第2期。单向度规制模式缺乏积极有效的授权，“缺乏同等程度的保护激励”，不易在立法的引导、激励、保障作用层面形成促进健康公平的综合效能，难以妥当处理智能医疗算法应用对健康公平产生的双向影响效应。“立法如果激励不相容”，极易造成“规制对象抵触”“执行权威受损”等现象的发生。(38)参见周汉华：《探索激励相容的个人数据治理之道——中国个人信息保护法的立法方向》，载《法学研究》2018年第2期。在关涉人民生命健康的智能医疗算法审查立法领域，不能片面地强调法律监管与规制，而要形成促进智能医疗算法创新的制度架构，积极引导医疗人工智能新技术新业态的健康发展。

针对智能医疗算法普及对健康公平产生的双向影响，智能医疗算法审查融合立法，既将特殊群体的倾斜性保护融入智能医疗过程，又防止智能医疗算法的身份性歧视；既充分发挥智能医疗算法在优质医疗资源普惠共享方面的积极作用，又克服智能医疗算法分发与算法筛选对健康公平的不利影响。智能医疗算法审查融合立法逻辑主要分为两个方面。其一，明确划定算法审查的约束效力与保障效力的边界，在立法规制与法律保障的双重张力间找到最佳的平衡点。智能医疗算法分发以“过滤信息”为方式“降低认知负担”，(39)蒋舸：《作为算法的法律》，载《清华法学》2019年第1期。提高患者对医疗服务的认知效率，但也正因为算法选择“过滤泡”(filter bubble)的存在，而使患者寻求医疗救助的行为受到算法分发的控制，可能在客观上降低医患需求的匹配度，影响健康公平的实现。智能医疗算法审查融合立法以法律平衡为出发点，既避免智能医疗算法应用对健康公平产生的不利影响，又“不损及自动决策算法创新价值”；(40)林洹民：《个人对抗商业自动决策算法的私权设计》，载《清华法学》2020年第4期。既“强化算法安全意识”，也促进“更为高效和智能的算法”研发和创新；(41)杨蓉：《从信息安全、数据安全到算法安全——总体国家安全观视角下的网络法律治理》，载《法学评论》2021年第1期。既强调“算法服务提供者的责任”，也鼓励算法研发和运营企业“创新合规措施”；(42)张吉豫：《构建多元共治的算法治理体系》，载《法律科学(西北政法大学学报)》2022年第1期。既不因规制不足而导致患者权益受损，也不因过度规制而抑制智能医疗创新发展活力。其二，在合理的限度内拓展医疗人工智能的应用范围，提升智能医疗算法审查立法与智能社会运行的兼容度，通过保障、激励、支持医疗人工智能产业化，解决医疗资源与社会需求之间的冲突，服务国家发展战略，激活医疗人工智能发展活力。智能医疗算法普及是医疗健康事业升级发展的重要驱动力。通过智能医疗算法审查融合立法，克服单向度规制模式的弊病，以动态分级授权立法代替机械化的算法规制立法，是最大限度地发挥智能医疗算法推广积极作用的重要前提。

(三)概括式算法审查与嵌入式的智能医疗算法审查融合立法

算法审查机制主要有两种，一是企业内部审查形成的“自我规制型”问责机制，(43)参见虞青松：《算法行政：社会信用体系治理范式及其法治化》，载《法学论坛》2020年第2期。又可以细分为保护自主经营权与设置数据控制者义务两种主张；二是外部审查评估机制，又可以分为部门协同型和委员会建制型两种算法审查机制。(44)参见张恩典：《人工智能算法决策对行政法治的挑战及制度因应》，载《行政法学研究》2020年第4期。其中，自主经营权论强调算法的研发和应用属于企业自主经营范围，依靠企业内部管理加以规范，无需引入外部干预；数据控制者义务论认为控制者应当充分考虑算法运行与数据处理可能造成的不利影响，采取措施防范隐患的发生，并在必要时审查和更新相应的保护措施，如欧盟《通用数据保护条例》(GDPR)第24条对控制者的义务作出规定，通过强化数据控制者义务，确保算法的公开、透明、公正；部门协同型算法审查以网信、工信、市场监管等部门执法为依托，开展算法综合治理，如《关于加强互联网信息服务算法综合治理的指导意见》提出要强化统筹协同治理，会同多部门协同推进算法安全治理；委员会建制型算法审查以专门的审查机构建设为基础，致力于提升算法审查的专业性、科学性。算法的内部审查与外部审查均采用概括式审查模式，并不区分具体的领域或行业，而是通过概括式、一般性的审查推动算法治理。从内容上看，概括式算法审查，以归纳和概括智能技术在不同行业应用中遵循的共同规律、基本原则为基础，确立算法审查的一般规则、统一模式与共同标准，并依照统一标准，对智能算法在不同行业、不同领域的应用进行审核和评价。从形式上看，概括式算法审查对智能医疗、智慧交通等领域的法律关系调整具有宏观引领作用，但忽视了医疗人工智能与自动驾驶汽车等行业的算法决策差异巨大。即便是在同一行业当中，医疗预警与诊疗智能算法亦不相同。概括式算法审查，难以有效回应智能医疗算法应用的差异化立法需求，不能立足医疗预警、疾病防治等环节生物信息安全保护的特殊性，化解智能医疗经营者的数据利益与医疗信息安全公共利益之间的矛盾。

算法被“内嵌于不同的场景”，“算法规制必须采取场景化的规制路径”，“超越形式主义的法律规制”，立足不同领域、不同业态的“场景化特征与原理”，“对算法采取不同的规制方式”。(45)丁晓东：《论算法的法律规制》，载《中国社会科学》2020第12期。智能医疗算法通过“嵌入式软件”及“智能技术控制各种电子设备”，(46)薄璐：《产教融合背景下计算机嵌入式软件安全技术发展思考——评〈嵌入式软件安全保证技术〉》，载《安全与环境学报》2020年第5期。引发嵌入式的智能医疗算法系统安全隐患。一方面，获取医疗健康信息的主体范围不断扩展，除医疗卫生机构能够获取患者信息之外，智能医疗运营商亦可通过平台捕获医疗健康及生物识别信息，并运用算法大规模识别和分析健康信息；另一方面，随着智能技术嵌入疾病诊断、床位分配、医疗救治过程，医疗过程所面临的安全隐患不仅来自医疗技术及机构，而且源自智能医疗技术及组织系统。嵌入式的智能医疗算法审查融合立法从两个方面回应现实问题。其一，通过控制者义务设置与审查评估机构建设的有机结合，防范智能医疗所引发的医疗健康及生物识别信息安全隐患，并拓展控制者义务设置与审查评估机构的范围，形成防范智能医疗安全隐患的防护网络。控制者义务主体不仅限于智能医疗企业，还包括医疗卫生机构等可能收集、利用医疗健康数据的个人或组织；外部审查不仅包括网信等行政主管部门和专门的委员会，还可以引入第三方机构展开算法评估，以落实《人工智能深度学习算法评估规范》的技术标准要求。其二，嵌入式的智能医疗算法审查融合立法，不仅关注智能医疗算法技术安全隐患，而且针对智能医疗组织系统所涉及的复合性法律关系，通过技术治理与组织治理的有机结合，化解智能医疗算法的嵌入式技术及组织系统安全隐患。“构建一体融合的法律体系”，推动“双重空间、人机混合”的新型融合立法，(47)参见马长山：《智能互联网时代的法律变革》，载《法学研究》2018年第4期。是智能医疗算法审查立法的重要路径。

三、智能医疗算法审查的融合型立法建议

建议增设智能医疗算法决策风险最小化的命令性规范、智能医疗算法自主应用的动态分级授权制度、预警及诊疗算法模块信息爬取的限制性规范，推动传统风险与新兴风险立法、管理型立法与促进型立法、技术治理与组织治理领域立法融合。

(一)传统风险与新兴风险立法融合：增设智能医疗算法决策风险最小化的命令性规范

智能医疗算法的应用，使医疗风险的范围从传统风险扩展到新兴风险，呈现传统风险与新兴风险相交织的特征。因此，需要通过传统风险与新兴风险立法融合，确保算法决策不会使患者面临与预期利益不相称的风险；通过设置智能医疗算法决策风险最小化的命令性规范，系统防控智能医疗算法引发的医源型与药源型风险。建议从三个方面出发，设置智能医疗算法决策风险最小化的命令性规范。第一，将算法风险评估设置为智能医疗的前置性审查程序，医用智能设备、公共场所智能医疗预警设施、家用健康监测设备在投放市场前，应当系统评估其算法可能引发的医源型与药源型风险，并将风险评估报告提交主管部门审核。欧盟《通用数据保护条例》确立的数据保护影响评估制度，不能代替算法决策风险评估。数据与算法是智能社会运行的双翼，数据是原料内核，算法是加工方法，仅对数据存储和利用进行规制，无法避免更具隐蔽性的潜在算法决策风险。智能医疗算法决策风险评估是确保算法决策风险最小化的基础性规定。第二，设定智能医疗研发与运营企业的算法决策风险防控义务，形成智能医疗算法决策风险追踪的统一标准与技术性规定。由于智能医疗研发与运营企业均具备获取医疗健康信息的可能性，因此，算法决策风险防控义务不能局限于智能医疗研发企业，而应扩展至智能医疗运营企业的范围。2021年年6月，《人工智能医疗器械注册审查指导原则(征求意见稿)》发布，将全生命周期管理与风险导向作为注册审查的基本原则。第三，制定智能医疗算法决策风险评级标准及管理规定。对健康影响较小的低风险智能医疗过程，由医疗机构展开常态化风险监管；对健康影响较大的中风险智能医疗过程，建议引入第三方机构对医疗人工智能算法、程序、控制、验证、更新等过程进行评估；对生命健康有重大影响的高风险智能医疗过程，应由主管部门介入全过程风险管理，对智能医疗算法临床应用进行严格监管。

建议通过算法风险防控立法、医疗立法、民法典的跨部门融合，设置算法决策风险最小化准则的配套规范。第一，建立智能医疗算法风险防控立法与基本医疗立法的衔接机制，设置智能医疗算法风险识别程序，推动医疗行为风险与智能医疗介入治疗风险防控的有效协同。在现阶段，建议在医疗立法中融入智能医疗算法审查条款；当智能社会发展到一定阶段，建议通过算法审查专项立法，促进风险最小化准则在医疗机构临床诊疗、医疗器械与健康产品管理等规定中的全面贯彻落实。第二，对于“瞬间即作出决定的自动化机器”，(48)刘东亮：《技术性正当程序：人工智能时代程序法和算法的双重变奏》，载《比较法研究》2020年第5期。需要在已有立法的患者知情同意规定基础上，设置智能医疗算法应用中的健康风险告知义务。《中华人民共和国民法典》第1219条、《基本医疗卫生与健康促进法》第32条、《中华人民共和国医师法》第25条，规定医疗卫生人员在诊疗活动中应向患者说明其病情及需要采取的措施，告知手术、特殊检查及治疗过程的风险与替代医疗方案，并取得患者的明确同意；《中华人民共和国民法典》第1008条还对医疗技术研发风险告知义务作出规定，强调应以书面形式取得受试者的同意。智能医疗算法本身是否应当向社会公开有待商榷，但智能医疗算法决策可能造成的健康风险应当明确进行告知。建议增加智能医疗算法应用中的健康风险告知义务，明确告知智能医疗算法决策可能带来的医源型与药源型风险，充分尊重和保障患者的知情同意权，提升智能医疗算法决策的透明度和算法风险防控的整体效能。第三，建立智能医疗跨科室协同诊断与跨区域转诊算法风险防控方案。智能医疗算法决策能够打破医疗分科的局限，形成跨科室协同诊断、跨院就诊与区域双向转诊智能系统，相应的风险防控方案亦须“调整传统法律制度的规制理念”，(49)郑智航：《人工智能算法的伦理危机与法律规制》，载《法律科学(西北政法大学学报)》2021年第1期。以传统风险与新兴风险立法融合为路径，细化不同科室、不同医疗机构之间的协调配合规则，并准确区分智能医疗新业态推进中不同主体的新兴权责要求，及时修订各个环节的操作规程，系统识别多维度的医源型与药源型风险，全方位监管和防范介入治疗过程中的人机协同风险。

(二)管理型立法与促进型立法融合：设置智能医疗算法自主应用的动态分级授权制度

建议以管理型立法与促进型立法融合为基础，(50)参见李艳芳：《“促进型立法”研究》，载《法学评论》2005年第3期。以动态分级授权立法代替机械化的单向度规制模式，对智能医疗算法应用进行分级监管，并分步拓展智能医疗算法自主应用范围，扩展智能医疗服务的覆盖面。通过立法的反向规制与正向引导双向融合，有效应对智能医疗算法对健康公平的双向影响；通过授权性规范设置，激励、保障、促进智能医疗算法技术的创新和优化，使其不只成为市场良性竞争的推动力量，而且成为践行医疗伦理，捍卫人民健康的积极助力。在立法宗旨方面，智能医疗算法自主应用的授权性规范设置，以促进健康公平可及，激励医疗人工智能企业研发积极性，服务国家医疗人工智能战略发展为价值目标。在立法技术方面，智能医疗算法自主应用的授权性规范设置，通过融合立法，提升“智能生产率”，(51)贾根良：《第三次工业革命与工业智能化》，载《中国社会科学》2016年第6期。形成智能医疗算法应用的“秩序系统、赋权系统与创新系统”，“鼓励社会单元的创新行为”，并促进科技创新发展“与风险防范同步进行”。(52)马长山：《司法人工智能的重塑效应及其限度》，载《法学研究》2020年第4期。在立法路径方面，智能医疗算法自主应用的授权性规范设置，“借助数字平权行动”，“抑制代码歧视”，(53)李成：《人工智能歧视的法律治理》，载《中国法学》2021年第2期。实现“国家与社会的动态平衡”、刚性治理和弹性治理的协调与平衡，(54)参见高奇琦：《智能革命与国家治理现代化初探》，载《中国社会科学》2020年第7期。推动智能医疗“自我升级智能体”，使智能医疗算法审查立法“达到融通的新境界”。(55)任晓明、李熙：《自我升级智能体的逻辑与认知问题》，载《中国社会科学》2019年第12期。

建议设置智能医疗算法应用的动态分阶段授权制度。在弱人工智能阶段，可授权智能医疗算法在慢性病管理方面的自主应用，(56)参见张旭东等：《中国医疗人工智能发展报告(2020)》，社会科学文献出版社2020年版，第298页。但医疗人工智能在突发疾病治疗中的应用归为辅助诊疗措施，应当由执业医师审核、判断、确认智能医疗算法得出的预警及治疗方案后，方可将其应用到具体医疗过程。如果执业医师的诊疗意见与智能医疗算法得出的治疗方案相冲突，以医师意见为优先选择。在强人工智能阶段，由于智能医疗算法的发展相对成熟，人们对于医疗人工智能的信任程度也不断增强，可通过专项的医疗人工智能立法拓展授权的范围，使取得“专项资质认定”的医疗人工智能在特定医疗领域享有自主权，同时确保智能医疗算法的可解释性。(57)参见李润生：《论医疗人工智能的法律规制——从近期方案到远期设想》，载《行政法学研究》2020年第4期。对于常规化的一般治疗事项，适当授权智能医疗算法在医疗预警、诊断、救治等方面的自主应用；对于特殊治疗过程，需要确保执业医师的全过程参与，并实施严格的审查授权制度，推动国家统一资质审核与医疗机构定期审查的有机结合，制定具备诊疗资质的医疗人工智能与执业医师之间的人机协作操作规程，并明确该操作规则需要通过医疗质量与安全管理委员会的审核，经医疗机构医务部门审查，并向主管部门备案，全面提升智能医疗算法技术与医疗技术的融合度与匹配度。

建议以有条件的允许而非概括式授权的方式，根据医疗过程分类分级设置智能医疗算法应用的授权性规范，并“创设不同缺省合规义务”，(58)唐林垚：《人工智能时代的算法规制：责任分层与义务合规》，载《现代法学》2020年第1期。在立法规制与法律保障的双重张力间找到最佳的平衡点。对于清创、问诊、用药医嘱、无创物理治疗等常规医疗过程，可授权智能医疗算法自主应用为患者提供科学系统的诊疗建议。对于化学治疗、有创的物理治疗过程，应根据对健康的影响程度及可能发生的安全隐患，分级设置智能医疗自主应用的授权性规范，“引入等级化或概率化的合比例性要求”，(59)苏宇：《风险预防原则的结构化阐释》，载《法学研究》2021年第1期。综合设置智能医疗注意义务规范。第一，对健康影响程度较轻的医疗过程可纳入Ⅰ级智能医疗算法审查事项，针对这一类事项，在设置智能医疗算法解释等法定程序基础上，建议通过充分授权“持续强化法律人工智能的实践能力”，(60)左卫民：《热与冷：中国法律人工智能的再思考》，载《环球法律评论》2019年第2期。建立智能医疗算法审查制度，定期对智能医疗算法程序及自主应用状况进行评估和审核，一旦发现潜在安全隐患，及时停止该智能医疗算法系统的自主应用。第二，对于普通有创治疗等Ⅱ级智能医疗算法审查事项，建立医师复核制度，将医师复核作为智能医疗算法自主应用的必经程序，由执业医师对智能医疗算法自主应用所得出的诊断结论进行审核，并由其负责向患者进行告知和说明。第三，将具有高度危险性的特殊有创治疗等列为Ⅲ级智能医疗算法审查事项，通过逐层审核程序设置，使执业医师能够控制智能医疗算法推进的每一个医疗步骤，医疗人工智能需要在执业医师的授权下推动医疗进程，并须与会诊制度相结合，确保智能医疗算法应用选择最有利于生命健康保护的最佳方案，促进“科技法迭代视角下”医疗人工智能的升级发展。(61)参见龙卫球：《科技法迭代视角下的人工智能立法》，载《法商研究》2020年第1期。

(三)技术治理与组织治理领域立法融合：预警及诊疗算法模块信息爬取的限制性规范

通过“法律与技术融合治理模式”，(62)申卫星、刘云：《法学研究新范式：计算法学的内涵、范畴与方法》，载《法学研究》2020年第5期。形成保护医疗健康与生物识别信息的跨部门融合路径，是防止“技术突破与法律规制的扦格难通”，(63)张新平：《智能视频监控之法律与技术的嵌合治理》，载《法制与社会发展》2020年第5期。实现“技术性与道德性的激励相容”的重要支撑。(64)参见徐玖玖：《人工智能的道德性何以实现？——基于原则导向治理的法治进路》，载《现代法学》2021年第3期。智能医疗算法审查立法实质上是“人类与人工智能之间的关系的厘定”过程，(65)参见李爱君：《人工智能法律行为论》，载《政法论坛》2019年第3期。是“推进不同算法和认知类型的融合”进程。(66)参见肖峰：《人工智能与认识论的哲学互释：从认知分型到演进逻辑》，载《中国社会科学》2020年第6期。适应现代医疗过程人机协同的现实需求，技术治理与组织治理领域立法的融合，成为防范智能医疗技术及组织两个方面安全隐患的必由之路。智能医疗算法系统的嵌入式安全隐患，不仅威胁生命安全与公共健康，而且给医疗健康及生物识别信息保护带来新的课题。其一，深度挖掘不同医疗环节的嵌入式算法安全隐患，准确定位智能医疗预警、诊疗算法模块信息爬取面临的主要问题，明确不同智能医疗法律关系主体存储、处理、利用医疗健康信息的具体规则，在推动智能医疗研发企业、医疗机构、第三方检测机构、智能医疗算法运营商、技术开发方之间，以及医疗机构与患者之间的新型医疗关系协调的过程中，将技术治理与组织治理要求融入智能医疗技术创新与运行系统优化全过程。其二，以智能医疗行业的特殊性与内在规律为立足点，设置智能医疗预警及诊疗算法模块信息爬取的限制性规范，“调整算法在公共领域的应用”，(67)孙清白：《人工智能算法的“公共性”应用风险及其二元规制》，载《行政法学研究》2020年第4期。推动医疗人工智能从医疗器械向专家系统转型。《互联网诊疗管理办法(试行)》第13条规定，医疗机构信息安全系统是开展互联网诊疗的前提条件，互联网诊疗过程应当实施第三级信息安全等级保护；《互联网医院管理办法(试行)》第6条规定，省级互联网医疗服务监管平台应与互联网医院信息平台实时对接。随着医疗数据信息共享范围的扩展，隐含于医疗物理空间与智能空间的算法技术亟待得到有效的监管，以防范智能医疗算法海量爬取生物识别信息而给医疗健康信息安全带来威胁。

建议区分预警与诊疗过程，设置智能医疗预警及诊疗算法模块信息爬取的限制性规范。智能医疗技术在医疗预警方面的应用主要是常规健康监测与自动对接挂号系统，智能医疗预警过程中的信息爬取主要涉及健康指标分析，但不涉及血液等样本分析，较少涉及患者的个人敏感信息。因此，对于智能医疗预警过程中的爬虫算法应用，通过限制其用途，确保智能医疗预警爬虫算法应用以健康保障为目的，非必要不得收集医疗健康信息。智能诊疗算法能够精准爬取患者的个人信息，包括生物样本数据、医保等个人敏感信息在内，即便按照《个人信息保护法》第51条采取了加密、去标识化等处理措施，爬虫算法仍能够通过全网数据信息链条分析，推算某一患者或某一地区的生物识别数据。智能诊疗过程中的医疗生物信息识别，不仅可能对隐私等私法权利、就业等社会权利造成不利影响，而且可能对国家生物信息安全造成威胁。针对上述状况，智能诊疗算法模块信息爬取的限制性规范需要从三个方面加以规定。一是限制采集，建议区分公共健康紧急状况和常态化情形，制定相应的智能诊疗信息采集规则，明确列举智能诊疗过程不得采集的信息内容，如民族、宗教信仰等信息。(68)参见郭延军：《采集公民民族信息的宪法界限》，载《中外法学》2016年第6期。如处于公共健康紧急状况，智能诊疗信息采集的范围可以扩展到不明原因疾病的流调数据；在常态化情形下，智能诊疗信息采集则应限制在健康指标内容，在发现疑似、无症状或确诊病例时方可收集个人活动轨迹等信息，常规的智能核酸检测亦无须收集流调信息。二是限制出境，建议区分人类遗传资源与人口健康信息，明确其输出境的具体规则。中国人类遗传资源的输出境，需要按照《人类遗传资源管理条例》第13条规定，由科学技术部审批，并须满足输出境的目的限制、必要性条件等要求。《人口健康信息管理办法(试行)》第9至10条设置了人口健康信息的本地存储义务，一律禁止境外服务器存储境内的人口健康信息，但这一禁止性规定难以满足我国的跨境医疗现实需求，尤其是对于粤港澳大湾区跨境医疗发展而言，医疗卫生信息资源共享成为便利湾区居民跨境医疗的必要条件。因此，建议将绝对的禁止性规定改为限制性规定，将粤港澳大湾区卫生主管部门、医疗机构、第三方检测机构等纳入人口健康信息平台，为居民提供更加优质高效的医疗卫生服务。三是限制用途，医疗健康与生物识别信息利用只能以健康保障为目的。随着医疗健康信息互联互通深度推进，居民健康档案的医疗健康与生物识别信息规模会不断增大，信息处理和数据利用的监管面临更大压力，用途监管成为防范医疗健康信息风险的必由之路。

结语

智能医疗是医疗卫生事业发展的必然趋势，智能医疗技术风险已日益受到社会各界关注，但智能医疗算法决策、算法分发等过程中的潜在问题，仍有待得到深度剖析与有效应对。智能医疗算法决策可能引发叠加型的医源型与药源型安全风险，智能医疗算法分发及自主应用对健康公平产生双向影响效应，智能医疗爬虫算法使医疗健康及生物识别信息保护面临挑战。智能医疗算法审查立法亟待得到有效地推进，针对重点领域、重点问题的立法尤其需要选择正确的立法路径。智能医疗算法审查“领域法”的融合路径，以传统风险与新兴风险立法、管理型立法与促进型立法、技术治理与组织治理领域立法的融合为核心，从整体主义视角协调不同领域的风险控制工具，对智能医疗算法临床应用的嵌入式风险进行防控。智能医疗算法审查的融合型立法，以动态分级授权代替机械化的算法规制立法，在立法规制与法律保障的双重张力间找到最佳的平衡点；立足智能医疗双重空间的现实立法需求，针对智能医疗算法应用的嵌入式技术及组织系统安全隐患，推进一体融合的场景化算法审查立法，推动控制者义务设置与审查评估机构建设的有机结合，防范智能医疗算法应用所引发的医源型与药源型安全隐患。

建议增设智能医疗算法决策风险最小化的命令性规范，将风险评估作为智能医疗算法临床应用的前置性审查程序，设定智能医疗研发企业的算法决策风险防控义务，形成智能医疗算法决策风险追踪的统一标准与技术性规定，并制定智能医疗算法决策风险评级标准及管理规定。通过算法风险防控立法、医疗立法、民法典的跨部门融合，设置算法决策风险最小化准则的配套规范，建立智能医疗算法风险防控立法与基本医疗立法的衔接机制，设置医疗系统风险与介入治疗行为风险识别程序，全方位监管和防范介入治疗过程中的人机协同风险，并以患者知情同意规定为基础，设置智能医疗算法应用中的健康风险告知义务。建议设置智能医疗算法自主应用的动态分级授权制度，以有条件的允许而非概括式授权的方式，根据医疗过程分类分级设置智能医疗算法自主应用的授权性规范；区分预警与诊疗过程，设置智能医疗预警及诊疗算法模块信息爬取的限制性规范，区分公共健康紧急状况和常态化情形，对智能诊疗信息采集进行规制；区分人类遗传资源与人口健康信息，明确输出境的具体规则，为居民提供更加优质高效的医疗卫生服务，为人民生命健康提供有力的法治保障。