人工智能视域下医疗事故罪的适用嬗变与调适

霍俊阁

（西南政法大学，重庆 401120）

一、问题提出

人工智能正改变着医疗保健和医学实践，特别是数据驱动技术和机器学习技术正在积极促进完成各种医学和临床任务［1］。目前，人工智能在医学的运用主要集中于，智能辅助诊疗、智能药物研发、智能语音识别与语义理解、健康管理和医院管理等方面［2］。“人工智能和医疗的结合可以大大提高医疗质量，降低医疗成本”［3］。可是，达芬奇手术机器人致死案等事件的发生却警示着，医疗人工智能在辅助诊疗过程中也可能会发生错误从而造成医疗事故。例如，在医疗人工智能介入诊疗情形中，如果医疗人工智能给出错误的诊断建议或者参考信息，并就此对患者开展相关医疗行为，则可能造成患者轻伤、重伤或者死亡等损害。而对于借助人工智能而误诊、从而致使患者遭受损害时，应当由谁承担法律责任并不清楚［4］，医疗人工智能与医务人员何者才应当是医疗事故罪的责任主体尚存争议。因为人们仍未就医疗人工智能的刑事责任主体地位达成一致意见，虽然大多数观点认为医疗人工智能不是刑事责任主体，但也有观点明确肯定医疗人工智能的刑事责任主体地位。例如，有论者提出，在智能医疗技术背景下，严重不负责任的医疗主体可能是智能技术或者智能机器人，从而使医疗事故罪责任主体出现模糊化［5］。那么，在人工智能视域下适用医疗事故罪时，需要前提性明确医疗人工智能是否属于刑事责任主体，是否是医疗事故罪的责任主体。

对此应当认为，在当前的弱人工智能技术阶段和法律规范体系下，医疗人工智能不具有刑事责任主体地位，其不是医疗事故罪的责任主体。在当前较长的一段时期内，医疗人工智能只是医生进行诊疗的辅助工具，属于医疗器材的范畴［6］。即使是能够通过其算法对病变部位进行自动识别，并提供明确诊断提示的诊断软件，我国《医疗器械分类目录》也仅将其作为第三类医疗器械管理，并没有排除出医疗器械范畴。“未来如果出现所谓人工智能的‘奇点’，所谓的‘强人工智能’具有了自主意识和意志并能对抗人类控制，其法律主体地位的决定权仍在人类，而不可能自然具备。”［7］如果法律规范没有明确赋予医疗人工智能刑事责任主体地位，其并不能当然成为医疗事故罪的责任主体。所以，医疗人工智能介入下的医疗事故罪责任主体依然是医务人员，而不会带来医疗事故罪的责任主体变革。

然而，人工智能医疗行为毕竟是人工智能技术与医疗行为的融合，其具有区别于传统医疗行为的数据化、自主性、风险复杂性等特征［8］。医疗人工智能的介入固然不会改变医疗事故罪的传统责任主体，但却深刻影响着医疗事故罪违法性和有责性的司法认定。在医疗事故罪的司法适用中，医疗人工智能行为区别于传统医疗行为的上述特征，重构了患者知情同意原则、医务人员注意义务的适用逻辑，使得人工智能视域下的医疗事故罪面临着违法性和有责性的认定困境。基于此，本文将详细阐述人工智能视域下医疗事故罪的适用变化，并通过违法阻却事由和注意义务认定模式的革新优化其司法适用。

二、人工智能视域下医疗事故罪的适用嬗变

医疗人工智能明显不同于普通医疗器械的诊疗技术和诊疗规范，正改变着医疗事故罪的司法适用。医疗人工智能对诊疗活动的介入，使医疗人工智能算法和医疗人工智能临床诊疗规范，深刻影响着患者知情同意和医务人员注意义务的认定模式。在违法性认定层面，医疗人工智能的介入会阻滞知情同意原则在医疗活动的适用，使其难以阻却医疗事故罪的违法性。而在有责性认定层面，医疗人工智能的介入致使注意义务的通常标准失灵，临床诊疗规范上的“当时的医疗水平”标准，难以完成判定医务人员是否违反注意义务的任务。

（一）违法阻却困境：知情同意原则难以适用

治疗行为在有可能治愈患者疾病的同时也潜藏着巨大风险，但在实际医疗活动中有时必要的风险根本难以避免，否则医疗势必难以进行［9］。于是，知情同意原则被适用于医疗事故罪中，用以阻却医疗行为的刑事违法性。“所谓知情同意原则，是指医方应当就自己具有的、可能影响患方作出是否同意医方实施医疗行为的决定的重要事项，向患方进行充分的说明，患方在完全理解医方的说明之后，自由地作出接受或者拒绝医方实施医疗行为的决定”［10］。知情同意原则之所以能够阻却医疗行为的刑事违法性，主要在于“经过患者本人同意的医疗决定，因其具备法律上的正当性使得医疗行为消弭了可能存在的违法性。”［11］但是，其中的患者对医疗行为的同意必须是真实有效的同意，应当是患者在知情、理解医疗行为相关信息前提下自愿做出的同意决定。因为患者知情同意原则的确立源于患者自主决定权，而患者对相关医疗行为的错误同意、受欺骗同意等非自愿同意并非行使其自主决定权的行为。

这就要求刑事司法适用知情同意原则时，必须排除患者因对医疗行为存在理解错误或者缺乏充分理解，而做出与其真实意愿相违背的同意的情形。如果同意人对其同意的内容完全没有认识，则不能将该同意归属为他自己作出的同意［12］。例如，由于医务人员就相关医疗行为风险告知不充分或者告知错误，使患者错误选择了风险较高的医疗行为并造成损害的情形，显然难以认为患者对该医疗行为作出了同意，无法依据知情同意原则否定医疗行为的违法性。可是，医疗行为是高度专业化的工作，让缺乏医疗专业知识的患者完全理解医务人员所告知的医疗行为信息并非易事。在此情形下，要保证患者同意的真实有效性，就需要医务人员对医疗行为信息进行明确、充分的告知，从而使患者能够充分理解医疗行为相关信息。因而，在医疗事故罪中适用知情同意原则时，既要审查医务人员是否充分告知了医疗行为的相关信息，也要审查患者对医疗行为的同意是否真实有效。换言之，能够阻却医疗事故罪刑事违法性的患者知情同意，必须是在医务人员充分告知医疗行为相关信息下作出的真实有效同意。可是，在医疗人工智能介入诊疗情形下，不仅医务人员对医疗行为的告知难言充分，而且患者同意医疗行为的真实有效性难以认定，这使得知情同意原则难以适用于医疗事故罪的违法阻却。

一方面，医疗人工智能的算法“黑箱”致使医务人员无法详细告知医疗风险信息，从而难以在医疗事故罪中依据知情同意原则阻却其违法性。因为根据《民法典》《医疗事故处理条例》等法律法规对医务人员告知内容的规定，医务人员对医疗行为的充分告知必然包含患者病情、医疗措施、医疗风险等信息。例如，《民法典》第1219条明确要求应当向患者说明病情和医疗措施，需要实施手术、特殊检查、特殊治疗的，应当及时向患者具体说明医疗风险、替代医疗方案等情况。又如，《医疗事故处理条例》第11 条要求，在医疗活动中，医疗机构及其医务人员应当将患者的病情、医疗措施、医疗风险等如实告知患者。而由于医疗事故侵权行为与医疗事故犯罪行为在行为结构上并无差别，二者的区别主要在于危害结果程度大小不同。所以，上述规定依然适用于医疗事故罪中知情同意原则的认定。换言之，在阻却医疗事故犯罪行为违法性的场合，医务人员必须向患者告知病情、医疗措施、医疗风险等信息，才能认定其告知行为成立。这就要求医务人员应当向患者披露医疗人工智能的网络攻击的风险、影响患者医疗保健的偏见风险以及不匹配的风险［13］，因为医疗人工智能面临的上述三类风险均属于具体的医疗风险，而不只是医疗人工智能遭遇的元风险。但是，智能算法天然存在着不透明的“黑箱”［14］，医疗人工智能中的无法解释的算法“黑箱”，会使医务人员无法完全认知其医疗风险，更难以解释医疗人工智能上述三类风险的发生类型、概率及其节点，以及为什么会发生或者如何有效避免等信息。在无法向患者详细告知医疗人工智能医疗风险情形下，显然很难认定医务人员履行了充分告知义务，难以将知情同意原则作为其刑事违法的阻却事由。

另一方面，医疗人工智能决策的难理解性致使患者难以作出真实有效同意，从而使知情同意原则难以适用于医疗事故罪的违法阻却。如果从患者角度审视知情同意原则，可以发现，“无论采取哪种披露原则，也不论医生披露多少医疗信息，在刑法上最为关键的是让患者理解与自身相关的医疗行为及其后果。”［15］可是，基于复杂神经网络的人工智能决策并不完全可理解，尤其是对患者而言更是如此［16］。因为最好的机器学习系统距离实现类人学习和思维仍有很长的距离［17］，医疗人工智能思维与人类思维之间的差距，使得患者难以理解医疗人工智能的决策逻辑。而且，人工智能系统不会自动存储与其决策有关的信息，其无法像人类一样生成事后解释［18］，不能在给出结果之后再追溯回来解释其决策过程。如果患者要理解医疗人工智能给出的决策，就需要遵循事前解释逻辑进行理解，即需要在医疗人工智能输出决策结果之前为其设置解释程序。但是，这一做法明显会因额外增加医疗人工智能研发、生产、应用成本而缺乏可行性，所以患者无法通过设置事前解释程序的方式来理解医疗人工智能的决策。那么，在刑法规范评价上，如果患者对医疗人工智能的决策缺乏充分理解，则难以认为其对医疗人工智能介入下诊疗行为的同意是真实有效的。并且，在理性人意义上，如果患者明确知道医疗人工智能决策存在医疗风险，却难以获得与决策风险有关的可理解信息时，其通常会基于原有知识储备、社会阅历甚至是对医疗人工智能决策的风险想象而作出保守决策，从而对属于新技术新领域的医疗人工智能采取排斥态度。因此，医疗人工智能介入诊疗情形下的患者真实有效同意难以证成，难以依据知情同意原则阻却医疗事故罪违法性。

（二）责任认定困境：注意义务通常标准失灵

通说认为，犯罪过失的本质是违反注意义务，行为人违反注意义务则具有过失责任［19］。那么认定医疗事故罪主观责任的核心就在于，医务人员是否违反了注意义务。与医务人员注意义务的一般认定不同的是，在医疗人工智能介入诊疗的情形下，除了要判断医务人员是否违反了对通常注意对象的注意义务外，还需要判断医务人员是否违反了对医疗人工智能的注意义务，不能依据信赖原则直接豁免该注意义务。因为国内外医疗实践中已经发生的医疗机器人致人损害事件说明，即使按照操作规范应用医疗人工智能，也不可避免地会发生错误，从而引发致患者损害的医疗事故。人们之所以广泛应用医疗人工智能不是因为其百分百无风险，而是基于其安全性要高于人类。而且，医疗人工智能所包含的深度学习、自主决策等自主性技术，使得医疗人工智能的错误呈现出不确定性和不可预知。拥有自主技术的人工智能对个别患者的医疗决定，通常不能被明确地判定为正确或不正确［20］。在医疗人工智能介入诊疗的情形中，医务人员很难精确判断医疗人工智能的哪一项决定是错误或者正确的，无法准确无误地剔除出它的错误决定。所以，在医疗人工智能介入诊疗情形下，医务人员必然对医疗人工智能可能发生错误并引发医疗事故这一事实，具有预见可能性。既然如此，医务人员就无法主张对医疗人工智能的信赖而豁免注意义务。换言之，在医疗人工智能介入诊疗情形下，医务人员需对此负有注意义务，认定医疗事故罪主观责任时需审查医务人员是否违反了对医疗人工智能的注意义务。

而按照《民法典》第1221 条的规定，医务人员是否违反了注意义务应当以“当时的医疗水平”为认定标准。具体到医疗事故罪适用实践中，注意义务的“当时的医疗水平”标准，通常是指临床诊疗规范中的当时医疗水平。因为诊疗技术规范既是医疗事故罪“严重不负责任”要件的重要认定依据，①《最高人民检察院、公安部关于公安机关管辖的刑事案件立案追诉标准的规定（一）》第56 条第2 款规定，“具有下列情形之一的，属于本条规定的‘严重不负责任’：……（六）严重违反国家法律法规及有明确规定的诊疗技术规范、常规的；……”。也是医疗事故技术鉴定的主要标准。②《医疗事故技术鉴定暂行办法》第4 条规定：“医学会组织专家鉴定组，依照医疗卫生管理法律、行政法规、部门规章和诊疗护理技术操作规范、常规，运用医学科学原理和专业知识，独立进行医疗事故技术鉴定。”这就把注意义务的“当时的医疗水平”标准，限定在了临床诊疗规范层面。而且，当前对“当时的医疗水平”的几种代表性解释，都是以“临床诊疗规范”为基本标准［21］。如有论者指出，“当时的医疗水平”中的医疗水平指的是损害发生当时临床所能够达到的医疗技术水平［22］。所以，当医务人员未尽到与当时临床诊疗规范上的医疗水平相应的诊疗义务时，才应被认定为违反了注意义务而对患者损害具有过失。但是，在医疗人工智能介入下的医疗事故罪认定中，临床诊疗规范上的“当时的医疗水平”这一注意义务标准却明显失灵，无法成为判断医务人员是否违反了对医疗人工智能所负注意义务的标准。

其一，医疗人工智能临床医疗水平的诊疗规范并不健全，难以依据临床诊疗规范上的“当时的医疗水平”标准，判断医务人员是否违反了对医疗人工智能的注意义务。尽管国家卫健委办公厅发布的《国家限制类技术临床应用管理规范》规定了“人工智能辅助治疗技术临床应用管理规范”但该规定仅适用于应用机器人手术系统辅助实施手术的场合，不适用于医疗人工智能诊断以及其他治疗场合。可以说，当前在医疗机器人辅助实施手术之外的场合，没有与医疗人工智能临床医疗水平相关的规范性文件。实际上，即使在医疗机器人辅助实施手术的场合，也难以真正将该规范作为认定医务人员注意义务的刑事司法标准。因为当前尚未出台统一适用的医疗人工智能技术安全标准，这将造成不同研发者、生产者、医疗机构，对同类医疗人工智能产品操作规范的设定不一，从而难以同等评价医务人员的行为是否符合该管理规范中“严格遵守人工智能辅助治疗技术相关操作规范”的要求。如果将该规范作为确定医疗人工智能临床医疗水平的标准，并据此认定医务人员是否违反注意义务，会带来类案中过失责任的认定混乱，容易使医疗人工智能介入下的医疗事故刑事案件出现类案异判。因而，无法以临床诊疗规范上的“当时的医疗水平”标准，判断医务人员是否违反了注意义务。

其二，无法参照普通医疗设备的诊疗规范确定医疗人工智能医疗水平，从而难以依据临床诊疗规范上的“当时的医疗水平”标准来判断医务人员是否违反了对医疗人工智能的注意义务。将当前阶段的医疗人工智能归入医疗器械范畴，并不意味着能够参照与普通医疗设备相关的法律、法规、规章、诊疗规范等临床诊疗规范，来确定医疗人工智能的医疗水平。这不仅在于医疗人工智能以大数据和深度学习为核心技术，通过数据和算法的相互结合来实现其诊疗功能，与普通医疗设备分属不同的技术层级。而且因为二者之间的技术层级差异，使医疗人工智能得出的假设明显不同于普通医疗设备作出的假设。通常“为了达到可接受的性能水平，机器必须拥有大量的信息，它将收集这些信息并从中作出假设”［23］。但是，“与一般的数据分析或之前的‘数据挖掘’相比，大数据的独创性，除了数据的数量和多样性之外，还在于假设不是预先确定的。”［24］医疗人工智能假设的不确定性，使其与普通医疗设备的诊疗行为具有实质差异，无法共用相同的临床诊疗规范。所以，无法参照普通医疗设备的临床诊疗规范确定医疗人工智能医疗水平。在不能参照确定医疗人工智能临床医疗水平情形下，显然难以依据临床诊疗规范上的“当时的医疗水平”标准，评判医务人员是否违反了相关注意义务。

其三，无法参照医务人员的诊疗规范确定医疗人工智能医疗水平，从而难以依据临床诊疗规范上的“当时的医疗水平”标准，判断医务人员是否违反了对医疗人工智能的注意义务。因为虽然人类智能和人工智能的学习原理是相似的，但各自的诊断方法明显不同，临床医生以直观和演绎方式进行诊断，人工智能则主要是分析和归纳方式［25］。二者在诊疗逻辑上的重大差异，决定着医疗人工智能的医疗行为与医务人员的诊疗行为存在本质差别，医疗人工智能并非完全遵照医务人员的思路、步骤、考虑因素、行为规范等作出医疗行为。所以，无法依据相同的临床诊疗规范管理二者的医疗行为，不能参照医务人员标准对医疗人工智能医疗水平作出评价。从而难以依据临床诊疗规范上的“当时的医疗水平”标准，判断医务人员是否违反了对医疗人工智能的注意义务。

三、人工智能视域下医疗事故罪的适用调适

对于医疗人工智能带来的医疗事故罪违法性与有责性适用规则的改变，需要适时调整医疗事故罪的适用模式以作出有效应对。为了平衡患者健康权益保护与医疗人工智能技术发展的关系，应当积极适用被允许的危险事由以填补知情同意原则的适用空缺，并以多元化进路确定注意义务的“当时的医疗水平”标准。

（一）违法阻却事由的拓展：被允许的危险

1.被允许的危险对医疗事故罪的违法阻却

人工智能的算法“黑箱”和回溯阻断等技术限制，已经使知情同意原则难以解决所有情形下的医疗事故罪违法阻却问题。应在知情同意原则之外适用被允许的危险，作为医疗事故罪违法阻却事由的重要补充。在不涉及医疗人工智能的诊疗情形下，可以直接依据知情同意原则阻却医疗事故罪的违法性。在医疗人工智能介入诊疗情形下，难以适用知情同意原则时，则需从被允许的危险角度阻却医务人员医疗行为的刑事违法性。此时，虽然医务人员的医疗行为无法取得患者知情同意，但若医疗人工智能介入下的医疗行为危险是被允许的，也应当阻却医疗事故罪的违法性，不应纳入医疗事故罪的违法范围。

其一，被允许的危险能够使医疗行为具备社会相当性，从而阻却医疗事故罪的违法性。我国刑法理论通常认为，“具有社会相当性的行为，即使存在法益侵害，也不在法律禁止之列。”［26］因为具有社会相当性的行为本质上是社会秩序允许的行为，该行为所具有的与社会生活的相当性排除了其成立刑事违法。如果认为具有社会相当性的行为构成刑事违法，既不符合社会常识也有违公众朴素的法感情，会带来社会生活秩序的混乱。但是，社会相当性并非作为一般条款概念而直接阻却违法性［27］，以社会相当性阻却刑事违法时必须将其细化为具体事由。而从威尔采尔提出的九个具体的社会相当性事例来看，①作为社会相当性概念的提出者，威尔采尔整理出了九种具有社会相当性的具体事例，包括被允许的危险行为、交通管理部门对自由的限制、体育活动等。参见张明楷.刑法学［M］.5 版.北京:法律出版社，2016：194.与医疗活动最密切相关的就是被允许的危险行为。当医疗人工智能介入下的医疗行为的危险被社会所允许时，其就具有了社会相当性，能够依据社会相当性理论阻却医疗事故罪的违法性。可以说，在医疗人工智能介入诊疗情形下，被允许的危险即是社会相当性理论得以阻却医疗事故罪违法性的具体事由。因此，在医疗人工智能介入诊疗情形下，被允许的危险事由能够肯定医疗行为的社会相当性，从而将其排除出医疗事故罪的违法范围。

其二，在医疗人工智能介入诊疗情形下，将被允许的危险作为医疗事故罪的违法阻却事由，是填补知情同意原则适用例外的需要，符合知情同意原则法律规范体系的要求。虽然知情同意不是刑事法律规范上的明确概念，但《民法典》《医疗机构管理条例》等前置法律规范已经明确规定了知情同意原则，且其相关条文构成了知情同意的规范体系。知情同意原则的法律规范体系明确肯定了适用知情同意的例外情形，并为被允许危险事由的适用预留了空间。例如《民法典》第1220 条规定，在因抢救生命垂危的患者等紧急情况下不能取得知情同意的，可以经医疗机构负责人或者授权负责人批准而实施医疗措施。基于此，在此类紧急情形下因不存在知情同意而无法以之阻却医疗事故罪的违法性时，应当依据医疗机构负责人或者授权负责人的批准肯定医疗行为的正当性。而之所以如此规定，主要是基于被允许危险的考虑，患者紧急情况的出现以及医疗机构负责人、授权负责人的批准，使相应医疗行为的危险性得到允许，从而能够作为知情同意原则的例外而肯定医疗行为正当性。换言之，知情同意原则的既有法律规范体系表明，知情同意原则不能阻却所有情形下的医疗事故罪的违法性，应当在实践中以被允许的危险事由填补知情同意适用的例外情形，从而弥补知情同意在违法阻却范围上的局限。因而，在作为知情同意适用例外的医疗人工智能介入诊疗情形下，以被允许的危险阻却医疗事故罪的违法性，是遵循知情同意原则法律规范体系的当然要求。

其三，在医疗人工智能介入诊疗的情形下，以被允许的危险阻却医疗事故罪的违法性，符合医疗事故罪轻缓刑事政策的要求。医疗事故罪较低的法定刑与较少进入审判阶段的现状表明，我国对医疗事故罪采取的是轻缓刑事政策，坚持的是宽严相济刑事政策中“宽”的一面。基于此，医疗事故罪在刑事政策上以社会防卫之必要为限度［28］，并非要禁止所有具有法益侵害危险的医疗行为，而只是将具有不被允许的法益侵害危险的医疗行为纳入医疗事故罪处罚范围。“若因医疗行为具有危险性便停止业务活动或者不采取危险性较高的治疗方法，则不仅无法促成医疗技术的进步，而且对病人有害。”［29］所以，为了促进医疗人工智能的临床应用，不能因为其介入下的医疗行为有法益侵害危险就肯定刑事违法性，更不能在造成患者损害时一概认定为医疗事故犯罪。而是需要在医疗人工智能介入诊疗场合，以被允许的危险作为医疗事故罪的违法阻却事由，将该情形下被允许危险的医疗行为排除出医疗事故罪的违法范围，以保持医疗事故罪轻缓刑事政策要求的最低防卫限度。

2.医疗人工智能介入下被允许危险的划定

在医疗人工智能介入诊疗情形下，依据被允许的危险阻却医疗事故罪违法性，必须确定医疗人工智能介入下的医疗行为危险的被允许范围。结合医疗事故罪的规定，在医疗活动领域被允许的危险行为通常应符合以下几个特征：（1）该医疗行为在现有医疗水平和医学发达程度上具有不可避免的危险；（2）该医疗行为为诊疗活动所必需；（3）该医疗行为潜在的正面效应与就诊人的利益一致，且足以弥补其潜在的负面效应；（4）行为人在医疗活动中没有违反各个医务环节的注意义务［30］。但是，对医疗人工智能介入下医疗行为被允许危险的划定不应止步于此，还应进一步从医疗人工智能技术角度分析医疗行为被允许的危险范围。因为医疗人工智能介入下的医疗行为危险源于医疗人工智能实体的危险，划定被允许的危险范围，是确定医疗行为被允许危险范围的必备要素。鉴于不同功能的医疗人工智能蕴含着不同概率的法益侵害危险，且医疗人工智能实体侵害法益的危险概率因其技术发展阶段不同而有所差异，那么在医疗事故罪适用中，划定医疗人工智能介入下医疗行为的被允许危险范围时，除了要考察被允许危险行为的前述四个特征外，还需要注重以下几点：

第一，医疗人工智能的技术创新程度，与其介入下的医疗行为危险被允许呈正比例关系。医疗人工智能实体的研发、生产和应用属于技术创新范畴，医疗人工智能的法益侵害危险是其创新过程中产生的副产品，是医疗人工智能追求技术创新、技术突破过程中的衍生品。而医疗事故罪对医疗人工智能介入下的医疗行为危险的规制，则属于刑法层面的制度创新内容，是医疗人工智能危险督促下的医疗事故罪适用范围拓展。因为根据科学技术发展的一般规律，医疗人工智能介入的医疗行为危险取决于医疗人工智能技术的创新程度，越是创新性的医疗人工智能技术就越容易赋予医疗行为危险。那么从更加宏观的视角来看，在医疗人工智能介入情形下适用医疗事故罪，实质上是对技术创新与制度创新之间协同关系的探索。技术创新与制度创新之间的协同关系，必然要求应当对医疗人工智能技术创新过程中的危险采取适当容忍态度。在对待医疗人工智能介入下的医疗行为危险时，应当保持技术创新与被允许危险之间的协同，使医疗人工智能的技术创新程度与被允许的危险认定之间保持正比例关系。只有坚持科技创新与制度创新的协同发展，依托两者的协同发力，才能实现创新发展的内生动力和活力上的根本性变革，从而全面提升我国的自主创新能力［31］。所以，在医疗人工智能介入下的医疗行为被允许危险的划定过程中，医疗人工智能技术创新程度越高，相应医疗行为危险被允许的可能性越大，医疗人工智能技术创新程度越低则相应医疗行为危险被允许的可能性越小。

第二，医疗人工智能危险的社会接受度，与其介入下的医疗行为危险被允许呈正比例关系。如有学者所言，社会危害性是人们基于自己的利益和感受对行为作出的负价值评价，而法律上的评价主体只能是一定社区内占主导地位的社会主文化群［32］。那么，医疗人工智能介入下的医疗行为是否缺乏社会危害性?其危险是否属于被允许的危险?也需要由社会主流群体基于自己的利益和感受作出评价。而在医疗器械应用意义上，社会公众对医疗人工智能危险的接受程度，是划定该医疗行为被允许危险范围的重要因素。如果社会公众普遍接受了医疗人工智能的危险，就应当认为相应的危险是被允许的。如果社会公众普遍不接受医疗人工智能的危险，则应当将其介入下的医疗行为危险视为不被允许的危险，不能阻却医疗事故罪的违法性。但是，社会公众对特定医疗人工智能实体的接受与否并非截然二元，总是存在着一个包括由不接受到接受的认识全过程的量变阶梯。这就构建了医疗人工智能危险的社会接受度，与其介入下的医疗行为危险被允许之间的正比例关系。社会公众越是能够接受医疗人工智能的危险，则越可能将其介入下的医疗行为危险认定为被允许的危险；反之，则越可能将其介入下的医疗行为危险认定为不被允许的危险。

第三，当患者明确拒绝接受医疗人工智能介入诊疗时，应区分情形判定医疗人工智能介入下的医疗行为危险是否被允许。既便拒绝该诊疗会危及患者生命，也不能因此否定医疗人工智能介入下的医疗行为危险属于被允许的危险。但是，如果拒绝医疗人工智能介入诊疗不会危及患者生命，则应当据此排除该医疗行为危险成立被允许的危险。因为在规范体系上，虽然可以基于知情同意对医疗事故罪违法阻却的适用局限，适用被允许的危险以补充知情同意原则适用的例外情形。但是，这仍以尊重和维护患者的知情同意权为前提，不能以被允许危险的例外适用而否定知情同意原则本身。而且，刑法理论上一般认为，患者对非重大法益损害的承诺能够使其对侵害行为的同意有效，能够阻却行为人侵害行为的刑事违法性，而患者对自身重大法益损害的承诺才会导致其对侵害行为的同意无效，不阻却行为人侵害行为的刑事违法性。换言之，患者对自身非重大法益损害的承诺，在刑法上属于有效同意，即使在医疗人工智能介入诊疗情形下也应当予以肯定。所以，如果拒绝医疗人工智能介入诊疗的行为不会危及患者生命，则应当尊重患者的知情同意权，不能将此情形下的医疗行为危险作为被允许的危险。

（二）“当时的医疗水平”标准解释多元化

在医疗事故罪主观责任认定中，临床诊疗规范上的“当时的医疗水平”虽然是医务人员注意义务的通常标准，但其并不适用于医疗人工智能介入下的医疗过失责任认定。可是，“当时的医疗水平”系《民法典》等规范确定的医务人员注意义务的法定标准，必须在医疗事故罪主观责任认定中予以恪守。这就需要突破“当时的医疗水平”的单一解释视角，应当从作为注意义务依据的诊疗惯例、临床指南、专家共识、医学文献等其他视角予以综合解释，形成“当时的医疗水平”标准的多元解释结论，以使之能够判定医务人员是否违反了对医疗人工智能的注意义务。并且，将“当时的医疗水平”限于临床诊疗规范上的“当时的医疗水平”，本身就存在着误以为必然存在（统一的）临床诊疗规范等缺陷，对“当时的医疗水平”的确定理应采取一种综合性进路［21］188-195。而对“当时的医疗水平”的多元解释并非杂乱无序的，需要依据医疗人工智能介入诊疗活动的不同情形予以展开。

当前，人工智能医疗器械依据用途可分两类：通过提供诊疗活动建议辅助用户进行医疗决策的辅助决策类；仅提供医疗参考信息而不进行医疗决策的非辅助决策类。①参见《人工智能医疗器械注册审查指导原则》。相应的，医疗人工智能介入下的诊疗活动包括四类情形：一是医疗人工智能不提供诊疗建议的情形；二是医疗人工智能提供诊疗建议，且该诊疗建议没有异常的情形；三是医疗人工智能提供诊疗建议，但该诊疗建议轻微异常的情形；四是医疗人工智能提供诊疗建议，但该诊疗建议严重异常的情形。不同介入情形下的诊疗行为对医务人员注意能力、医疗水平的要求不尽相同，对医务人员所需知识技能的要求也存在差异。基于此，在医疗人工智能介入诊疗情形下，为判定医务人员是否违反相关注意义务，应当依据以下方式确定“当时的医疗水平”标准并予以适用。

第一，当医疗人工智能不提供具体诊疗建议时，应当以诊疗惯例上的“当时的医疗水平”为标准，判断医务人员是否违反了相关注意义务。法律只可能对医师注意义务中最重要的问题做出抽象的、概括的规定，大量的医师注意义务是以医疗行为习惯、学理等方式存在着［33］。诊疗惯例作为诊疗实践中形成的、被医界公认的行之有效的操作习惯和普遍做法，与医疗法律法规、诊疗护理规范、常规一起构成了医务人员注意义务的最主要来源［34］。如果医务人员违反诊疗惯例，则应当被认定为对患者损害具有医疗过失。①如在江苏省南京市中级人民法院（2007）宁民一终字第741 号民事判决书中，法院认为，医院对姜某疾病的诊治行为应符合诊疗规范和常规，但医院自13:30 同意会诊至17:20 左右才到脑科医院会诊，造成对姜某诊治的迟延，构成医疗过失。所以，从医师注意义务的法律渊源来看，应当将医疗人工智能的诊疗惯例作为其“当时的医疗水平”的确定依据，医疗人工智能“当时的医疗水平”包括诊疗惯例上的“当时的医疗水平”。在作用范围上，“当时的医疗水平”标准，应适用于医疗人工智能不提供具体诊疗建议的情形。因为在医疗人工智能只是为医生诊疗决策提供参考信息时，它并没有凸显出自主决策等智能化特质，而是扮演着类似于普通医疗设备的“工具”角色。此时对医务人员注意能力和医疗水平的要求，与普通医疗设备情形下的要求没有本质区别。所以，在此情形下判断医务人员是否违反了对医疗人工智能的注意义务时，应当遵守医疗人工智能的临床诊疗惯例，以诊疗惯例上的“当时的医疗水平”为标准。

第二，当医疗人工智能提供了具体诊疗建议且该诊疗建议没有异常时，应当以临床指南中的“当时的医疗水平”为标准，判断医务人员是否违反了对医疗人工智能的注意义务。这是因为临床指南是临床问题最佳医疗实践的总结，是指导医生临床实践和决策的重要文件［35］，属于确定医务人员注意义务的依据之一。而且因为在医疗人工智能提供正常的诊疗建议场合，不需要医务人员具有高于一般水平的注意能力，依据通常标准的医疗水平即可管控医疗人工智能介入下的诊疗行为。虽然医疗人工智能的诊疗惯例和临床指南，都是确定医务人员一般注意能力和医疗水平的依据，但诊疗惯例在应用中明显滞后于临床指南。而此时医疗人工智能已经凸显出的自主性等智能化特征，要求医务人员必须更加谨慎地保障自身注意能力和医疗水平的科学性、常规性，以避免医疗事故发生。所以，在医疗人工智能提供正常诊疗建议情形下，医务人员应当具备临床指南上要求的医疗水平，应当遵循临床指南管控医疗人工智能介入下的医疗行为。相应的，在此情形下应当将临床指南上的“当时的诊疗水平”，作为判断医务人员是否违反相关注意义务的标准。

第三，当医疗人工智能提供了具体诊疗建议，但该建议轻微异常时，应当以专家共识中的“当时的医疗水平”为标准，判断医务人员是否违反了对医疗人工智能的注意义务。在医疗人工智能提供了轻微异常的诊疗建议场合，医务人员应当对医疗人工智能的行为具有高于一般水平的注意能力，需要具有较高的医疗水平，否则将无法准确判断和处置医疗人工智能的轻微异常行为，可能引发致患者损害的医疗事故。在此情形下，医务人员的较高注意能力和医疗水平，需要从有关医疗人工智能的专家共识中习得。因为“对于制定任何新的疾病诊疗的指导文件，惯用的做法是最初以专家共识或临床建议的形式进行推荐，在积累了充足的临床应用证据后，再进行及时修订或以指南形式推出。”［36］而在此过程中，有关医疗人工智能的专家共识会对医务人员注意能力提出更高要求，其中的医疗水平也会明显高于临床指南上的医疗水平。而且，专家共识本身就是司法实践中确定医务人员注意义务的依据，②如在北京市第一中级人民法院（2015）一中民终字第04746 号民事判决书中，法院认为，“当现有诊疗规范针对某些疑难罕见疾病尚未有明文诊疗操作规范时，应当将判断医疗机构或医务人员高度注意义务的标准延伸至该行业的专家共识或多数专家意见。”专家共识中的“当时的医疗水平”是医疗人工智能“当时的医疗水平”的组成内容。因而，在医疗人工智能提供轻微异常的诊疗建议时，应当将专家共识中的“当时的医疗水平”，作为判断医务人员是否违反了对医疗人工智能所负注意义务的标准。

第四，当医疗人工智能提供了具体诊疗建议但该建议严重异常时，应当以医学文献上的“当时的医疗水平”为标准，判断医务人员是否违反了对医疗人工智能的注意义务。“在司法实践中，法院也常常引用医学文献记录，作为判断医师在实施诊疗活动时是否已经尽到了注意义务的根据。”［37］因为根据《民法典》第1221 条的要求，医务人员的诊疗行为应当与“当时的医疗水平”相适应，既然如此，通过不断学习来掌握新知识和新技术的义务也应该包含在一般医生的注意义务之中［38］。基于此，在医疗人工智能介入诊疗情形下，医学文献也是确定医务人员注意义务的重要根据，认定医务人员是否违反了对医疗人工智能所负注意义务的“当时的医疗水平”标准，理应包括医学文献上的“当时的医疗水平”。可是，医学文献上的“当时的医疗水平”毕竟是对医务人员注意义务的更高要求，应当将之仅适用于医疗人工智能提供严重异常诊疗建议的场合。因为在该情形中，医生需要拥有更高的医疗水平才能明确应如何处置医疗人工智能的严重异常行为，从而避免其引发医疗事故，保障患者健康权益。而对更高医疗水平的掌握，要求医生必须关注、学习最新的医学文献，以掌握医疗人工智能的前沿技术和知识。所以，此时应以医学文献上的“当时的医疗水平”标准，判断医务人员是否违反了对医疗人工智能的注意义务。

四、结语

医疗人工智能在辅助诊疗方面的运用极大提升了当前的医疗水平，但具有内生风险的人工智能与风险属性的医疗行为的结合，也使医疗人工智能介入下的诊疗行为存在致患者损害的可能性。若患者因使用人工智能技术（特别是人工智能黑箱）而遭受损害，目前的法律模型尚不足以解决这些新的现实问题［39］，医疗人工智能的介入使医疗事故罪常态化的违法阻却事由和责任认定标准难以适用。在医疗人工智能介入诊疗情形下，应当在知情同意原则之外适用被允许的危险这一违法阻却事由，从而克服知情同意原则对医疗事故罪违法性的阻却局限。同时，因当前医疗人工智能的临床诊疗规范并不健全，需要从诊疗惯例、临床指南、专家共识、医学文献等方面，综合确立“当时的医疗水平”标准的具体内容，以判定医务人员是否违反了对医疗人工智能的注意义务，是否符合医疗事故罪的过失责任要件。从而通过医疗事故罪违法阻却事由和注意义务标准的更新，疏解医疗人工智能应用对此罪认定的冲击，推动医疗事故罪司法适用的完善。