医疗情感计算应用的多维困境及其法治实现*

岳远雷 徐着雨

近年来，情感计算技术在智能医学领域得到创新性应用，为实现健康中国拓展了新的空间。随着智能可穿戴设备、医用聊天机器人等医疗产品的使用，医疗情感计算技术的法律问题开始浮现，更多人意识到规制该技术的重要性。目前我国没有专项规制情感计算技术的建构式立法，针对情感计算医疗应用的一系列风险，法律界采取的是回应式立法。2021 年《新一代人工智能伦理规范》发布，2022 年3 月《互联网信息服务算法推荐管理规定》正式实施，开启了应对算法挑战的初步尝试。这些立法尝试为我国初步构建规制情感计算相关技术法律框架创造了基础条件。当前，面对实践中已然存在的医疗情感计算应用的功能异化的多维困境，充分发挥法治手段作用，可以最大限度地规避情感计算医疗应用可能引发的风险，进而不断夯实情感计算技术医疗应用的基石。

1 医疗情感计算的技术逻辑

1.1 情感计算的概念

情感计算是信息技术领域的一个术语，作为算法的重点研究领域它归属于人工智能的范畴。情感计算自从被皮卡德教授提出以后，国际上对它的关注越来越显著。迄今为止，皮卡德已经带领团队陆续提出了约50 种关于情感计算应用的项目。皮卡德教授将其定义为“与情绪或其他情感现象有关的、产生于或有意影响情绪或其他情感现象的计算”[1]。基于多元的技术发展路径，与情感计算相关的概念众多，但是由于各类人工智能技术与情感计算技术日益结合并不断发展应用，情感计算常被置于人工智能框架内。通常将情感计算统称为能够感知、识别、模拟、影响人类情感状态的各项智能技术[2]。我国于1998 年就已经对情感计算有所研究，同年该理论被列为信息技术的探索主题。2003 年，我国第一届情感智能交互学术会议在北京召开。2005 年，国际情感智能交互首届会议也在北京召开。迄今，我国已经是情感计算技术的主要研发应用国之一，而且2021 年中国情感计算大会第一次会议在北京召开后，学界对情感计算技术的关注又有了新的高度。2019 年起关于“情感计算”的文章较往年多，涉及“医疗、算法”的文章也有所增加。主要原因有两个方面：一方面，是2017 年《新一代人工智能发展规划》中提到要改善人际沟通障碍，开发能理解人的需求、能进行情感交互的智能助理产品。另一方面，是2019 年《新一代人工智能治理原则》发布。但从总体上看，我国关于医疗情感计算的研究较少，尤其缺少法治实现层面的探究。

1.2 医疗情感计算的技术逻辑

医疗情感计算在技术逻辑上与医疗人工智能算法技术联系紧密，是指将情感计算技术投入医疗领域使用与开发，使之能够适应并且准确识别、理解患者的情感进而模拟、影响患者情感的技术。它可以通过情绪识别、表征学习、语音识别等技术，利用情感计算算法获取健康信息以实现辅助诊疗、预防疾病等功能。从技术路径来看，可以将医疗情感计算分为四个步骤：第一步是感知患者情感；第二步是识别患者情感；第三步是模拟患者情感；第四步是影响患者情感。首先，情感计算系统通过接触式和非接触式等多元方式感知到患者的语音、姿势、脉搏等各项生理信息。随后，情感计算算法会依托情感理论将感知到的信息数据提取出关键特征点，采用人工标注的形式将其与患者情感状态关联。当标注数量达到一定程度后，医疗情感计算系统通过反复模拟训练逐步建立与患者内外情感信息特征相契合的医疗情感计算模型并借助此模型进行情感模拟。医疗情感计算系统在运行中需要实时记录患者情感变化并根据已有模型和情感信息数据分析患者情感状态，做出情感反馈，采取个性化策略影响患者情感。

医疗情感计算的最终目的是使机器具备情感交互能力并能影响患者情感进而治疗疾病、提升患者体验。在医疗情感计算相关技术产品研发中，准确地计算患者的情感类型是设计情感识别方法与诊断治疗的基础，而且情绪的多模态识别也是情感计算领域的重点研究对象。目前普遍公认的六种基本情感类型即喜、怒、悲、恐、惊、厌，这六种情感的组合即属于其他情感。当前情感计算的建模方法也大多是基于上述多维情感来构建。以往在医疗过程中使用的机器人或其他人工智能医疗设备虽然存在小部分能够理解人类需求，但是很难甚至无法正确分析人的情绪现状以及真实意图。现在通过赋予计算机这种情感识别理解能力，不仅可以提高医疗服务的质量，同时还能起到疾病预防的作用。

2 我国医疗情感计算的应用场景

医疗情感计算是医疗人工智能的关键研究领域，能够对各类健康数据展开分析并建立情感模型。而且在算法与医疗深度融合的背景下，医疗情感计算技术应用前景广泛，在医疗机器人、疾病的辅助诊疗、健康管理、影像识别等方面均已有所实践，起到了保障人民健康，促进卫生健康事业发展的作用。

2.1 改善情感交流

情感是实现机器智能和人机交互的重要元素。机器人智能化的标准之一就是要注入情感认知能力。医疗情感聊天机器人就是一个典型的应用，它能够利用算法技术监测个人健康状况，也可以为老人、抑郁症儿童等弱势群体提供人工情感陪伴服务从而改善情感交流能力，保障他们的身心健康。孤独症个体的情绪识别困难被认为会导致社会交往问题。情感计算技术医疗应用恰好可以弥补孤独症、抑郁症患者的这种社交缺陷，提升其情感交流能力。情感计算算法辅助情感交互的步骤有：进行交互、用户反馈、智能体响应、达到标准，这种双向交互能提升患者情感体验的满意度。智能体首先通过交互时患者的表情、姿态、语音等多重信息分析其情感状态和意图，进而根据感知识别到的情感调节自身情感以积极响应患者反馈。第九代微软小冰注重人类思维模拟和情商拟合[3]，能够把情感与技术结合，已经成为全球最大规模的人工智能情感计算框架系统，帮助了许多有困难的人。

2.2 助力疾病诊疗

在疾病诊疗方面，情感计算技术已经被应用于各类疾病的评估治疗，不仅已经在孤独症和抑郁症等精神心理疾病的预防、干预和治疗方面发挥了巨大作用，而且在突发公共卫生事件中成为了心理医生完成心理疏导任务的得力助手。麻省理工学院媒体实验室（Massachusetts Institute of Technology Media Lab，简 称The MIT Media Lab，中 文 简称“媒体实验室”）基于情感计算理论开展了癫痫、孤独症等各类疾病的诊断与评价研究。当前已经有社交假肢、谷歌眼镜、智能头盔等智能可穿戴设备被研发使用。这些设备依靠患者的心率、肌肉张力等生理信号推断其情感状态进而开展情感调控，将人隐秘的内心活动变成潜在数据，一旦检测到不良情绪状态就会进行疾病风险预测并采取干预措施。另一方面，情感脑机接口技术在情感治疗方面也有所进展。其与神经科技结合精准刺激患者的情绪神经，提高了对抑郁症、精神分裂症等疾病的研究诊疗水平[4]。此外，情感计算技术在心理疾病的诊断筛查中也起到了重要作用，已经被用于心理健康和精神卫生领域的各个方面。

2.3 强化健康管理

一些群体基于生理病理原因存在潜在患病风险，偶尔会有信心缺乏、机能退化等影响健康的因素出现，情感计算技术的研发应用使情绪手表、情绪手环这些便携式监护设备在感知获取到对方的语音、行为动作、脉搏频率等不同来源的多元健康数据信息后迅速进行分析并给予反馈，可以实现对交互对象健康状况的监测、保障。例如，可穿戴智能监测设备通过数据分析技术可以做到实时监测健康状况并自动进行风险评估，预防疾病风险。此外，医疗情感计算产品还可以在交互时展现自身的情感变化从而丰富患者的精神世界。例如，能够预测孕妇患高血压病的产后抑郁风险的脸部情绪追踪器，辅助孤独症儿童进行康复的生活能力正向干预模式设计[5]，还有为孤独症患者提升社会交往与沟通能力的情感交互系统等，这些设计都大幅度提高了康复治疗的效果，保障了患者健康。

2.4 赋能影像识别

智能医疗背景下，情感计算技术可以与图像分析技术结合在一起应用到医学影像领域，协助医生对患者情感进行检测并定量分析，令影像识别技术更好地实现预测、诊断和治疗疾病的目的。医疗情感计算系统通过实时监测追踪收集到这一系列健康信息，形成稳定的数据流，最终将数据转化成可视化的图像。再将图像分析技术和深度学习算法结合，分析出患者的情绪状态，令医疗人员和患者预知疾病发生情况，尽早采取措施治疗。热像仪就是典型的温度功能影像应用，它可以根据人体热量分布状态成像，根据成像可以看出身体不同部位的热量分布及热量差异，进而推断患者是处于焦虑状态还是其他情绪状态。当识别出不良情绪状态时，成像仪会自动分析并报告给数据主体，令其积极采取措施恢复至正常状态。

3 医疗情感计算应用的多维困境

情感计算技术在卫生健康领域发挥积极功效的同时也面临着多个维度的负面效应，削弱了情感计算算法的诊疗优势，萌生了医疗情感计算算法的“拟制主体性”危机、“道德异化”忧患、情感隐私刺探、人格尊严吞噬、计算精度缺陷等多维困境问题，产生功能异化现象。

3.1 道德合理性风险

3.1.1 医疗算法的“拟制主体性”危机

医疗情感计算不仅涉及对患者内在情绪的推断，而且与算法存在紧密关联，将计算延展到了患者的内心世界，最终目的是影响患者的情感。一方面，随着技术发展，算法在语言思维方面与人类相似度大大提高，而人的主体性是其区别于其他生物的重要原因，医疗人员的一些事务和决策将由情感计算机器来完成甚至为其所控，这可能会挑战其主体地位。在算法运行过程中，患者个人情绪等健康信息逐步被数据化和被计算化，很容易将人锁定在自我编织的“信息茧房”中导致自身被客体化[6]。另一方面，情感计算算法重视对健康信息数据的收集、分析，容易忽略甚至代替医生对患者的关怀与情感。从这种意义上而言，人的情感在生产生活方面都产生了异在性，被当成外在于主体的对象或客体进行读写，成为了被利用和操控的对象[7]。虽然当前仍处在弱人工智能时代，但一些具备情感计算功能的医疗产品正逐渐脱离物理躯体的限制，被置于算法和计算程序中，具备与患者对话以及情感交互的能力并能根据环境做出决策，令医疗人员担忧被代替。

3.1.2 情感智能的“道德异化”忧患

情感计算算法将计算作为本质，把人的情感技术化，注重效率，这与传统的道德正义颇有冲突。首先，情感计算医疗应用容易引发“健康平等”失衡问题[8]。医学智能化的过程中每个患者都被视为更加独立的个体，能否提供满足患者不同需求的个性化诊疗是相关伦理讨论的重点[9]。情感计算技术尚未充分获得人们理念认可，这使医疗情感计算技术在很多情况下不能惠及所有人。其次，由于医疗情感计算的可及性不足且设计成本高，难以实现情感计算医疗应用的公平正义，容易因这种不公平引发社会矛盾[10]。最后，医疗情感计算技术应用后会影响患者的情感。没有人为干预的自动生成是生物医学情感分析最关键的任务。而医疗情感计算设备交流互动能力有限，难以全面模仿患者情感并给出对等反馈，因此情感交互过程中双方的情感表达并不对称。

3.2 规制自洽性盲区

3.2.1 触犯健康信息权能

基于算法的特殊属性，医疗情感计算会侵犯个人健康信息的删除权、知情权等权能。其一，情感计算技术能够揭示此前技术无法察觉到的信息，例如人的内心感受、动机、态度等。医疗情感计算技术的运行需要利用算法收集大量健康信息数据，在收集到相关健康医疗数据后会对收集到的信息展开分析，分析过程涉及多个环节，各个环节都与算法存在关联。而算法具有黑箱性，不确定性与复杂性[11]，对于算法运作的过程，用户无法了解，即使了解了算法运作的流程，也很难对每个数据背后的产生机理有效掌握。其二，算法具有自动化决策功能，这会削弱患者对健康信息的控制能力和自决能力。而且情感计算医疗应用多数未明确让患者知悉该应用自身具有情感计算功能，更不会告知其计算结果，对患者情绪和行为的监测有时是在不知情的情况下进行。一些情绪数据是算法通过多种渠道和媒介推断得到，这种“推断”不等同于收集，并不受数据主体控制，因此即使在《个人信息保护法》的视域下也会构成对患者个人健康信息权能的侵犯。

3.2.2 刺探患者情感隐私

情绪是人的一种主观反应，医疗情感计算系统的构建需要大量患者个人信息，若将情感计算投入应用就会不同程度地影响甚至侵害患者的隐私权。因为医疗情感计算产品所作出的医疗决策是机器学习了大量的数据后经过训练和模拟而作出的，所以在该技术使用过程中这些数据很有可能面临泄露的风险。一方面，医疗情感计算技术可以未经同意就通过患者细微的动作或其他表征的变化探析出其内心情感，从而构成对患者个人隐私的侵犯。另一方面，医疗情感计算信息资源数据滥用会影响到患者生活的各个方面。个人信息的主要价值在于社会交往的可识别性[12]。匿名化处理可以抹除信息的重大性或关联性，但无法根除“残存的可识别性”[13]。相关信息即使是被删除也有被恢复的可能，如果服务器被攻击，或者握有患者健康数据的软件公司将患者健康隐私信息贩卖，患者的个人健康隐私信息会面临泄露风险。

3.2.3 影响患者自由意志的表达

医疗情感计算是可以推断患者内心真实情感的技术，对于不愿意让外界知道自己内心情感的人而言，会在各方面感到很不自然从而影响其自由意志的表达。首先，医疗情感计算技术可能迫使患者作出虚假情感表达。情感计算算法具有很强的分类筛选和预测能力，当人产生负面情绪或某些特殊场景下产生对自己不利的情绪状态时，他们的情感会被贴上“情绪状态差”的标签，因此会有人为避免内心真实情感外露而作出虚假表示。其次，因为算法的复杂性，患者越来越多地放弃了意识参与[14]。情感计算医疗应用后，当患者情绪有轻微波动时，情感计算运行系统会迅速给出反馈甚至为患者提供建议策略，可能会给患者带来压力，令他们担忧自己的细微变化都在被监控甚至使其产生恐惧心理。再次，医疗情感计算智能传感系统有时会使处于日常健康监测过程中的健康人群经常怀疑自己的健康状况存在问题，过度依赖情感计算系统的判断而频繁开展健康体检。最后，患者有时会被算法的价值取向所裹挟，放弃选择的思维、意识和能力。医疗情感计算系统的运行具有偏好性，带有偏见的计算结果会转化为新数据。而情感计算技术在为患者提供个性化服务时受制于这些数据从而诱导患者作出特定选择，如此长久循环，患者的选择会受到极大限制。

3.2.4 侵犯人格尊严价值

医疗情感计算的应用对象区分性明显，使该技术容易与平等保护相冲突进而侵犯人格尊严。一方面，情绪识别诊断带有偏见性。情感计算医疗应用会根据收集到的数据感知、理解并分析出患者的情绪状态，同时将情绪控制力分等级，这样的等级划分会令患者心理不平衡。而且实践中针对特定人群的情感交互设计也越来越多，也有可能形成歧视。例如，情感计算在孤独症抑郁症诊疗领域，老年人居家陪护、孕妇及儿童健康监护三个方面使用得较多。这可能会在人们脑海中形成一种标签效应，认为该项技术仅仅是弱势群体的助手。另一方面，初次的算法歧视一旦形成，会形成“歧视惯性”。算法始终包含着一定的价值判断，程序编写者所处的社会环境及主观需求极有可能对算法程序产生干预，使之得出自己想要的结果。而且一些情感计算算法运行时没有充分尊重患者意思自治，使其对决策结果享有的成就感与责任感降低，进而损害患者尊严。

3.3 技术羁绊性隐患

3.3.1 衍生诊疗精确度问题

情感计算医疗应用可能会因为其精准性方面的缺陷做出错误的预测、决策或反馈，一旦造成患者人身伤害等严重后果还会由此引发确定责任主体、归责等法律问题。首先，情感计算结果基于的心理生理数据十分复杂，难以分析解释，算法运行稍有设计缺陷或考虑不周就会导致判断失误从而影响计算结果。即使是相同的心理生理信息也不一定只代表一种情感，相关的情绪识别技术仅通过面部表情、脉搏等征象难以准确检测到患者的情感类型。其次，人的情感类型众多且复杂多样，在不同的环境下或不同的人群间具有差异性，且患者等特殊群体的情绪更是波动性大。当对这些情感进行人工标注时有他人主观意识的融入。各参与主体在某个行为阶段具有何种主观方面也难以认定[15]。最后，医疗情感计算技术可能会因为患者情感表达具有隐喻意义而出现精度问题。医疗情感计算技术能否准确把握患者情感趋势，是否可以模拟影响患者的情感，对患者的情绪判断是否准确，是否可以穷尽各类复杂情感从而得出可靠的结果，仍然是技术上亟待解决的问题。

3.3.2 牵涉诊疗可靠性缺陷

一旦医疗情感计算对患者的情绪识别与判断出现漏洞，会影响医疗决策，甚至引发医患矛盾。一方面，医疗情感计算的过程和结果并不是顺利的，生活环境、地域文化的不同会使得同样的内在情感通过情感计算得出的结果不一致。采用熟练可靠的算法模型，保障人类健康是智能医疗决策系统的首要要求。随着机器学习的加深，算法这一“神经网络系统”的层数与参数更加复杂，进一步增加了专业化程度[16]。有研究指出仅从单一因素推断情绪为时过早。另一方面，当内心情感极其复杂，多种情感交织在一起时，人们的外在表达更是复杂，分析和解释的难度会加大，现有相关传感技术能否迅速识别并做出判断与反馈仍然存疑。情绪识别算法本质是对各种人类情绪的概率分析[17]，人的情感系统是整体性的，情感计算最终要将情感转变为算法问题加以解决。不同的人面对同一情况时仍然会表现出细微的肉眼不易察觉的差异，从特定生理信息反推情绪状态前需要人工标注好这些情绪，这些标注的误差会影响最终的诊疗决策的科学性。

4 情感计算医疗应用的法治实现

目前在我国的一些法律法规中能找到一些针对医疗人工智能的规范性要求，但是没有针对情感计算医疗应用的功能异化困境从法治实现层面构建规制体系，需要针对其多重功能隐患构建规范指引，为医疗情感计算技术良性发展提供法治保障。

4.1 坚守医学伦理底线，规范医疗算法至善

4.1.1 坚守“拟制主体”身份的伦理底线

医疗情感计算以算法作为技术支撑，仍在医疗人工智能技术的范围内，立法时无论是从技术设计方面还是其他方面考量，需要注重人的主体性，坚持以患者为中心，保障情感计算应用的安全发展。第一，设计算法时要引导相关研发人员在技术设计上更多地考虑到用户实际需求，保护算法相对人的意思形成自由与人格成长自由[18]。保证系统运行和程序设计的各个环节尊重患者的隐私权、知情权等各项权利以保持医疗情感计算算法的工具属性。第二，保证医疗算法的自动化决策融合技术理性与人的理性。在研发设计的早期阶段就把相关标准和以人为中心的理念嵌入到设计思想之中以降低医疗安全风险，注重技术标准与法律规范之间的衔接，保证医疗情感计算技术的科学、规范。第三，注重对人的心理体验和情感关怀。作为具有丰富情感的人，不应在大数据中丧失主体性，异化为任由技术和数字摆布的数字单元[19]。因此，医疗情感计算技术从设计到运行的全周期都应当注重对患者的情感关怀。要为算法设计注入“医学人文”的价值，让患者感受到技术温暖，令医疗情感计算更好为健康服务。

4.1.2 追求医学伦理与卫生法治的最佳耦合

从伦理学角度而言，情感具有高度自主性，因此通过法治方式规制医疗情感计算技术时需要综合考量二者关系，遵循医疗伦理与卫生法治相结合原则，将医疗伦理原则逐步法治化，从而促进新兴科技与伦理道德协调发展。首先，要让算法遵循人类主体模式下的善法。在设计建构时就要将道德当作关键因素考虑，运用法律手段设置相应的准入门槛，保证医学伦理与卫生法治能够科学、有机地结合在一起，从而保障情感计算应用良性发展。其次，立法伦理要求算法主体的技术行为要符合人类实践的理性目标[20]。相关主体需要参考并遵循世卫组织及国务院等有关部门发布的伦理规范以增强法律规范的科学性、有效性。把公平原则融入到自身的价值理性之中以防范医疗算法偏见，使不同的群体或个体都有机会享有此类医疗服务。最后，将伦理规范编入情感计算算法的操作规程里，令医疗算法符合道德规范的“善”。采用医学伦理与卫生法治相结合的治理思路，特别是在算法设计过程中嵌入医学道德规范，使“算法”仅仅作为实现目标的手段，实现医学伦理与卫生法治的最佳耦合。

4.2 强化治理机制，完善多元共治

4.2.1 构建权责明晰的算法责任嵌入机制

针对作为医疗情感计算核心技术的算法，从设计到应用涉及多个主体，应制定专门的法律来明晰相关主体的权利义务，明确算法决策归责主体，并设置相应的惩戒制度，避免情感计算技术滥用。首先，无论是否赋予人工智能主体资格，在解决其法律责任问题时都必须解释其是如何行为的[21]。可以在立法上要求情感计算技术开发者对使用的算法履行解释说明义务以增强用户的信赖，保证医疗情感计算产品的设计、开发直至健康数据的删除等各个环节都具有透明性，令患者放心接受医疗情感计算服务。其次，建立限权与赋权的制度体系以防范算法权力异化[22]。厘清情感计算技术应用到医疗这一特殊领域的限制性条件，明确情感计算技术干预患者情感的限度和方式。与此同时，合理配置患者个人权利来对抗情感计算算法权力，将“情绪数据”列为一种权利类型，降低算法运行时的数据安全风险。再次，明确对“推测数据”的赋权，令基于多种表征的情绪识别数据进入到相关法律的保护范畴，填补既有规制的漏洞。最后，建立情感计算医疗应用的问责机制和权利救济路径，明确算法问责的主体和标准。当产生情感识别纠纷时由运营者承担举证责任证明情感计算结果的可靠性，若存在计算准确率问题则令其他主体更正补充。

4.2.2 建立多元协同的算法权力治理机制

有效监管是实现技术普惠的前提。情感计算算法技术的更迭在提升医疗服务效率的同时也透视着患者的情感世界，极易使其陷入“算法囚徒”困境，需要从算法用户、平台、监管部门等主体的角度出发，采用多种手段开展多元协同治理。首先，从立法层面探索医疗情感计算技术的应用对象在特殊领域享有的算法权利，建立情感计算算法侵权的维权机制，使不具有身份识别目的性质的情绪数据也能受到充分保护。其次，研发设计人员需要牢固树立卫生法律意识，在研发新技术的同时注意在不触犯法律底线与伦理禁区前提下深入研究不同群体各场景下的情感类型及其地域差异，从而突破技术羁绊，更好地达到医疗情感治愈目的。再次，算法技术的日新月异容易使用户产生混淆感和陌生感，令人低估情绪识别算法的风险程度，因此政府应加快建立一套尽可能通用的情绪识别算法的风险评估框架，实现对算法技术的科学监管治理。最后，针对算法的敏捷治理具有较高技术性、复杂性、系统性以及风险性[23]，单一力量难以治理。应加强平台自律，加紧与第三方力量的合作治理，明确第三方参与算法决策的限度和参与程序，实现对医疗情感计算技术的外部化监管[23]。在情感计算算法做出影响患者情感的决策之前就消解决策偏差风险，使医疗情感计算技术普惠更多人群。

4.3 严格审查分类，提升治理效能

4.3.1 建立健全医疗情感计算技术审查机制

医疗情感计算技术需要收集患者的心理生理等数据信息，而且其所涉及的算法存在数字鸿沟等缺陷，加上运行过程复杂，计算效率与结果存在不确定性等问题，其在设计、模拟运行和最终应用方面都需要严格审查监管，保证决策科学。首先，成立专门技术审查监管机构。为了保证医疗情感计算技术的稳健性，可以建立区域审查委员会，注重审查人员的学科背景与专业素养。借助多学科专家力量，优化监管效能。构建多层次全方位的审查体系，避免技术滥用影响患者权益。必要时可采用第三方监管和严格遵守审查程序的方式，确保医疗情感计算的准确率，避免算法失控产生“算法未知”现象。其次，审查机构要注重对医疗情感计算技术潜在风险的研判与防范。对技术的工具价值保持合理预期，预设医疗情感计算应用可能出现的问题，提高准入门槛，加强医学伦理审查，对触犯医疗伦理禁区与价值底线的应用完全禁止。对医疗情感计算技术的合法性、伦理规范性等方面进行全面审查，对各项医疗情感计算技术的研究目的、医疗健康数据质量、保密等级等内容综合分析并评估该技术的风险性，强化智能诊疗领域的算法决策风险监管。最后，用监控算法来监督其他算法，以算法规制算法。将医疗情感计算产品的健康信息掌控、计算效率、计算准确性等能力纳入审查范围，实时将情感计算系统的安全缺陷反馈给有关部门，使情感计算算法的运行状态和计算结果处于全流程监控之下，将损害降到最低限度。

4.3.2 完善情感计算算法风险等级治理体系

情感计算技术医疗应用过程中产生的风险波及范围与程度深浅各异，十分有必要根据其风险等级进行分级治理。首先，建立以风险为基础的全生命周期人工智能监管治理体系，强化系统使用者的风险治理主体责任，并突出技术性方案的基础性作用。将其分为高中低几个不同风险等级，分别提出法律规制方案。例如，对于严重违背道德伦理的应该明确禁止；对人的权利有严重影响的应该禁止；当面临不得已情况必须投入使用则需要全流程监管；对个人权利影响轻微的需要全流程监管并通过权利义务性规定来约束。其次，将一般监管与特殊监管相结合，根据人群特殊性进行有针对性的规定，避免一刀切。医疗情感计算可以惠及的群体众多且类型不一，包括孕妇、老人、儿童等，不同类型人群在某些方面可能需要特定的服务。例如，针对生理病理等方面不便的患者、老人、儿童，需要在应用该技术的同时保证尊重其作为自然人的人格尊严、隐私等各项权利，避免算法歧视与偏见。最后，情感计算算法具有复合性质，所以医疗情感计算技术应用时需要区分医疗情感计算算法和其他医疗技术，根据其复合性质将其一分为二，分别提出规制方案，避免单纯地将其作为“技术”进行规制。例如针对人脸情绪识别算法，可以分为人脸识别算法和情绪识别算法两部分并根据其风险性分别加以规制。

5 结语

医疗情感计算技术是当前医疗人工智能领域的重要研究方向，算法技术日新月异，国内现已颁布的法律法规大多属于原则性基础条款，缺乏具体的指引，人们对相应技术展开法律规制的需求也愈加迫切。作为人工智能发展中的关键技术，在大力开拓其应用市场的同时也需要关注情感计算应用到医疗这一特殊而敏感领域时面临的重重挑战，运用法律手段加以规制以促进医疗情感计算良性发展，实现权利保障和技术创新的平衡。