人工智能在基层医疗卫生机构应用中的伦理问题研究*

宋晓琳，尹 梅

(哈尔滨医科大学人文社会科学学院，黑龙江 哈尔滨 150081，hmusongxiaolin@163.com)

人工智能是一场科技革命，所有领域都在经历着它的发展所带来的变化。尤其是人工智能在医学应用方面获得了许多突破，如利用机器深度学习进行医疗决策、计算机辅助内科学诊断、制定初步医疗方案、手术机器人等。此外，人工智能技术在医院管理、学术研究及药物研发等医学相关领域也被广泛应用。随着我国人工智能政策的推行和科学技术的发展，人工智能在基层医疗卫生机构应用中发挥着越来越重要的作用。

1 人工智能在基层医疗卫生机构应用的机遇

1.1 人工智能在基层医疗卫生机构的应用

人工智能的快速全面发展使得其在医疗过程中的应用场景更加多样化，人工智能的使用渗透院前健康管理、院中诊疗、院后康复等多个环节。目前，基层医疗卫生机构人工智能的应用主要涉及以下几个方面：

医疗虚拟助理：其主要运用于语音电子病历、智能导诊、智能问诊等方面，减少医疗过程中的烦琐程序的同时也可帮助医院缓解高峰压力。

医学影像：帮助基层医疗卫生机构完成病灶识别与标注、三维重建等基础的影像诊断，提高诊疗准确度和诊疗效率。

辅助诊疗：通过医疗大数据分析，辅助医生进行临床决策及药物处方的选择；医疗机器人的使用可弥补医生技术水平、状态不良等因素。

疾病筛查和早期疾病预测：通过电子医疗记录使用特定算法识别具有遗传性疾病家族史或慢性病风险增加的群体。

健康管理：通过分析基因数据、代谢数据等，帮助人们提供基础的营养学膳食搭配等各方面的生活建议，从而规避患病风险；可穿戴人工智能设备能够监测个人健康数据，降低患者处于危险状态的风险；虚拟机器人可以辅助进行慢性病患者电话随访，减少人力损耗。

1.2 基层医疗卫生机构应用人工智能的意义

伴随人口增多、人口老龄化加剧以及慢性疾病发病率的增长，我国医疗卫生系统压力急剧增加。分级诊疗政策下基层医疗卫生机构的规范化系统化发展一定程度上可以缓解这一问题，但现阶段我国基层医疗卫生机构普遍出现优质医疗资源供给不足、人才短缺、医生培养周期长、诊断效率及正确率低、信息传递困难、无法及时应对医疗变化等问题，使其难以取得患者信任。同时人们对疾病规律认识不足，对基层医疗卫生机构服务能力持有怀疑态度，导致就医趋高、趋大、趋重现象的出现，基层医疗卫生机构难以胜任医疗系统“医疗入口”的重要任务，也无法作为转诊跳板占据重要地位。

人工智能在基层医疗卫生机构的应用是我国实行分级诊疗的关键要素。人工智能的高效性、敏感性和特异性使其可以在短时间内学习大量文献和病例，并通过深度学习发现数据中难以察觉的相关性，分析医学过程中产生的大量图像和其他数据，帮助进行辅助诊断。基层医生可以在人工智能的辅助下规范诊疗行为，提供更加安全高效的医疗服务，大大弥补了基层医疗卫生机构在专业水平、数据分析能力、综合应对能力方面的不足，从而提高患者满意度，增进医患互信。

同时，人工智能系统在基层医疗卫生机构的有效利用可以缓解基层医生培养压力。医学人才培养周期较长，并且基层医疗卫生机构尤其是偏远地区基层医疗卫生机构难以吸收到优秀医学人才，人工智能系统对医疗环境的选择性较低并且可以支持大量患者群体，可帮助偏远地区改善医疗条件，调节不同区域之间的医疗公平性。

2 人工智能在基层医疗卫生机构应用的伦理问题

人工智能在国家医疗改革政策及基层医疗卫生机构的应用上有着不可或缺的价值和意义，但我国人工智能的发展尚处于探索阶段，技术、法律等方面未能及时跟进，同时人工智能的应用在伦理方面还存在许多局限性。

2.1 可及性和可负担性

人工智能作为先进科学技术，其研发、制作、实验及使用需要大量的资本投入，我国地区经济发展很不均衡，医疗卫生资源分布不平均，现阶段我国人工智能多应用于经济发达地区的三甲医院，经济落后地区及基层医疗卫生机构很难享受到人工智能医学应用服务。此外，高端人工智能技术伴随着高昂的医疗费用，这也是制约人工智能在基层医疗卫生机构应用的关键因素之一。如达芬奇手术机器人可以触及人手难以企及的角度，在进行更加精确的操作时，机械手臂拥有更小的体积，使得它更加灵活多变，比人手操作更具有竞争性和优势[1]。但由于国家配额和企业垄断，机器人数量少、购买和维护花销大，机器人手术的费用也大大高于传统手术。

与目前人工智能为基层医疗卫生机构带来的医疗水平改善相比，人工智能的研发和投入成本是否可与其成正比？在基层医院投入使用人工智能时，又应该以怎样的标准进行资源分配来改善地区医疗水平的差距，实现医疗的公平性？如何保障普通居民能够最大限度地享用到人工智能服务？这都是在人工智能发展过程中需要面临可及性与可负担性问题。除此之外，患者对基层医疗卫生机构的固有偏见也可能不利于人工智能的充分使用；或 患者更信任人工智能，会导致医生主体地位的变化，引发新的医患关系不和谐，也会增加医生自身对人工智能辅助诊断的排斥程度和应用的积极性。

2.2 使用安全性问题

数据是人工智能的基础，基于数据深度学习而产生的人工智能系统要求大量的变量分析和复杂的底层结构，具有“黑匣子”性质，并且能够在实现无人干预和自我修正的自动化运行，其预测结果的算法很难实现完全的明确性与透明度，人工智能的设计者和生产者也难以预测其可能发生的变化，所以人工智能的可解释性和透明度成为其备受争议的关键点，也是人工智能自身的安全性隐患之一。目前的人工智能还只是基于大量数据学习而作出决策的判断系统，只能在已有数据的基础上进行优化，将概率最大的可能性作为最优解呈现，这一过程中，数据容量和运算方式都会影响人工智能的判断，若人工智能不再按照已设定目的进行诊断或处方，引起诊疗差错，将直接损害患者的生命财产安全。

2018 年11月，国家药品监督管理局医疗器械技术审评中心确定了3类人工智能医疗器械审批的全流程，但尚不能覆盖所有人工智能技术在医学领域的应用[2]。人工智能现阶段研发并不成熟且缺少统一的国家监管标准，在使用过程中因外部安全因素如能源供应、人为损坏等造成的系统安全问题难以得到有效把握和控制，系统升级更新产生的系统漏洞导致的安全问题也难以及时发现和弥补。

2.3 决策公平性问题

人工智能辅助基层医疗卫生机构进行诊疗及决策，可以帮助提高基层医生的诊断准确率，同时也能够使基层医生通过人工智能的辅助进行学习与提高，帮助基层患者得到更好的诊疗结果。但人工智能相对于人类医生来说，其缺少人类基本的共情和同理心。Manyika等解释了人工智能偏见渗透到算法中的方式。人工智能系统学习根据培训数据作出决策，这些数据可能包括有偏见的人类决策，即使删除了敏感变量，人工智能也仍有可能反映历史或社会的不公平[3]。另外，2018年Joy Buolamwini和Timnit Gebru通过研究发现面部分析技术对部分人群有更高的错误率，这可能是由于不具代表性的培训数据导致的[4]。

当人工智能系统用于决定患者的临终护理，必须在持续治疗和治疗中断之间作出选择时，人工智能系统将如何运转；面对患者因经济或文化因素作出放弃治疗的决定时，人工智能是否可以通过被编程来衡量情感需求和生理需求从而作出适合患者的决策；如果人工智能的同理心数据来自于人类的共同经历，那么这些经历能否在符合伦理的基础上被重现。在面对临床决策时，人工智能可能会因数据差异导致决策的不公平性产生。同时，当面对患者对病情的复杂态度，缺乏共情和同理心的人工智能也难以判断并作出最优决策。

2.4 责任划分问题

人工智能的使用安全性问题可能导致诊疗失误的发生，人工智能在使用过程中造成的医疗事故由谁来承担责任的问题涉及法律和伦理两个层面。

在涉及人工智能的医疗事故中，具体的责任划分会更加困难。例如，医生提供的相关数据造成人工智能分析的偏差进而影响诊疗，其中需要承担责任是很难用具体的数、量来评判或定性的。而如果人工智能在独立学习中产生错误，数据提供、技术维护、监督审查等过程的所有参与者，都有可能涉及责任的承担。

我国法律规定医疗事故责任人认定的医疗事故的行为人，必须是经过考核和卫生行政机关批准或承认，取得相应资格的各级各类卫生技术人员，那么，作为实施诊疗行为的人工智能是否能够作为责任主体来接受相应的处罚？2017年10月，由中国香港汉森机器人技术公司开发的类人机器人索菲亚在阿联酋被授予公民身份，使其成为世界上第一个具有“人权”的机器人。人工智能的发展为医疗机构提供高效诊疗服务的同时对其道德地位也提出了挑战。

2.5 个人隐私泄露问题

公民的个人隐私是我国法律保护的重要内容，在医疗过程中，患者的个人信息和医疗数据都属于个人隐私的范畴。人工智能作为一项科学技术，其运行需要大数据支撑，在数据吸收、读取及分析的过程中，使用者的隐私是否能够得到有效保障尤为重要。毕马威(KPMG)的一项调查结果指出，75%的医疗保健内部人员担心人工智能可能威胁患者数据的安全和隐私[5]。

我国公民对个人数据安全和隐私保护意识不强，目前，法律、监督难以匹配科技创新和进步带来的数据安全问题，运用科技手段所造成个人隐私泄露更加难以察觉和追究。与此同时，企业对用户的个人隐私保护不重视或难以预测，导致技术失控带来的数据安全和隐私保护隐患[6]。在现有条件下，非法进行的人工智能系统攻击、相关工作人员故意窃取人工智能机器集成信息、使用过程中造成的信息泄露等问题都难以避免。随着在线信息技术获取知识的广泛应用，以及允许用户收集和跟踪自己的健康数据的健康可穿戴设备的可访问性，患者现在既面临着额外的自主权，也面临着由于采集更大范围的复杂数据而产生的额外风险。

此外，随着市场需求增加，大型IT公司以及以人工智能为基础、以医疗为导向的初创企业在医学领域大规模登陆，其中许多公司提出或整合人工智能元素，这种参与的复杂性和潜在缺陷，将提高隐私保护问题的门槛。

3 人工智能在基层医疗卫生机构应用的伦理思考

3.1 享受人工智能医学应用的平等机会

人人都应平等享有人工智能医学服务的机会，以促进医疗健康的公正。切实建立可行的方案促进人工智能医学应用的分配公正，提高人工智能医学应用的可及和可负担性，能够有效缓解我国医疗卫生资源紧张的情况。

遵循分配公正原则是有效促进健康公平的路径。尤其需要关注弱势群体和基层地区，可以通过社会互助系统和医保系统，促进健康公平。在人工智能因经济原因难以在基层医疗卫生机构完全推行的前提下，可以有规划性地分阶段、逐步开展部分人工智能的使用，缓解基层医疗卫生机构迫切需要改善的医生经验不足、诊断效率低、诊疗效果差等问题，加强基层医疗卫生机构的服务能力，提高分级诊疗效率，如通过智能信息化系统和区域性电子病历搭建信息平台，建立区域医疗联合体，发挥三级医院的核心带动作用，推动优质卫生资源下沉，扩充基层医疗卫生机构的诊疗能力，构建同质化医疗卫生服务体系。

3.2 构建人工智能应用规范

虽然人类赋权于人工智能医学应用，但它的权力不能凌驾于伦理和法律以外。人工智能医学应用应充分做到以人为本，符合伦理和法律要求。规范人工智能的医学应用，需要构建人工智能应用的法律规范和伦理规范。

构建人工智能的法律规范：由于社会对数据的信任度越来越低，应保证数据传输的透明度和公开性，了解其运行机制，在一定范围内制约人工智能的权力，以避免对人类造成较大伤害；加强或建立控制数据处理、管理和使用的治理机制；制定同步监督机制，对人工智能技术进行法律管制和监督，以确保现存社会原则不受侵犯。

构建人工智能的伦理规范：加强人工智能主体的人文教育，增强其道德责任意识，培养以人类整体利益为核心的价值观；以医学伦理原则中的不伤害原则作为人工智能医学研发和应用的基本标准，避免对患者造成生理上和心理上的损伤，保护患者基本权利；在研发过程中为人工智能增添道德层面数据评判。

3.3 促进人工智能与医学的互惠互利

随着人工智能在医学领域的发展和应用，越来越多的人工智能给医学提供的便利性、可靠性和有效性得到验证。通过技术手段可以针对人工智能在使用过程中出现的缺点制定有利有效的解决措施，使人工智能更具临床适用性，医疗机构通过向人工智能提供学习环境，帮助医疗机构达到更高的效率和成本效益目标，形成人工智能与医学的互惠互利。

人们应该相信人工智能支持而不是替代医生，患者和医务人员必须意识到医疗活动最终仍然是由人类医生所领导，了解人工智能辅助诊疗的本质，客观看待其有益性，减少对人工智能诊疗的偏见、恐惧，同时也加深理解人工智能的局限性，减少对人工智能医学应用的过度依赖。

3.4 明确人工智能应用中的责任归属

我国对人工智能医学应用的安全性标准和风险监管尚处于探索阶段，需要从人工智能开发的安全性、应用的有效性、风险可控性及责任的可追究性对其研究和应用进行规范。

国家应积极引导人工智能开发，加强对人工智能的安全及性能测试，保障使用过程中的准确度，提高人工智能的可解释性，减少诊疗错误风险，同时应保证软件硬件的有效支持，防止非法恶意入侵，影响人工智能的安全使用。医疗机构应不断加强基层医护人员的技能培训，减少使用风险，最大限度保障患者生命安全。另外，可以通过加强国际合作，以减少人工智能在使用过程中的安全隐患。

国家需要对现有法规进行审查和调整，为人工智能的良性发展和应用提供法律支持。针对人工智能医学应用可能对人造成的伤害，应尽快清晰地明确责任归属。在面对损害时需要及时救济受害者，同时，仔细判定人工智能在事故中所扮演的角色，具体问题具体分析，严厉禁止利用人工智能推卸个人责任的情形，充分维护患者的权益。

3.5 加强对公民个人隐私的保护力度

人工智能医学应用的信息安全保护主要涉及三方面：医疗健康数据保护；保护数据主体不可剥夺的隐私权；明确数据主体的信息不受自动化处理的权利、数据主体要求解释决策的权利。人工智能医学应用的信息安全保护有助于防止数据盗用、身份盗用等风险，对公民个人隐私的保护需要从国家政策、社会行业自律及提高个人隐私保护意识多个方面进行考量和监管。

在大数据和人工智能时代，我国应加快制定个人信息保护法，保障公民的个人信息安全。人工智能研发机构应从技术角度入手，构建成熟的安保系统和技术以确保信息安全，防御试图侵入访问、盗取或篡改数据的不法分子。同时，公民应提高个人隐私保护意识，辨别信息泄露风险，防范隐私泄露行为，承担起个人隐私保护责任。

人工智能在基层医疗卫生机构应用中的伦理问题，不仅仅是人工智能技术本身的伦理问题，也是人工智能及其医学应用相结合产生的系列伦理问题。了解人工智能的工作机制是建立和维护信任的关键。值得信任的人工智能应该是安全的、非歧视的、可及的和可负担的、可解释的和透明的，以确保人工智能在尊重人类的伦理原则和价值基础上，发挥其最大的作用。目前，我国人工智能在基层医疗卫生机构的推行进程较为缓慢，难以发挥人工智能在基层医疗卫生机构的关键作用和战略意义，还需要从政策、科技、法律、经济、伦理等多个方面共同努力和完善，加快形成富有中国特色的完善、合理、规范、高效的基层医疗卫生服务体系。