医疗人工智能的法律伦理问题研究

赵宏瑞　杨庚齐　杨悦

摘 要：医疗人工智能的法律伦理问题是目前研究的热点，近5年来关于医疗人工智能的法律伦理问题有了许多新的认知，因此有必要对该领域的研究进行定性定量分析。从Web of Science（WoS）核心文集中检索2018—2022年医疗人工智能的法律伦理问题领域738篇相关文献，运用Citespace软件分析相关文献的主要数据信息，并生成可视化数据图谱。结果显示：哈佛大学是研究医疗人工智能法律伦理问題最多的机构；卫生政策、医学信息学和特征选择等是医疗人工智能法律伦理问题研究的热点。结果表明：医疗人工智能法律伦理问题研究已经成为关乎人类健康最重要的研究领域之一；未来医疗人工智能法律伦理问题研究的重点主要集中在责任认定、风险防范、隐私风险、数据安全、伦理风险和机器深度学习后“自主性”导致的风险；全球还需要加强合作，促进AI+医疗的法律伦理问题研究发展。

关键词：人工智能；医疗问题；法律伦理；文献计量学

中图分类号：D919.4；R-052      文献标识码：A       文章编号：1674-5450（2023）02-0026-07

一、引言

人工智能（AI）作为数字时代产业变革最重要的技术之一，已经被广泛应用于各个领域。加之全球联合抗击新冠肺炎疫情的大背景，AI与医疗行业进行了快速融合。AI+医疗的应用范围不断拓宽并不断发展落地。值得注意的是，除了技术上的突破，从法律、伦理层面来说，医疗人工智能也给当前价值体系和法律体系带来一定的挑战。

近年来，国内外发布了大量有关人工智能在伦理方面的法律和规定。国际方面，欧盟委员会在2019年4月发布的《人工智能伦理准则》中提出四项伦理准则和实现可信赖AI的七个关键要素；2019年10月，美国国防创新委员会发布《人工智能原则：国防部人工智能应用伦理的若干建议》，建议中明确提出人工智能应用要遵循“负责、公平、可追踪、可靠、可控”五大原则；最新版的欧盟《人工智能法案》于2021年推出，目前正在迅速通过审查过程，最早可能在2023年实施；2021年6月，世界卫生组织发布《卫生健康领域人工智能伦理与治理指南》，提出确保人工智能符合所有国家公共利益的六项原则、不能高估人工智能对健康的益处、机会与挑战和风险高度相关等观点。国内方面，从2017年开始，陆续出台一系列有关人工智能发展的全国性文件：国务院《新一代人工智能发展规划》（2017.7）中明确指出，要重视并加强人工智能法律伦理问题研究，建立并制定促进人工智能发展的相应法律法规；在《网络安全标准实践指南——人工智能伦理安全风险防范指引》（2021.1）中，针对潜在伦理安全风险，给出安全开展人工智能研究开发、设计制造、部署应用等相关活动的规范指引；《新一代人工智能伦理规范》（2021.9）更是将伦理规范直接写入文件名称中，明确提出了增进人类福祉、促进公平公正、保护隐私安全、确保可控可信、强化责任担当等基本伦理要求，以及包含研发、管理、使用在内的18项具体伦理要求。学术界AI+医疗领域发表大量关于法律伦理问题的研究文献。因此，有必要利用文献计量学的方法对医疗人工智能的法律伦理问题领域进行定性定量分析，在现有研究的基础上，进行研究热点的识别。

文献计量学分析是学术研究的有用工具，旨在通过分析某一领域的研究现状，指导未来的研究方向[1]。Citespace可视化分析是对于复杂社会现象的一种数量化梳理，是当代计算科学将复杂问题简化的一种大众传播手段，其由陈超美开发，是以确定变量关系、通过共词分析和共被引关系构成可视化图谱的应用。文献计量学分析现已运用于法学与医学交叉的研究中，也有一些关于我国全科医生法律保障现状的文献计量学分析。但受到时间和地域等限制性因素的影响，全球研究方向和研究重点也在改变。目前，还没有针对智能医疗的法律和伦理问题的文献计量学分析。为补充研究短缺的情况，有必要对医疗人工智能的法律伦理问题领域所发表的文献进行定性定量分析。

二、研究对象和研究方法

（一）检索对象与筛选

笔者于2022年9月14日检索WoS核心合集（SCI-EXPANDED）中与医疗人工智能领域法律伦理问题相关的文献。检索式为［TS=（arti-ficial intelligence））OR TS=（machine learning）］AND［（（（TS=（law）） OR TS=（ethics）） OR TS=（le-gal））OR TS=（ethical）］AND［（（TS=（medical））OR TS=（medicine））OR TS=（health care）］。检索时间设定为最近5年（2018—2022年），筛选文献类型为article和review，限定语言英语。WoS检索式见图1。利用WoS检索出的文献，可以对一些重要指标进行文献计量学分析，如年发文量、作者、期刊、机构、国家/地区和基金资助等。WoS检索文献流程见图2。

（二）分析工具

本文所使用的分析工具为CiteSpace，它可以对文献的知识单元进行共被引分析、共词分析和研究合作网络分析[2]。共被引分析指两篇文献同时出现在了第三篇施引文献的参考文献目录中，则这两篇文献为共被引关系[3]。共词分析最早由法国国家科学研究中心提出，其原理是利用网络地图的方式，把主题词和关键词聚类成簇表现出来[4]。科研合作是指一篇文章中，不同作者、机构或国家/地区共存。

在共现知识图谱中，圆圈代表节点，节点代表不同的标签，圆圈越大，节点出现的频率越高，则其标签（本文中指关键词、国家/地区，共被引文献）出现的频率就越高；节点之间的连线代表不同标签之间的关系，连线越粗，则关系越强[5-6]。

三、数据分析

（一）发文量分析

近5年，医疗人工智能的法律和伦理问题领域发文量总数为798篇。图3描述了该领域2018—2022年间的年发文量。图中清晰地展示出一个科学领域的研究从快速发展到稳定的过程：从2018年开始该领域进入快速发展期，发文量逐年增长（从 2018 年的 36 篇逐渐增多至2021年的251篇），继而进入稳定期。事实上，从2021年开始发文量即在200篇上下波动。该领域共获得资金支持2 865笔（见表1）。其中，排在前10名的基金（除惠康基金会外）来源都是国家机构，除中国国家自然科学基金（排名第4位）外，其余基金均来源于发达国家。

（二）期刊分析

表2列出了2018—2022年间，该领域文献所发表的期刊总数达534个。发文数量排在前10名的期刊占总发文量的36%（共15本，其中有7本期刊并列排名第9）。发文数量最多的前3个期刊分别是《BMJ开放 》《互联网医学期刊》《医德杂志》。上述期刊大部分都是该领域的专业期刊或活跃期刊。

（三）科研合作分析

共计有79个国家/地区发表了该领域文章，图4是国家/地区共现网络图谱，图5是机构共现网络图谱。可以看出：美国的合作伙伴是加拿大和越南；英国与荷兰、葡萄牙合作密切；中国与韩国、瑞士有合作；德国与爱尔兰、加拿大有合作；日本和南非、俄罗斯、智利、菲律宾等国家有合作。

表3列出了该领域发文数量最多的前10个国家，依次为美国、英国、德国、中国、加拿大、挪威、澳大利亚、法国、意大利和瑞士。表4通过分析以上国家在该领域发表文章的引用数据可以直观地发现：引用频次数按大小排列，排在前3名的国家是美、英、德三国。

2018—2022年，该领域共有4 015个研究机构发表了文章。其中，发文数量排在前10名的机构及其引用数据如表5所示：发表文章数量最多的前3个机构是哈佛大学医学院、多伦多大学、斯坦福大学。被引频次数最多的前3个机构是哈佛大学医学院、麻省理工学院和牛津大学。

（四）共被引分析

文献共被引的概念最早是由美国情报学家Small在1973年提出的，利用共被引分析可以研究文献间的关系程度。本文的研究对象总共引用了2 929篇参考文献。图6显示了引用参考文献的聚类。对医疗人工智能的法律与伦理问题5年的聚类标签分析可见，该领域的基础框架为：医疗信息学、人工神经网络、精准医疗等。

从表6中可以看到，在共被引强度排名前10的期刊中，影响因子最高的3个期刊是《柳叶刀》《新英格兰医学杂志》《美国医学会杂志》。共被引频次数排名前3的分别是《美国医学会杂志》《自然》《美国科学公共图书馆》。这些顶级期刊发表的文章反映了该研究领域的情况。

（五）共词分析

共词分析可以通过明确主题之间的联系，进而获得关键词之间的联系。通过对关键词频次排序可以获取该领域的研究热点；通过爆发关键词在不同时间段出现的频次则可明确该领域的前沿知识点。

图7为该领域排序前15的爆发性关键词，分析可得该领域的前沿知识点为信息技术和临床道德规范。图8的时间线图谱则显示大部分关键词集中出现在2018年至2020年。

图9是该领域的关键词共现图谱，图中显示节点数（即关键词个数）799个，边数（即关键词之间的连线数）3 342条，图中圆圈大小代表的是关键词出现的频次，圆圈越大，则该词或词组出现的频次就越高。图10的聚类图包含了11个聚类，Q 和 S 分别为 0.7393、0.8465。其中，数字医疗经常与风险、医学伦理及监管等次一同出现；风险管理、执行、大数据及健康信息则常常与医疗服务一起出现；伴随心理健康出现的词是医疗决策。

四、讨论

此次研究基于 WoS和 CiteSpace对医疗人工智能的法律与伦理问题领域的文章进行文献计量学分析，并制作可视化图谱，为该领域未来的研究方向提供了一些值得参考的信息。

关于医疗的文献有1 957 986篇，人工智能的文献 222 632篇。虽然医疗人工智能的法律与伦理问题文献在以上两类文献中的占比不足1%，但过去5年整体呈现增长状态，随着新冠肺炎后疫情时代的到来，人们对医疗健康问题重视程度会逐渐加深，人工智能的应用在全球范围内会进一步扩大，医疗人工智能的法律和倫理问题领域将成为一个逐渐发展的热点研究领域。《人工智能蓝皮书：中国医疗人工智能发展报告（2020）》指出，医疗人工智能面临的法律问题，其核心或者出发点是对大数据与核心算法的规制，要确立规制基本原则[7]77。原因主要包括医疗AI的行为主体地位目前很难明确，直接导致后续的法律问题及相应解决措施很难得到系统化的推进。有了规则即可合法界定行为；人们之间或国家之间一旦有了合法行为，才便于构建稳定的安全关系[8]247。因此，还需要努力提高研究水平，加快相应领域立法，以解决该领域在发展过程中的一系列不确定性问题。

通过对基金资助机构进行分析得出：欧美发达国家对医疗人工智能领域投入了大量的财力，基金资助投入最高的10个机构中，只有一个属于发展中国家，即中国国家自然科学基金，同时也是对我国的研究支持力度最大的基金。我国医疗保健和公共卫生方面的支出随着经济发展迅速增长。从某种程度上来说，医疗保健成本的增速已然超过我国经济增速[9]93。未来如果想在该领域得到进一步发展，可能还需要投入更多的财力、物力和人力。

确定研究热点和研究前沿，有助于科研人员追踪解决热点问题。通过分析，该领域近年来的研究热点集中在以下方面：医疗人工智能的法律人格、知识产权、民事主体身份、法律行为、法律责任、规则成因和医疗事故的责任划分等。事实上，关于“机器人是人吗”的问题在法律人格上并没有一个明确和统一的认知，人工智能机器人是否可以被赋予民事责任是一个重大的法律问题。从现阶段的研究来看，对医疗人工智能应用的民事主体身份尚未形成法律上的共识，因此缺乏相关法律文件对医疗人工智能的诊疗及应用进行规制。

本文研究的局限性在于只检索了2018—

2022年间发表在WoS核心合集中的英文文献。随着新冠肺炎后疫情时代的到来，医疗人工智能的法律领域将形成许多新的认知。未来可针对这一问题做进一步的研究。

五、结论

自新冠肺炎疫情暴发以来，世界各国的医疗体系乃至经济贸易都受到了不同程度的冲击和影响。在这种大背景下，人工智能在医疗领域应用中所涉及的法律问题愈发凸显，诸如隐私保护、风险管理、人权保障、伦理道德和行业监管等方面，均在一定程度上存在着法律问题。可以说，医疗人工智能的法律与伦理问题是新冠肺炎后疫情时代一个重要的研究领域。该领域的主要研究方向集中在责任认定、风险防范、隐私风险、数据安全、伦理风险和机器深度学习后“自主性”导致的风险。

综上所述，法律问题在人工智能医疗领域中的作用极其重要，因为它将影响着新冠肺炎后疫情时代的经济社会发展。有必要针对该领域进行特别立法或制订政策，这不仅是关乎个人安全的问题，更是关乎国家安全乃至全人类福祉的问题。同时，全球的相关科研力量应该加强学科间的合作，这样才能最大程度地规避人工智能在应用过程中可能产生的法律问题和潜在危机，尊重相关方利益，促进全球科学技术的进步。另外，通过科学研究、法律教育和社会实践，建立一整套有效的行业标准体系，以更好地支持人工智能在医疗领域的发展，实现更高水平的社会进步。

参考文献：

［1］ Chen C， Hu Z， Liu S， et al. Emerging Trends in Regenerative Medicine： AScientometricAnalysis in CiteSpace［J］. Expert Opin Biol Ther， 2012（5）： 593-608.

［2］ Li JF， Zhang YH， Wang XS， et al. Bibliometric Analysis of Atmospheric Simulation Trends in Meteorology and Atmospheric Science Journals［J］.Croat Chem Acta， 2009（3）： 695-705.

［3］ Lee YC， Chen CM， Tsai XT. Visualizing the Knowledge Domain of Nanoparticle Drug Delivery Technologies： A Scientometric Review（2000—2016））［J］.Chinese Journal of Applied Linguistics， 2016（1）： 221-226.

［4］ Liu X， Liu N， Zhou M， et al. Bibliometric Analysis of Global Research on the Rehabilitation of Spinal Cord Injury in the Past Two Decades［J］.Ther Clin Risk Manag， 2019（15）： 1-14.

［5］ Jia ZJ， Hong B， Chen DM， et al. Chinas Growing Contribution to Global Intracranial Aneurysm Research （1991—

2012）： A Bibliometric Study［J］.PLoS One， 2014（3）： 91594.

［6］ Liu ZG， Yin YM， Liu WD， et al. Visualizing the Intellectual Structure and Evolution of Innovation Systems esearch： a Bibliometric Analysis［J］.Scientometrics， 2015（1）： 135-158.

［7］ 张旭东.人工智能蓝皮书：中国医疗人工智能发展报告［M］.北京：社会科学文献出版社，2020.

［8］ 赵宏瑞.世界文明总量论：中国的文明崛起与国安法治原理［M］.北京：中国法制出版社，2015.

［9］ Office of The Ministry of Health. National Health and Family Planning Commission China Health Statistics Yearbook 2018［M］.Beijing： Beijing Union Medical University Press， 2018.

Research on Legal Ethics of Medical Artificial Intelligence

——Based on Quantitative and Visual Analysis of Foreign Literatures

Zhao Hongrui， Yang Gengqi， YangYue

（College of Humanities， Social Sciences & Law， Harbin Institute of Technology， Harbin Heilongjiang 150001）

Abstract：The medical problem of artificial intelligence is a hot spot of current artificial intelligence research. In the past five years， there have been many fields of ethical issues in legal medical care. Therefore， it is necessary to conduct qualitative new analysis of the research field.（WoS）focused on retrieving 738 related literatures in the field of artificial intelligence legal ethics issues from 2018 to 2022， using Citespace software to analyze the main data of related literatures， and generate a visual data map. Institutions with the most ethical issues; health issues， medical science and feature selection and selection of medical artificial intelligence ethical issues research， etc. are legal results with important legal information： AI ethics research has become one of the most research fields related to human health; future The focus of medical artificial intelligence ethics research is mainly on identification， global law， privacy， data security ethical risks， and liability risks caused by the“autonomy” of investigation and research. It is necessary to increase the risk of cooperation and promote the development and research of legal and ethical issues in AI + medical care.

Key words：artificial intelligence；medical issues；law and ethics；bibliometric science

【責任编辑：赵 践    责任校对：刘北芦】

收稿日期： 2022-11-22

基金项目： 中央网络安全和信息化委员会办公室资助项目（MB20220006）

作者简介： 赵宏瑞，男，黑龙江哈尔滨人，哈尔滨工业大学教授，博士研究生导师，主要从事国家安全法与网络安全法研究；杨庚齐，女，黑龙江哈尔滨人，哈尔滨工业大学社会学博士研究生，主要从事国家安全法与网络安全法研究；杨悦，女，黑龙江齐齐哈尔人，哈尔滨工业大学社会学博士研究生，主要从事国家安全法与网络安全法研究。