浅析基于医学人工智能的社会实验研究进展

袁凤 郭程 姜宏 俞晔

摘 要： 人工智能技术已成为推动各种创新应用的重要手段。在医疗卫生领域，人工智能深度应用是未来发展趋势，也是落实“健康中国”战略的重大创新实践。医学人工智能的发展为经济增长、社会治理和学科繁荣带来了新的机遇。开展医学人工智能社会实验的研究，对促进医学人工智能持续健康发展，保障人民健康、促进社会和谐具有重要意义。本文回溯了医学人工智能产生的背景，梳理了现阶段医学人工智能的研究对象，分析了医学人工智能社会实验的研究方法，并提出了医学人工智能社会实验研究需注意的几方面问题，为进一步做好医学人工智能社会实验奠定了基础。

关键词： 医学人工智能;社会实验;机器学习;深度学习

中图分类号： R 4

文献标志码： A

Research progress of social experiment based onmedical artificial intelligence

YUAN Feng GUO Cheng JIANG Hong YU Ye

（Shanghai Tenth Peoples Hospital， Tongji University， Shanghai 200072， China）

Abstract： Artificial intelligence technology has become an important means to promote various innovative applications. In the field of health care， the in-depth application of artificial intelligence is not only the future development trend， but also a major innovative practice to implement the "Healthy China" strategy. The development of medical artificial intelligence brings new opportunities for economic growth， social governance and discipline prosperity. The research on social experiment of medical artificial intelligence is of great significance to promote the sustainable and healthy development of medical artificial intelligence， protect people's health and promote social harmony. This paper reviews the background of the emergence of medical artificial intelligence， combs the research objects of medical artificial intelligence at this stage， analyzes the research methods of medical artificial intelligence social experiment， and puts forward some problems that should be paid attention to in the research of medical artificial intelligence social experiment， which lays the foundation for further research on medical artificial intelligence social experiment.

Key words： medical artificial intelligence; social experiment; machine learning; deep learning

人工智能是引領新一轮科技革命和产业变革的战略性技术，医疗健康是人工智能发展的重要领域，医学人工智能的发展为经济增长、社会治理和学科繁荣带来了新的机遇。但同时，新技术的应用不可避免伴随着风险，医学人工智能具有技术属性和社会属性高度融合的特点，随着其应用场景的快速推广，在技术、法律、社会、心理等角度暴露出诸多盲点。通过开展医学人工智能社会实验，分析预判医学人工智能对人类社会各方面可能带来的影响，处理好医学人工智能与人、与社会的关系，是促进医学人工智能持续健康发展的重要举措，对保障人民健康、促进社会和谐发展具有重要意义。

1 医学人工智能研究背景

随着科技进步，人工智能技术成为了推动各种创新应用的重要手段。人工智能从提出到现在，经历了60多年的发展积累，经历了两落三起。人工智能作为世界三大尖端技术之一，已经实现了从实验研究向产业发展的飞跃。从智能家居、虚拟助手、人脸识别到智能医疗、机器翻译和搜索引擎，人工智能已经悄然进入我们生活的多个领域。人工智能在代替人们工作过程中体现出来的明显优势带来了其实际应用的爆发式增长，机器智能水平也相应得到不断提升。目前，包括医疗行业在内的多个领域都在探索人工智能的应用，根据当前发展形势，可以预测人工智能在未来的发展过程中，在人类全健康应用领域将更为广泛，人工智能必将引领人类第四次工业革命，广泛影响未来人们的生活。

在医疗卫生领域，人工智能深度应用是未来发展趋势，也是落实“健康中国”战略的重大创新实践。《国务院办公厅关于促进和规范健康医疗大数据应用发展的指导意见》（国办发〔2016〕47号）、《“十三五”卫生与健康科技创新专项规划》（国科发社〔2017〕147号）、《国家健康医疗大数据标准、安全和服务管理办法（试行）》（国卫规划发〔2018〕23号）等文件的颁布和实施推动了我国人工智能与医疗卫生相结合的健康发展。

毫无疑问，医学人工智能的中国时代已经到来。随着长三角区域一体化发展与上海建设具有全球影响力的科技创新中心这两项国家战略的深入推进，聚合叠加效应正在形成。这一判断是基于三个方面，第一，人工智能+医学的应用基础和环境。中国人口基数大，医疗资源分布不足，让人工智能医疗落地应用成为一种刚需;第二，人工智能在各领域的技术积累达到了一个爆破点。从技术层面看，它可以为医疗人工智能落地化产生强大的助推作用;第三，国家政策红利。从2016年到2021年，国务院、发改委、FAD连续发文，多次提及医疗影像等关键技术智能化、云化的趋势，为推动智能医疗保驾护航。国务院在《新一代人工智能发展规划》中指出要在医疗领域“推广应用人工智能治疗新模式新手段”，《新一代人工智能发展规划》是我国第一个国家层级AI发展的中长期规划，也是我国政府发展及推动AI发展的蓝图，它从整体上部署我国的AI发展，并提出面向2030年我国新一代AI发展的指导思想、战略目标、重点任务与保障措施等，明晰了未来医院高质量发展的方向。

2 医学人工智能研究对象

界定清楚医学人工智能社会实验的研究边界对明确研究对象尤为重要。

（1）按照目前国家卫健委官方圈定的智慧医院范围涵盖三大领域：主要面向医务人员和患者的“智慧医疗”、主要面向患者的“智慧服务”、主要面向医院管理者的“智慧管理”，这是在医学人工智能研究中首先要明确的。

（2）对“医学人工智能”进行社会实验研究，一定是基于病种且在大数据统计分析的基础上，结合ML和DL等算法展开的研究。目前较为成熟的是应用于医院放射科、超声科、病理科等场景的人工智能应用。

未来将进一步拓宽医学人工智能的应用范围，聚焦服务百姓、服务健康、服务常见病，且有大量社会应用基础的医学人工智能场景为医学社会实验研究对象，这样的社会实验研究才更加具备普适性和社会价值。

3 医学人工智能社会实验的研究方法

3.1 社会实验研究方法

19 世纪，由李比希（Justus von Liebig）率先提出，科学实验不应局限于实验室里产生的“模拟世界”，需要进入现实世界，更多关注科学技术在真实世界的作用与影响。此后，随着社会科学的制度化，孔德（Auguste Comte）、斯莫尔（Albion W.Small）、亨德森（Charles R.Henderson）、亚当斯（Jane Addams）、帕克（Robert E.Park）等社会学家逐步确立了早期社会实验的研究路径，即一方面采用自然科学的术语和方法;另一方面把观测研究的对象—社会环境、城市、社区、个人—的自然演进看作一个实验过程，研究者通过观测记录这种演进过程，获取可以对比分析的数据，从而更好地理解社会是如何“运作”的。杜威（John Dewey）则进一步发展出“实验主义”哲学，认为国家形态的建立、政策措施的引入都是在社会实验中不断进行尝试、检验和修正。到了20世纪，现代统计学的奠基人费希尔（Ronald Aylmer Fisher）指出，社会实验除了把模拟环境换成真实环境，其他的操作依然需要遵循实验室实验的逻辑，并引入了随机性的概念，并强调了随机化（Randomization）、重复性（Repeatability）和干预控制（Intervention Control）是构成社会实验研究和保证研究内部效度的3个基础要素。基于这3个要素的不同，一些学者对在真实情境下引入“控制—对照—比较”实验推理逻辑的研究加以区别，划分出准实验（Quasi-experiment）、自然实验（Natural Experiment）、实地实验（Field Experiment）等不同类型，成为社会实验研究方法谱系的重要组成部分。根据实验中相关情境因素引入程度，“实地实验”进一步细分为“自然的实地实验”（Natural Field Experiment）、“框架的实地实验”（Framed Field Experiment）、“人为的实地实验”（Artificial Field Experiment）。

3.2 随机社会实验研究方法的理论模型

早期的观点认为实验方法可以获得行为结构模型不变的参数估计，但人们通常认为结构模型不能解释行为。因此关注的问题就从结构模型参数的估计，转向了那些决定项目实施的因素。

如果我们可以观察到一个人的两种不同情景下的行为，就可以通过比较这两种情景之下他的行为结果来确定该项目的影响程度。我们分别采用Y，Y0表示接受与未接受该项目的两种状态，两者的差异Δ=Y1-Y0。

因为我们尚不能决定这个改变对于某个特殊群体的影响，因此评估者只能关注该政策对不同群体之间的影响分布。尤其，如果一个人随机地接受了该项目，那么通过比较这两种不同情景下结果差异的期望值E（Δ）=E（Y1-Y0）就给出了一种平均意义上的影响估计。我们主要关注这些参加者在接受该项目前后的结果差异。我们用d=1和d=0代表参加和未参加两种状态，该项目对于参加者的平均影响程度记为：E（Δ│d=1）=E（Y1-Y0│d=1）

现有的估计方法大多关注项目的平均影响估计。当对平均效应进行估计时，要么对整个总体、要么对于那些参加一个自愿项目的效果进行估计。关键在于如何构造一种我们所需的“反现实”或“虚拟情景”。例如对于一个自愿参加项目， 为了估计该项目对于参与人的期望效应时，我们需要对该参与人假设没有参加该项目的期望后果E（Y0│d=1）进行估计，这是比较困难的，因为我们不能用那些没有参加该项目人的期望结果E（Y0│d=1）来近似替代。如果我们简单地对这两者进行差异化处理，E（Y1│d=1）-E（Y0│d=1）实際上它包含了两种效应：

E（Y1│d=1）-E（Y0│d=1）=0{E（Y1│d=1）-E（Y0│d=1）}+{E（Y0│d=1）-E（Y0│d=1）}

其中第一项代表了我们感兴趣的参数估计，第二项代表了选择性偏差。度量了那些未参与者和那些参与者在未参与状态时的不同。

随机的社会实验方法可以解决这一问题。通过生成一个实验控制群体，这个群体的人是随机选择的，参加与否都是随机决定的，参加者和未参加者在没有参加该项目的结果差异效应就是该项政策的实际效应。

3.3 医学人工智能社会实验研究的实施步骤

社会实验方法的目标是要度量医学人工智能对其对象所产生的真实效果，具有以下一些特点：

（1）保障随机性。随机构造两个群体，控制组与对比组。随机性体现在不存在选择和歧视，人们有选择参加实验与否的自由，他们不能决定他们参加哪个组。同样地，这些进行实验的管理机构要对参与人进行合格性检查，一旦入选就一定要尽可能地排除人为决定的干扰。

（2）实施干预。一组行动集合来确保这两个随机选择的组成员在他们日常的生活中面临着不同的情境。一般对比组代表了现有情境下这些参与者的现状;控制组会受到创新的影响和作用，通过对比这两个组的行为后果差异来分析人工智能所产生的真实效果。

（3）数据搜集。度量每个组成员的行为及结果。一旦搜集到实验的相关数据，我们就可以采用恰当的方法来进行深入地分析对比研究。

（4）效果评估。运用统计推断和专业知识来分析人工智能对于不同人群产生的影响差异，并分析产生差异的原因。

4 医学人工智能社会实验研究需注意的几方面问题

4.1 细化社会实验设计

其中包括确保样本的随机分组等方面。因为医学人工智能社会实验研究的一个难点是保障样本的随机分组，使样本被分配到实验组和对照组的概率一致。因此，需要细化实验设计，从而增强社会实验的内外部效度与信度。同时在满足平行假设的基础上，确立实验组和对照组，使实验组和对照组在其他变量上尽可能接近，使得医学人工智能所产生的作用，成为实验组和对照组之间的關键性差异。

4.2 强化医学伦理审查

由于医学人工智能本身具有高度不确定性和较大伦理风险，新的医学人工智能应用场景对社会公众产生的影响可能长期持续并且无法有效调控，所以必须尤其重视医学人工智能社会实验中的医学伦理问题。研究者要严格谨慎地遵循尊重、不伤害、有利、公正等基本科研原则，加强对实验流程、实验对象选择、实验数据采集等各个环节的医学伦理审查。充分尊重受试者，确保受试者的知情同意权、数据信息隐私权得到有效保护，尽可能降低风险和伤害。

4.3 标准化数据采集

医学人工智能社会实验是对技术变革、治理创新与社会转型的综合性检验，具有长周期、跨领域、多学科的特征，涉及的研究对象涵盖不同类型的个人和组织，需要采集的数据种类繁多，结构复杂。因此，在数据采集过程中，要特别注重数据的标准化和完备性，为实现不同区域医学人工智能社会实验数据的交流共享提供便利，使医学人工智能社会实验成为一项系统性科学研究工程。

参考文献：

[1]BARIC-PARKER J， ANDERSON E E. Patient data sharing for AI： Ethical challenges， catholic solutions[J]. The Linacre Quarterly， 2020： 002436392092269.

[2]AHMAD M A， PATEL A， ECKERT C， et al. Fairness in machine learning for healthcare[J]. Proceedings of the 26th ACM SIGKDD International Conference on Knowledge Discovery & Data Mining， 2020.

[3]CHEN P-H C， LIU Y， PENG L. How to develop machine learning models for healthcare[J]. Nature Materials， 2019， 18（5）： 410-414.

[4]MCCRADDEN M D， STEPHENSON E A， ANDERSON J A. Clinical research underlies ethical integration of healthcare artificial intelligence[J]. Nature Medicine， 2020， 26（9）： 1325-1326.

[5]BARTOLETTI I. AI. Healthcare： Ethical and privacy challenges[J]. Artificial Intelligence in Medicine， 2019： 7-10.

[6]ZERILLI J， KNOTT A， MACLAURIN J， et al. Transparency in algorithmic and human decision-making： Is there a double standard？[J]. Philosophy & Technology， 2018， 32（4）： 661-683.

[7]VAYENA E， BLASIMME A， COHEN I G. Machine learning in medicine： Addressing ethical challenges[J]. PLOS Medicine， 2018， 15（11）： e1002689.

[8]JAIN V， CHATTERJEE J M. Machine learning with health care perspective[M]. CHAM： Learning and analytics in intelligent systems. Springer International Publishing， 2020.

[9]BEAM A L， KOHANE I S. Big data and machine learning in health care[J]. JAMA， 2018， 319（13）： 1317.

[10]WALJEE A K， HIGGINS P D R. Machine learning in medicine： A primer for physicians[J]. Official Journal of the American College of Gastroenterology ACG， 2010， 105（6）： 1224-1226.

[11]WOOD A， NAJARIAN K， KAHROBAEI D. Homomorphic encryption for machine learning in medicine and bioinformatics[J]. ACM Computing Surveys， 2020， 53（4）： 1-35.

[12]MEYFROIDT G， GIZA F， RAMON J， et al. Machine learning techniques to examine large patient databases[J]. Best Practice & Research Clinical Anaesthesiology， 2009， 23（1）： 127-143.

[13]蘇竣，魏钰明，黄萃. 社会实验：人工智能社会影响研究的新路径[J]. 中国软科学，2020（9）：132-140. DOI：10.3969/j.issn.1002-9753.2020.09.011.

[14]苏竣，魏钰明，黄萃. 基于场景生态的人工智能社会影响整合分析框架[J]. 科学学与科学技术管理，2021，42（5）：3-19.

[15]俞鼎. 技术赋能型社会实验：建设创新型国家的一种新路径[N]. 中国社会科学报，2021-02-02（004）.

收稿日期：2021-0-00

基金项目：2020年上海市科学技术委员会软科学重点项目“上海国家新一代人工智能创新与发展试验区社会实验研究”（20692118100）;2020年上海市科学技术委员会软科学重点项目“医疗应急救援的人工智能应用与评价”（20692105500）;2021年上海交通大学中国医院发展研究院医院管理建设研究项目“三级公立医院高质量发展路径探索与实践”（CHDI-2021-B-14）;2021年上海交通大学中国医院发展研究院医院管理建设研究项目“长三角医院协同发展专科联盟作用发挥研究”（CHDI-2021-B-15）;2020年上海交通大学中国医院发展研究院医院管理建设研究项目“城市立体化公共卫生应急救援体系构建研究”（CHDI-2020-A-14）;2020年申康医院管理研究项目“基于人工智能的医疗应急救援应用评价”（2020SKMR-46）

作者简介：袁凤（1987—），女，同济大学附属第十人民医院科研处，科员，研究方向：项目管理、科研管理、人工智能;俞晔（1981—）（通信作者），男，上海交通大学附属第一人民医院院务办公室，副研究员，研究方向：人工智能、质量管理、医联体，E-mail： qzlglc@163.com。