人工智能在医疗领域的应用和准入

蒋璐伊王贤吉 金春林

1.上海市卫生和健康发展研究中心(上海市医学科学技术情报研究所) 上海 200032 2.上海申康医院发展中心 上海 200041

2017年7月，国务院发布了《新一代人工智能发展规划》(简称《规划》)，制定了人工智能三步走发展战略目标，致力于在2020年、2025年以及2030年分阶段完成我国人工智能技术从与世界水平同步到部分领先、再到总体领先的发展目标。[1]医疗是中国人工智能战略的重要领域。然而医疗行业的特殊性以及人工智能威胁论使得人工智能在医疗领域的应用和准入尤为慎重。本文旨在梳理人工智能的历史沿革以探寻人工智能的本质，综述当前人工智能在医疗领域的应用现状、现存问题和准入管理等情况，展望人工智能在医疗领域的未来发展。

1 人工智能的起源与本质

1.1 人工智能的起源

在“机器智能”的启蒙争论中，控制论(cybernetics)与人工智能(Artificial Intelligence)两词曾并列候选。1955年，约翰·麦卡锡为区别于诺伯特·维纳(控制论之父)的“控制论”一词而命名为“人工智能”，1956年夏季达特茅斯(Dartmouth)人工智能研讨会之后，人工智能开始作为一个独立的研究领域。

1.2 人工智能的本质

麦卡锡和尼尔斯·尼尔森后来对人工智能进行了另一种解释，即智能的自动化(AI= Automation of Intelligence)，该见解与维纳的控制论思想一脉相承，从工程角度看，人工智能的实质即是知识的自动化。[2]

斯图亚特·罗素和彼得·诺维格在《人工智能: 一种现代的方法》一书中尝试对人工智能进行定义: 人工智能是有关“智能主体(Intelligent agent)的研究与设计”的学问，而“人工智能主体是指一个可以观察周遭环境并作出行动以达到目标的系统”。[3]

人工智能分为弱人工智能、强人工智能和超人工智能三个层级，李开复和奥伦·伊兹奥尼等学者认为，在很长的一段时间里，我们将处于弱人工智能层级，也称限制领域人工智能/应用型人工智能，指的是专注于且只能解决特定领域问题的人工智能，还没有到必须分配精力去担心未来，或为可能的机器威胁做准备的地步。[3]正确并且理性的认识人工智能的本质和所处的发展层级，有利于对当下的把握和对未来趋势的预判，为更好地发展人工智能做准备。创新工场根据技术成熟度和未来发展趋势预测人工智能在医疗领域的发展将在未来3～5年内走向成熟。[3]因此，结合当前的人工智能所处的层级，我们应致力于将人工智能更好、更快地融入医疗，提升人类的健康和生活水平。

2 人工智能在医疗领域的应用现状

2.1 国外的应用现状

当前人工智能的发展迎来了第三次浪潮，其研发应用于各大领域，在医疗领域进行人工智能探索已有较长的历史。1972年，由利兹大学研发的AAP Help是医疗领域最早出现的人工智能系统，该系统主要是用于腹部剧痛的辅助诊断以及手术的相关需求。[4]在随后的发展过程中，先后出现了匹兹堡大学研发的INTERNISTI，主要用于内科复杂疾病的辅助诊断；斯坦福大学研发的MYCIN[5]，能对感染性疾病患者进行诊断，开具抗生素处方等。20世纪80年代，出现了一些商业化应用系统，比如QMR(Quick Medical Reference)，还有哈佛医学院开发的DXplain等[6]。近几年，国际商业巨头纷纷涉足医疗人工智能。目前，广为人知的有IBM Watson[7]，能够识别自然语言，在肿瘤治疗方面，能够在几秒之内筛选数十年癌症治疗历史中的150万份患者记录，并为医生提供可供选择的循证治疗方案。此外，谷歌DeepMind于2016年公布成立DeepMind Health部门，与英国国家健康体系(NHS)合作，帮助他们辅助决策，提高效率缩短时间。2017年，DeepMind宣称将区块链技术应用到个人健康数据的追踪以帮助解决患者隐私问题。[8]

2.2 国内的应用现状

国内人工智能在医疗领域的开发研究始于20世纪80年代初。1978年，北京中医医院关幼波教授与计算机科学领域的专家合作开发了“关幼波肝病诊疗程序”，第1次将医学专家系统应用到我国传统中医领域。近几年，受到国家政策的鼓励和科技发展趋势的影响，国内许多企业纷纷致力于人工智能的开发研究。2017年11月，由15个部委合力确定了首批4家国家创新平台，分别依托百度、阿里云、腾讯和科大讯飞4家企业，分别开发自动驾驶、城市大脑、医疗影像、智能语音等技术。[9]2016年，百度宣布开启智能医疗新时代，推出百度医疗大脑。2017年7月，阿里健康发布医疗AI“Doctor You”，并于10月份宣布成立承载“NASA计划”的实体组织——“达摩院”，致力于基础科学的研究和技术创新，首批公布的研究领域主要涵盖人工智能的相关研究，如人机自然交互、自然语言处理、机器学习等。而科大讯飞的智能语音识别技术已经走在了世界的前列，从2015年开始着手AI+医疗的产业布局，入局两年以来主要的研发成果是“三款产品+一个平台”，分别是智医助理、语音电子病历、影像辅助诊断系统和一个人工智能辅助诊疗平台。[10]其中智医助理参加了2017年临床执业医生综合笔试测试，以高出分数线96分的成绩通过了测试。

总的来说，国内外大中型企业纷纷在“AI+”领域发力。据动脉网发布的《2017医疗大数据与人工智能产业报告》，当前医疗人工智能的细分领域主要有9大类，分别是虚拟助手、疾病诊断与预测、医疗影像、病历/文献分析、医院管理、智能器械、新药研发、健康管理和基因。[11]根据蛋壳研究院统计，国内和国外的人工智能+医疗的初创企业一共有192家，其中国内83家，国外109家(未包含基因技术为主的企业数据)。国外的109家企业在几大医疗应用场景有较为均衡的布局，而国内的84家企业中有40家企业涉足医疗影像，远高于其他几项应用场景，特别在新药研发、基因等高精技术领域涉足的企业远少于外国企业。我国医疗人工智能的布局不均衡而较多集中在医疗影像，大致原因包括以下4个方面: 首先是深度学习技术在图像识别领域取得了突破。2012年, 深度学习模型首次被应用在图像识别大赛(ImageNet)，将错误率降至16.4%。2017年的ImageNet挑战赛中，Momenta团队利用SENet架构取得第一的成绩，其融合模型在测试集上获得了2.251%的错误率，而人眼的辨识错误率约为5.1%，深度学习模型的识别能力超过了人眼；第二是医疗影像数据丰富，医疗数据中90%以上是影像数据，且以63%的年增长率递增，海量的数据资源为模型训练提供了丰富的数据训练集，有利于系统的开发；第三是企业的商业定位，医疗影像是相对能够较快实现从试验向临床应用突破的分支，有利于新兴人工智能企业迅速起步；最后，由于我国在新药研发等一些高精技术领域相对国外的研发能力较弱，研发周期较长，相关的研发投入不如国外，因此人工智能的应用与布局也不足。

3 人工智能在医疗领域的现存问题

奇璞研究根据数据有效性和商业模式的发展将医疗人工智能应用分为三个阶段: 第一阶段为数据整合阶段。医疗数据标准化低，共享机制弱，AI在医疗行业的应用领域和效果受限。第二阶段是“数据共享+感知智能”阶段。医疗数据融合到一定程度，出现辅助诊疗、图像识别等各领域的商用产品。第三阶段是“认知智能+健康大数据”阶段。健康大数据的获取成本降低，人类将步入个性化医疗时代。[4]虽然我国很多企业涉足医疗影像并取得一定成果，但总的来说，我国还未完成第一阶段的数据整合工作，医疗数据的标准化程度低，共享机制未健全。有些医院甚至还未实现数据的电子化，2014年参与电子病历应用水平分级评价的医院中，有46.4%未形成电子病历。[4]此外，在数据隐私保护方面，美国于1996年颁布了《健康保险携带和责任法案》(Health Insurance Portability and Accountability Act，HIPAA)，规定建立国家电子医疗交易保障监督制度，创建医疗信息安全和隐私。该法案通过让医疗服务商和医疗保险行业接触健康信息，控制、监督医疗健康信息的正当使用，以最大限度地保护患者的隐私。随后，美国颁布《安全和创新法案》、《个人可识别健康信息的隐私标准》、《移动医疗应用程序指南》等对互联网时代下的电子医疗信息进行更全面的规定。[12]而我国目前在医疗信息的隐私和安全问题的制度性保护尚还缺位。

除了医疗数据的电子化、标准化、共享机制和隐私保护的问题，第二个就是医疗本身的问题。临床上很多疾病会呈现相同的症状，同一症状会对应不同的疾病，临床诊断的复杂性加大了医疗人工智能诊断的难度。同时，现代医学还有很多未突破的医学难题，而医疗人工智能主要基于全人类现有的知识，对于人类当前未知的问题也不能提供相关的建议。

第三个问题是医保支付的问题，由于医疗人工智能的开发和引进对开发者和使用者来说费用较高，医疗机构对引进医疗人工系统的动力尚不明确。在2017年长江产业论坛(秋季)暨医疗健康大数据与人工智能大会上，有医疗影像领域的人工智能企业领导表示，很多医院领导在实际引进人工智能系统中缺乏动机，没有足够的动力花费较大的成本以减轻人工阅片的繁重，医保支付的引入可以给予一定的激励引导。同时，纳入医保的人工智能系统有利于政府部门监督管理，从而有利于医学数据的保护和利用。

此外，还有责任风险问题，主要是在医疗人工智能系统安全风险尚不明确的情况下，应用医疗人工智能系统的医疗诊断结果的签字权问题。同时，与责任风险相关的技术准入和管理问题上，我国的法律监管还存在缺位。最后，人工智能大力发展新形势下，传统医学人才培养模式也亟待转变，业内人士表示在可见的未来，也许AI还未能取代医生，但是懂AI的医生将首先取代不懂AI的医生。

4 人工智能在医疗领域的准入管理

得益于算法的增强、算力的提升以及广泛的大数据资源，人工智能在本次的发展中取得了切实的成果并呈现良好的发展态势，为此世界各国纷纷制定人工智能的发展战略畅想未来的发展，同时也探讨人工智能可能带来的挑战。如联合国在2016年的人工智能政策报告中探讨了自动化机器人的使用带来的挑战、机器人技术与机械伦理学、迈向新的责任分担机制和决策可追溯的重要性四个方面。[13]2016年，美国白宫推动成立机器学习与人工智能分委会(MLAI)。同年，美国白宫科技政策办公室发布了《为人工智能的未来做好准备》、《国家人工智能研究和发展战略计划》和《人工智能、自动化与经济报告》。[14]作为在人工智能道德标准及政府监管研究领域的领先者，英国下议院的科学和技术委员会于2016年10月发布了《机器人技术和人工智能》报告，着重阐述了英国将会如何规范机器人技术与人工智能系统的发展，以及如何应对其发展带来的伦理道德、法律及社会问题。[15]

民间对人工智能监管的问题上主要有两方观点，一方如特斯拉及Space X的CEO埃隆·马斯克坚持的应该严格监管；另一方如Facebook的CEO扎克伯格认为的应放宽监管。但是在国家层面上，一些先行国家已经开始着手具体应对人工智能带来的挑战。

4.1 美国的准入管理

美国于2016年正式通过《21世纪治愈法案》，拨款5亿美元资助FDA改革药物审批程序。法案要求改革并加快对某些抗生素药物的审批过程，加快医疗器械的审批通道，为药物研发提供全新的指导性文件。一方面，放宽或免检辅助健康智能软件和运动保健产品，如智能手环或卡路里监测APP等的审批；另一方面，对那些治疗罕见且威胁生命的疾病的药物审批可缩小临床试验规模。在具体的监管实施上，美国食品药品监督管理局(FDA)早在1998年开始建立监管计算机辅助识别系统。目前批准使用的用于乳腺排查的影像系统CAD，能够提升放射科医生的读片工作。[16]2012年，FDA公布了一套相对明确的审查指标来审查集成了机器学习算法的软件，指标包括算法设计、特征、模型、用于训练和测试算法的数据集以及使用的测试数据“卫生程度”。[17]2015年，FDA发文将可控制心脏消融导管远程控制系统定义为Ⅱ类，属于中等风险。[18]FDA致力于加快患者获得满足需求的创新医疗设备的机会，把一些需要在产品开发过程中收集的证据转移到技术上市之后。目前，大多数医疗器械都是在以下两种途径中进行审查: 高风险设备(也称为Ⅲ类产品)一般通过上市前批准(PMA)的评估，制造商必须进行至少一次的临床研究并向FDA提交相关数据。中、低风险的产品(Ⅰ类和Ⅱ类产品)的审查，通常评估它们是否与已上市的设备相当，这些产品只是偶尔需要临床试验数据。FDA的目标是在180天内完成对PMA应用程序的审查(如果评估需要联邦咨询委员会则为320天)。[19- 20]2016年，FDA颁布了对未来医学创新举足轻重的三条规范: (1)针对低风险普众健康产品的法律规范；(2)为支持医疗器械监管决策，提供实际循证的法律规范；(3)医疗设备准入临床实验的适应性设计规范。这三条规范对于未来医疗领域的AI创新和创意给予了框架性指导建议。2017年，FDA正式授权Bakul Patel博士组建一个专门致力于数字化医疗和AI技术审评的新部门，该部门包括13名软件工程师和开发人员、AI技术和云计算专家等。[21]该部门的任务是为FDA准备好规范和标准，开始审评越来越多涌入FDA大门的AI产品和有机器学习功能的医健设备、器械或医用软件等。他们将重新规划智能医疗机器人、有机器学习特质的医疗设备应当采用哪种途径监管和审批。

4.2 我国的准入管理

2017年2月，国家卫生计生委修订了15条“限制临床应用”的医疗技术管理规范。其中包括人工智能辅助诊断的技术管理规范和质量控制指标。[22]2017年10月，中共中央办公厅、国务院办公厅印发了《关于深化审评审批制度改革鼓励药品医疗器械创新的意见》，指出要完善和落实药品试验数据保护制度，给予一定的数据保护期；医疗器械上市许可持有人承担全部法律责任；完善技术审评制度，组建药品审评团队负责新药审评，组建医疗器械审评团队负责创新医疗器械审评。[23]中国国家食品药品监督管理总局(CFDA)也有一系列监管措施，涉及决策支持、辅助诊断的医用软件为Ⅲ类医疗器械。在2015年颁布的《医疗器械软件注册技术审查指导原则》中要求软件描述文档包括基本信息、实现过程和核心算法。2017年8月发布了《药品数据管理规范》意见稿，规范产品生命周期中全部活动的数据管理，要求高层管理人员对药品数据可靠性负最终责任。2017年9月，CFDA规定申请人应当通过总局医疗器械标准管理中心分类界定信息系统提出分类界定申请。总的来说，中国有部分政策对人工智能的到来作出了一些响应，但是目前尚未有一个专门致力于数字化医疗和AI技术审评的新部门，而美国已经开始着手成立相关部门，展望人工智能的未来发展及其对社会的广泛影响，成立专职的管理部门刻不容缓。

5 未来展望

相较于临床医生的漫长培养周期，医疗人工智能一旦实现机器看病，就能以较少的成本在社区及医院迅速铺开，弥补当前人力资源不足的问题。此外，医疗人工智能可以实现持续监测，从而能够做到早发现、早治疗，提升大众健康。最后，得益于对海量数据处理能力的优越性，人工智能能够提高医疗的准确度，从而能够更好地辅助临床医生进行诊断治疗。

人工智能可以给人类的未来生活带来光明的前景，同时其不确定的威胁也一直存在。如何将人工智能限制在利好人类的方向发展，需要全人类在法治、监管、技术、标准等方面做好规范。

作者声明本文无实际或潜在的利益冲突。