人工智能应用于眼科的积极作用及其伦理问题

王妍茜，王成虎，张竞月，徐曼华，彭正虹，聂 业，康刚劲

0引言

人工智能(artificial intelligence，AI)最早出现于20世纪50年代，最初定义为“模拟人类心理推理、决策和行为的机器”。近年来AI引起了全球广泛关注，现已应用于各个领域。随着5G时代到来、计算能力飞速发展、存储容量不断扩展、医疗大数据资源共享，无疑加速了AI在医疗实践和研究中的应用，为临床诊治和保健带来创新及变革[1]。眼科是AI领域领先专业之一，AI技术现已运用于眼科诊疗活动中的疾病筛查、临床决策、眼健康管理以及眼科教育等方面，但其应用于眼科诊疗活动中引发的伦理问题也涵盖了医学教育、研究和实践相关领域[2]。

1 AI在眼科的发展现况及其带来的变革

AI的自我改进能力及图像识别技术目前已广泛应用于放射科、皮肤科、眼科、病理、检验等医学领域[3]。作为可借助图像进行临床诊疗的专业，眼科已成为AI研究的前沿领域之一。AI在眼科领域的作用不容忽视，其已成为影响行业发展的重要的科技技术之一。目前，AI在眼科诊疗中的应用主要包括：(1)对糖尿病视网膜病变(diabetic retinopathy，DR)、青光眼、年龄相关性黄斑变性(age-related macular degeneration，ARMD)、早产儿视网膜病变(retinopathy of prematurity，ROP)、白内障、角膜病、干眼等多种疾病的辅助筛查、诊断及治疗；(2)辅助完成角膜、屈光、白内障等相关手术；(3)帮助实现分级诊疗、远程医疗和改良眼科人才培养模式等[4]。

1.1改变常规诊治模式AI近年来成为研究热点，其深度学习模式已被广泛应用于图像识别、语音识别和自然语言处理。AI是临床诊疗和医疗保健最新且最有潜力的倡导者，图像识别及分析是其最强能力之一。研究表明，AI的深度学习在眼科疾病早期筛查和诊断方面取得显著成效，且具有筛查准确性高、一致性好、可扩展性好等优点[5-7]，目前主要应用于DR、ARMD、ROP、青光眼、白内障、干眼、角膜病等。

1.1.1AI在DR中的应用糖尿病是全球的健康负担，其严重影响社会公共卫生系统。目前1型和2型糖尿病患者患DR的概率分别为34.6%和7%，预计到2040年将有6亿人患糖尿病，其中1/3并发DR。因此，临床迫切需要创新的、变革性的新型医疗模式。AI是目前应用于DR诊治最先进、最有效的技术，其远程眼底阅片能力可提高糖尿病患者眼底筛查、疾病分级、帮助眼科医务人员协作提供医护指导，及时对DR患者采取干预措施从而进行管理，降低人力物力成本。另有研究表明AI可检测新微动脉瘤形成和旧微动脉瘤消失的速率，称为“微动脉瘤周转率”，这可能成为未来研究糖尿病黄斑病变和DR恶化的标志[8]。上述均是AI用于DR日益成熟的重要里程碑。面对目前局势，应积极应用AI及时对糖尿病患者眼底进行筛查、诊断及追踪，在AI辅助下及时转诊和治疗，这也是目前欧洲普遍接受的预防失明的策略之一[9]。

1.1.2AI在ARMD中的应用ARMD是一种慢性视网膜退行性疾病，是老年人视力损害最常见的原因。美国眼科学会建议中度ARMD患者至少应每2a就诊一次。据预测到2040年，将有2.88亿ARMD患者，其中约10%患中度或更严重的黄斑疾病。因此，随着人口的老龄化，临床迫切需要健全的AI医疗系统用以筛查这些患者及这类疾病，以便进一步追踪随访、评估治疗效果。Ting等[5]研究表明，基于多中心眼底图像的深度学习系统检测ARMD的灵敏度高达93.2%，这无疑是ARMD患者及医护人员的福音，具有深度学习功能的AI与云数据储存功能的结合成为满足医生和患者迫切需要的不二选择。

1.1.3AI在青光眼中的应用青光眼损害视神经将导致不可逆盲，但可以通过早期诊断和合理治疗延缓病情进展。目前，AI已应用于临床青光眼疾病的筛查和治疗。据统计全球40～80岁人群中青光眼患病率为3.4%，到2040年预计全世界将有约1.12亿青光眼患者。Aloudat等[10]提出了一种完全自动化的基于机器学习方法，从眼睛正面图像中提取瞳孔/虹膜比、巩膜充血程度、巩膜轮廓等6个特征进行研究从而识别高眼压的存在，其诊断精确度高达95.5%。在视觉缺陷分析方面，Wang等[11]提出了一种无人监督AI方法，基于空间模式分析的原型方法监测视野进展，与现有的方法相比，该方法不仅提供了视野进展状态，而且量化了进展模式，准确性和一致性方面优于临床医生。上述研究为青光眼的诊断、监测及随访提供了新的方法。

1.1.4AI在ROP中的应用ROP是全世界儿童失明的主要原因。研究表明通过早产儿眼底筛查或使用数字眼底摄影技术进行远程医疗评估，可技术识别严重ROP的最早迹象，并通过及时治疗、及时转诊等措施防止多数ROP导致的失明[12]。越来越多的研究表明使用眼底摄影记录ROP病情，借助远程医疗及计算机图像分析在ROP诊治中具有重要作用。与人类相比，AI的优势在于不容易疲劳、不易受其他可能影响ROP严重程度评估偏差的影响。

1.1.5AI在白内障中的应用基于深度学习算法，AI已被应用于不同类型的白内障筛选、自动诊断和分级。Xu等[13]于2008/2009年进行的一项名为“北京眼科公共卫生保健项目”对北京周边农村地区55～85岁老年患者进行筛查，通过建立系统方案，纳入远程医疗系统，将50多万患者视力数据、前段照片和眼底照片传到北京眼科大数据研究中心对白内障进行筛查及诊断，此项目的结果得到了一致好评。Wu等[14]建立深度学习模型实现白内障的协同管理，采用三步策略即通过捕获识别模式，识别正常晶状体、白内障或白内障术后的诊断以及对白内障病因和严重程度进行相关检测及分析。该模型在年龄相关性白内障、儿童白内障和后囊膜混浊的白内障综合识别诊断中表现令人结果满意。除使用图像外，该研究还建立了几个使用临床和生物计量变量的预测模型。这些模型可用于优化术后屈光状态和评估儿童白内障。

1.1.6AI在干眼中的应用干眼的患病率为5%～50%，然而其仍然是眼科诊断和治疗最不足的疾病之一。目前，AI深度学习能力已被用于干眼图像自动分类和诊断。Storås等[15]在最新研究报告中指出AI在干眼中的积极应用，其强大的机器学习能力可用于干眼患者图像的细微识别、干眼诊断及严重程度分级，该研究结果还表明AI在干眼的临床诊疗中具有极大潜力。在干眼相关研究中，泪膜渗透压的测量方法在干眼评估中一直受到质疑，Cartes等[16]使用AI机器学习用以量化干眼泪液渗透性的辨别能力，该研究选取20例干眼患者和20例对照组进行研究，结果指出对照组和干眼组的平均渗透压分别为295.1±7.3、300.6±11.2mOsm/L(P=0.004)，对照组和干眼组的渗透压变异性分别为7.5±3.6、16.7±11.9mOsm/L(P<0.01)，在此研究中AI的干眼渗透压诊断准确率高达85%，因此机器学习技术可精确地对干眼进行分类。另有研究发现，通过人工神经网络分析泪膜蛋白模式可以作为检测干眼的诊断工具，该人工神经网络的受试者工作特征曲线下面积(AUC)为0.93，特异性和敏感性均约为90%，为干眼的准确诊断提供了线索[17-18]。

1.1.7AI在角膜病中的应用角膜炎是全世界范围内导致角膜失明的主要原因。多数视力丧失可以通过早期发现和治疗而避免。目前角膜炎的诊断多需经验丰富的眼科医生。然而，在眼科医生尤为缺乏、资源有限的环境下，特别是偏远和医疗服务不足的地区，角膜炎的早诊断、早治疗仍具有挑战性。Li等[19]研究中建立了一个可以自动检测角膜炎和其他角膜疾病的深度学习系统，该系统可根据裂隙灯和智能手机拍摄的图片对角膜炎进行早期诊断和分类，从而预防角膜炎引起的角膜失明，这无疑是角膜炎患者又一福音，也是AI在眼科应用中的又一次突破。因此，将AI应用于眼科诊疗，可辅助医务人员接诊患者，收集病史，主动阅读各种影像学资料，根据采集的病史、辅助报告，向医师及患者第一时间提出诊断和治疗方案，帮助眼科医务人员节约大量人力、财力及时间，有助于患者第一时间得到有效诊治。

1.2改变眼科手术模式随着“精准医疗”概念的提出，精准治疗在眼科得以应用发展。精准医疗是一种将个人基因、环境与生活习惯差异考虑在内的疾病预防与处置的新兴方法，是以个体化医疗为基础，随着基因组测序技术快速进步以及生物信息与大数据科学的交叉应用而发展起来的新型医学概念与医疗模式。Siddiqui等[20]研究指出可将AI应用于“精准医疗”中，其可主动识别疾病类型，指导完成诊疗方案。目前，多种AI模型已被开发用于检测角膜扩张的整体或一种或多种特定形式，所有模型均基于角膜参数进行训练[21-23]。圆锥角膜的早期检测至关重要，发现早期可采用角膜胶原交联手术防止角膜严重变形，而对于已经发生角膜变形的圆锥角膜可以辅助选择手术方案。Kovács等[24]开发深度学习分类机器区分临床前期圆锥角膜眼和正常眼，其敏感度可达0.96。Rozema等[25]开发了一种SVM(support vector machine)算法识别5种不同的角膜模式，即圆锥角膜、锥状圆锥角膜、屈光术后角膜、散光角膜和正常角膜，其准确率为88.8%，平均灵敏度高达89.0%，特异性为95.2%。除角膜扩张外，对角膜弧的自动诊断也进行了相关研究，可识别角膜炎等眼表疾病，区分不同解剖部位和病灶，识别相关的诊断信息，并提供手术等相关治疗建议。

白内障占低收入和中等收入国家致盲人数的50%以上。白内障的早期发现和及时治疗可以提高患者的生活质量并降低医疗费用。目前白内障手术主要是摘除混浊晶状体联合人工晶状体植入。在白内障手术的并发症中，后囊膜混浊是最常见的并发症。AI不仅可以应用到人工晶状体计算公式、提高计算准确性，还可辅助医师制定个性化白内障手术。Gumbs等[26]指出AI除了筛查或诊断疾病，还可以设计手术，帮助确定植入的人工晶状体类型及估计手术风险。此外，白内障等手术机器人也在进一步研发和应用中。

1.3促进分级诊疗建立合理分级诊疗模式是加快“基层首诊、双向转诊、急慢分治、上下联动”就医制度，推动“小病在基层、大病到医院、康复回社区”合理举措。AI技术在促进分级诊疗、缓解地区医疗差异、提升基层医生水平等方面发挥积极作用。近来有学者提出在AI辅助下的远程眼底阅片可辅助完成诊断和治疗，既可帮助实现明确诊断、治疗及进一步分级转诊，也可帮助实现眼健康管理[4]。最近有研究指出，眼科AI的深度学习可与远程医疗结合使用，作为在社区、偏远山区等地方为患者进行疾病筛查、诊断、监测的一种可行性方案[4]。2015-11，河南省人民医院牵手卓健科技，正式启动分级诊疗制度建设工作，建成“互联智慧分级诊疗医学中心”，到2017年，远程病例会诊已超过20000例，打破空间的距离，实现了优质医疗资源异地化，优化医疗资源。

1.4改变传统的眼科医务人员培养方式AI作为医疗活动中医务人员的助手，也影响了眼科教学及人才培养模式。基于AI与大数据以及云计算、互联网、VR/AR等先进技术结合，AI整合的教育资源广泛应用于教学及人才培养方面。AI教学系统以及AI辅助教学模式正在逐渐取代传统教学模式。近代眼科人才培养方式主要是以教师—书籍—学生交往为主的方式，而AI背景下的教学模式则主要是以教师—AI—学生交互为主。医学教育必须适应于不同时代背景，面对一个高度互联的世界，未来医学教育主体主要为：(1)积极探索促进AI在临床教学中的应用，在医学院校开展卫生AI伦理，促进AI的健康发展；(2)目前创建的卫生AI伦理课程应该涉及的伦理问题包括知情同意、偏见、安全、透明、患者隐私和分配；(3)超越医院走向社会，回应不断变化的社区需求，尊重多样性；(4)利用先进技术，通过个性化、社会互动和资源可及性的主动学习，实现学生驱动学习[27]。

2当前智能眼科应用中所面临的伦理挑战

近年来，国家新一代AI治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》，提出了AI治理的框架和行动指南，“负责任的人工智能”一词被提出，主要包括AI的公平、无偏见、透明、可解释、安全、不侵犯隐私、负责任、有利于人类。随着AI技术的快速发展，新兴科技发展带来的伦理问题成为面临的主要挑战。在此形势下，AI在眼科的应用与发展不可能独善其身。

2.1智能眼科在眼科诊治中的失误及归责手术机器人的出现是AI的又一重要里程碑。现阶段从整个医疗活动中来看，机器人辅助医生或由医生设置参数后手术步骤由机器人单独操作，整个医疗活动中操控手术的主体仍然是医生，因此医生在机器人法律责任法中仍然占主导地位。AI相关的伦理问题主要涉及6个方面：个人、人际、团体、制度、社会和部门。人们已开始对AI飞速发展中存在的伦理问题逐渐认识，但对减轻相关风险的能力仍处于初级阶段。Dutt等[6]提出，AI在医疗过程中意外出现机器故障、操作失误等问题时，是否有相应的紧急预案？患者是否能够承受这种后果？O’Sullivan等[28]指出未来外科手术机器人可以学习和执行日常手术任务，外科医生起到监督作用从而为患者服务。但新兴的AI技术无论是民用还是军用均面临责任、法律、义务、伦理等问题需解决，只有这样，AI才能更好地为人类服务。随着AI在眼科诊疗、手术中的应用与发展，如何加强法律的监控及保护，平衡患者、医生、设计者、制造者、机器人等各方面权利是我们迫切需要思考和关注的问题。

2.2智能眼科中的隐私安全医疗数据隐私应受到严格尊重和控制，AI信息的应用应该受相关规则及法律保护。目前，有研究者对AI技术实施的安全性产生各种担忧[29-30]。AI算法的开发和实现涉及巨大的数据集，因此涉及AI的法律问题需要政府、行业参与者、研究机构和其他利益相关者共同起草关于公平、安全、可靠性、隐私、安全性、包容性、问责制和透明度的特殊伦理原则。个人隐私的保护已形成社会共识，AI在医疗保健领域的大规模应用尚未出现，但是AI数据隐私安全已成为公众担忧问题[30]。新型冠状病毒肺炎疫情爆发后，Smidt等[31]利用AI大数据、云计算、区块链、5G等数字技术有效提升疫情监测、病毒追踪、防控和治疗效率，研究发现部分政府部门为了拯救生命，存在忽视保护患者隐私的失责；尽管AI有助于政府和卫生机构减少病毒的传播，但政府置患者隐私不顾，严重侵犯了患者隐私权。目前AI对人类隐私权等基本人权造成了一定威胁，尽管许多国家作出了一定努力，但没有一个国家能够系统地解决与卫生保健数据有关的隐私问题。目前，眼科AI的隐私问题主要涉及AI数据库的数据共享、数据访问、数据隐私、数据监视、数据推送、知情同意、健康数据所有权及有效性等问题[30]。

2.3传统医患关系受到挑战毋庸置疑，医生在医疗活动中的本质是遵循“患者利益最大化”原则。Hashimoto等[32]研究中提出，AI参与诊治时，其会第一时间做出科学诊断，不会考虑利益问题、患者是否能够接受或是否有解释能力，它的这种诊断行为可能增加医生与患者不适当的冲突。AI辅助医疗将增加医患之间的信任风险，患者知情同意权、患者主体性将受到前所未有的挑战。AI的加入使得原本就紧张的医患关系变得更加错综复杂。因而使得医患双方信任显得至关重要。医疗AI作为一个新兴的、快速发展且可能具有颠覆性影响的领域，不仅改变医疗活动的诊治流程，甚至成为了医疗活动中医疗方案的辅助决策者。正因为存在这种颠覆性，在智能眼科飞速发展的背景下，新的医患关系将面临更深层面的挑战。

Jotterand等[33]研究提出AI是使医学重新人性化还是去人性化？随着AI在临床医学领域的普及，应该慎重考虑支持负责实施此类技术的伦理框架。AI在临床环境中的出现将挑战传统道德边界，主要需考虑的问题有：(1)AI在临床背景中的人类学含义；(2)用于解决医学伦理问题的方法和框架；(3)AI对临床实践的影响，特别是在临床判断的性质方面。我们必须充分关注AI运用于临床中对患者的人文关怀、伦理道德，充分发挥“负责任的人工智能”，以期为今后有关临床实践和培训未来卫生专业人员提供指导。近年来，由于多方面因素共同作用导致医患关系日益紧张。患者方面的主要原因为患者对治疗效果期望高、对医疗技术局限缺乏准确认识、医疗知识及信息的不对等、新闻媒体介入的负面作用及患者维权意识的加强。如何将AI与人文关怀、医疗技术、医疗设备融合一体，构建和谐医患关系是AI在眼科诊治中面对的又一难题。

2.4AI引发的眼科教育中的伦理问题尽管AI辅助的教育学习在技术上有很多优势，未来的医生能够使用高科技进行个性化学习、社会互动和获取大量资源。AI目前在眼科训练及其他学习应用中仍处于早期阶段。因基于计算机的学习和AI算法可能被编程为对某些群体有偏见或偏向任何利益，因此眼科手术培训设置涉及数据隐私问题、透明、偏见、问责和责任，必须考虑其在教育中存在的道德和伦理问题[34]。未来的医生依然应该优先考虑人本主义，以“患者为中心”。同时，医生在远程学习中，即学习者与教师和其他学习者处于不同的地理区域，学习者与他人的联系感和归属感，即情感联系和支持也是需要考虑的问题。此外，在数字化的影响下，医学教育的人文价值和伦理标准均在迅速变化，因此迫切需要进一步研究数字化学习在眼科教育中的深度及其影响，并制定关键的素养课程。在AI快速发展过程中，年轻医生是否会出现对AI产生依赖从而出现学习怠慢情况？目前，医学院校开展的AI伦理学习课程较少甚至未开展，这与日益增长的AI医疗矛盾。医生如何提高AI领域下临床伦理实践，如何进行伦理决策，这些都是值得思考的问题。未来医学教育追求的目标是在AI背景下加强对患者的人文关怀和疾病学科专业性，无论AI是否参与到其中均须确保患者安全。Katznelson等[27]研究中特别指出AI在教育中面临的伦理挑战，卫生领域中AI真实事件已对医学界构成了道德挑战，强烈呼吁有必要在医学院教授卫生AI伦理学。

2.5智能眼科涉及的伦理原则不完善现代信息技术的进步促进了认知科学的发展，使得机器人具有生动的“感受性”和切实的“道德反应”。AI的伦理不同于人类的伦理。AI以各种方式参与到社会活动中，这也赋予了AI关于“道德行为体”的标准。随着AI革命的来临，目前强调的主要原则是有益于社会、尊重人权和不造成伤害、保护隐私等。面对具有颠覆性及变革性的AI建立一套道德准则迫在眉睫。一项关于眼科AI的横断面研究通过“问卷之星”[35]应用程序设计了一份电子问卷，问卷由4部分组成，即受访者的背景、对AI的基本了解、对AI的态度、对AI的关注及担忧。调查结果显示，医务人员对AI的认识水平高于其他专业技术人员，多数受访者没有任何眼科AI的经验，但AI在眼科的接受程度普遍较高。科学技术的进步只有符合社会发展规律，促进人或社会的科学发展才会被认可和接纳。AI推动眼科发展的同时，也需要道德和伦理规范AI技术的使用，同时也赋予AI一定的基本权利及道德伦理。在不久的将来，AI将成为卫生保健服务的一个组成部分。患者是最重要的受益者之一，人与AI的互动可以提高卫生保健效率，但在将其与常规临床结合之前，应解决可能存在的问题和风险。Esmaeilzadeh等[36]在一项研究中在线调查收集了634例美国患者的相关数据，进一步了解他们在面对AI服务场景时对医疗保健的好处、风险和使用的看法，结果表明，这些患者对隐私问题、信任问题、沟通障碍、监管标准透明度等方面表示明显担忧，而这些问题可能也是目前AI无法在卫生保健领域应用的一个原因。

3展望

未来医疗的趋势是跨界融合、共享数据、精准医疗。AI作为眼科史上新一代的革命性技术，合理利用AI不仅可以实现医务人员的价值最大化，同时也能满足患者利益最大化。目前，包括眼科在内的医学领域内AI仍面对很多争议及多个问题，包括知情同意、偏见、安全、透明、患者隐私等分配，如何加强伦理、法律法规的约束，建立相关法律法规保护监督，平衡患者、医生、设计者、制造者、机器人等问题仍是需要积极面对及解决的问题。我们需以谨慎态度对待AI的发展，AI必须在正确的价值导向下，遵守相应的伦理规范，才能在临床实践中推动AI眼科技术不断走向成熟和完善。尽管现阶段伦理、法律和监管等问题仍有待解决，但AI无疑可在目前医疗模式中发挥重要作用，不能因此而阻止AI的发展及社会的进步。