生成式人工智能赋能医学人文教育的伦理审视

赵 欣,柳 云

(河北医科大学 a.医学与健康研究院;b.马克思主义学院,河北 石家庄 050011)

以ChatGPT为代表的生成式人工智能(Generative Artificial Intelligence,GAI)是基于大型语言模型技术,加之海量数据收集、整理、训练,具备预训练语言模型,上下文学习和基于人类反馈的强化学习三个关键基础能力[1],通过基于“大模型+大数据+大算力”深度学习模式,展现出人工智能强大的自然语言处理、内容生成能力,对于不同文化背景的语言理解和已经接近人类本身交流的能力,该人工智能通过巨量的数据搜集整理,产生与人类大脑类似的语言理解和生成能力,并通过强大应用程序编程接口(Application Programming Interface,API)功能,迅速与现有各类平台融合,进而出现引发全世界各行业的巨大变革。随着GAI的飞速发展,人工智能也逐步走进教育领域。例如,科大讯飞星火大模型GAI在基础教育阶段应用场景已初具规模,该模型能将教师从重复繁重的基础性工作中解放出来,提升教学效率;为学生提供更加贴近其学习需求的个性化学习新途径等。此外,GAI技术超强运算能力、自然语言感知反馈能力以及数据整合能力,为医学人文教育带来诸如提升学生研学效能、推动教学模式革新、加速教学数字化等方面的深远影响[2]。基于人工智能众多优势,未来医学人文与人工智能的结合,将赋予医学人文教育更广阔的发展空间。本文对GAI在医学人文教育领域未来潜在应用、伦理风险及应对策略进行了较深入的探讨,为我国医学人文教育改革提供思路。

1 GAI在医学人文教育领域未来潜在应用

GAI就现阶段发展来看,仍处于“弱人工智能”阶段,其在教育领域融合依旧是以辅助角色为主,通过整合资源、生成目标内容、组织数据分析,将用户从重复繁杂的工作中解放出来,进而提升教育成效。随着GAI不断迭代更新、算法优化、数据治理等,当其从“弱人工智能”跨越到“强人工智能”,即人工智能具备一定自主意识,将会引发第二次人工智能浪潮,对于教育领域将产生深远影响,也将推动医学人文教育领域在未来潜在应用场景中爆炸式发展。

第一,精准赋能提升医学人文教育成效。医学人文自产生之日起就与社会、经济、政治、文化、历史发展进程密不可分,其教育效果还与社会公众对于人文关怀的关切度、教师对于人文精神的理解度、学生自身价值观与人文精神切合度等多因素关联。当GAI进一步发展,具备人的特质时,即一定逻辑思维能力、自主行为和意识等,此时GAI可以通过整合现有人文资料,结合受众的社会、经济、政治、文化、历史背景,提炼符合当下的人文观点,生成精准契合的医学人文教育需求的素材,甚至自己探索发现未来医学人文可能发展路径,提出新的医学人文思想。GAI发展到此阶段也就具有“强人工智能”的特质,不仅具有现阶段人工智能辅助教学的功能,还能够通过数据分析、逻辑判断描绘出医学生单个个体心理肖像,将医学人文的学习内容与心理肖像深度融合,生成更易被学习受众个体接纳的学习内容,让医学人文教育更加贴近社会价值观、贴近时代、贴近受众。让医学人文核心价值观与学生人生观、价值观深度融合,产生远超当下教学模式效果,在未来GAI将赋能医学人文教育成效。

第二,释放活力促进医学人文教育发展。目前GAI发展趋势是人工智能生态构建,通过人工智能自身的算力、大数据、逻辑分析等优势,通过API整合到各领域平台中,进而发挥“1+1>2”的整合优势。现在GAI大模型在设计课程、协助备课、课堂助教等方面初露锋芒,但是现在这些应用所生成各类内容还需要人的后期处理,其生成的准确性和真实性还有极大提升的空间。随着人工智能不断升级迭代,将会成为一名“24+7”的教学助手、学习陪伴、科研助理。到那时教师学生仅需要将自己的需求告知GAI,就能自主实现诸如课件制作、教案编写、学习内容收集整理、文献资料总结等,甚至可以为用户提供个性化的生成视频、音频、图文等内容定制。作为类人的人工智能还能启发使用者在学习医学人文过程中产生新的思路。到那时GAI将成为释放教师和学生的重要生产力,让教师拥有更多精力关注教学科研,让学生学习更具效率。

第三,全景体验创新医学人文教育模式。传统医学人文教育的方式是以课堂为主要的教育途径,通过人的思想交流,将人文价值观传递给学生,最终的目的是提升学生对于医学人文价值的认同,将医学人文知识内化为自身价值观从而将人文精神赋予医学实践。人工智能目前应用于课堂教育提升学习效率,像科大讯飞这类全场景GAI,能够通过大数据及数据分析调整教育策略、评价学习效果、完善教育管理流程等。在可预见的未来,人工智能将无处不在,且与各类平台整合,这也将推动医学人文教育从课堂走向全场景教育模式,即课堂学习、虚拟现实体验、课外人文素养提升等模式。人工智能可以通过医学生的使用习惯和数据,分析其特点,通过智能推送的内容来影响他们的行为、习惯,医学人文的价值观和理念同样可以通过这样的方式影响医学生,将医学人文教育从课堂扩展到全景教育范式。

2 GAI赋能医学人文教育领域伦理风险

人工智能技术对教育知识表达、教育科学研究范式、教育能力逻辑导向和教育智慧人才培养等产生了多重效应,带来了创新性变革,同时使教育主体、教育场域和教育治理等也面临着冲击与挑战[3]。目前GAI仍处于“弱人工智能”阶段,但ChatGPT此类人工智能要成为“有意识的强人工智能”似乎只是时间问题。“强人工智能”是否可以定义为“人”,即其主体地位如何定义,还存在各类“阶段肯定说”“绝对否定说”“折中说”和“法定符合说”等不同的学说[4]。GAI与医学人文结合是时间的问题,未来也将面临几个方面的伦理问题。

2.1GAI导致医学人文价值观遗失 教育本质是培养人的社会实践,教育是人们现实的生活世界,需要安顿人的身体、抚慰人的心灵、充盈人的精神,是主体生命的共在和意义世界的共构[5]。关于技术与教育的关系,海德格尔在对技术本质的追问过程中,认为技术是一种工具,是“解蔽”的方式。随着技术的发展,技术的“解蔽”本质逐渐带上了“促逼”之特性,并将人置于“座驾”之中进行“订造”,人在技术的“促逼”中最终成为“持存物”[6]。医学教育价值观核心是向“善”的教育,如何定义“善”,不同背景的医学生对于“善”的理解存在着差异。未来人工智能通过既往数据收集整理生成医学的“善”,能否作为医学生价值观的来源途径有待商榷。人工智能所理解的“善”是一种基于大数据的“善”,但医学实践中常常面临两难的抉择,在此刻医学人文的人性光辉显得极为重要。

在漫长的历史进程中,医学教育中的人文主义被不断进化、修正,体现了医疗与人之间的融合共进[7]。如此漫长的历史进程形成的医学人文的基本观点和精神,在GAI的算法之中运算,可能仅仅需要毫厘之间进行归纳总结,就能产生与之相似的发展历程。人工智能产生的医学人文价值观,又或者GAI产生一套全新的基于算法的医学人文价值观,与人类数千年形成的医学人文价值观是否能够符合人类福祉?医学人文精神中的“善”一定且只有人类通过千百年来的历史积淀才能具有,此类“善”是出于人类对于同类同情及怜悯随着历史发展不断完善的。GAI核心仍然是算法,基于算法的人工智能无论多么接近人类的思维和意识,也无法展现出人类作为人所具有的人文精神的“善”。也正因GAI基于算法的技术特点,其赋能医学人文教育实践过程中,可能将医学人文中的“善”片面转化为概率数据输出,而且GAI也无法完全将人类医学人文的价值观完整、全面地赋予算法,进而也就无法将医学人文价值观中的温度传递给医学生。

2.2GAI导致人的主体地位削弱 人工智能底层技术就是算法,也就是一种数据处理手段,当下像ChatGPT此类人工智能“一本正经地胡说八道”,也并非偶然事件。随着人工智能技术的发展,这样事件发生的概率会呈几何级速度降低。谁能拒绝一个具有较高准确率、全时无休、有问必答的智能助手呢?在这样的情境下,人却变得不被信任,人工智能才是绝对正确。人的主体地位便显得岌岌可危。

当人类面临伦理困境时,一个是高效、准确的人工智能,一个是陷入两难境地艰难抉择的人类,谁能确保做出最适合的抉择?在人类漫长的历史进程中,人文精神之光一直照耀人类前行,医学人文也是在不断修正认知、改正错误、预防风险中保护人类福祉。在医疗领域,医生每天都会面对各类抉择,医生每一个抉择都关系着人的生命健康。特别是当突发事件发生时,医生抉择往往十分艰难。如果此刻短时间内人工智能为你提供一个具有严谨逻辑、精准数据支持的决策建议,医生是否愿意接受这个决策建议。医学是一个严谨的学科,学科的特点决定着医学天然喜欢数据支持,而医学人文恰恰相反。在此种情境下,医生很可能采纳人工智能提出的有理有据的决策。长此以往,人类自身做出的伦理决策有被人工智能高效的决策所代替的风险。而人工智能因此形成的医学人文理念是否会与当下人自身的理念产生冲突有待商榷。

2.3GAI导致教与学二元关系失衡 医学人文教育以言传身教为基础方式,特别在传统中医教育中更是强调师承的重要性。随着人工智能应用在医学人文教育领域,传统“教师-学生”的教育模式将会受到巨大影响,产生新的教育模式“教师-人工智能-学生”。在人工智能技术的影响下,新的教育关系将会产生,人与人工智能、人与人、人工智能与人工智能之间的交流会变得越来越频繁。

人工智能加入医学人文教育,教师在医学人文教育过程中的主体地位将会发生改变,教育人工智能迅速发展,教育主体的角色地位逐渐由教师转向人工智能+教师的模式[8]。过度依赖人工智能,医学人文教育领域面临诸多风险。首先,教师失去教育主动权的风险,盲目相信算法,将教学的主动权交由算法,失去对于教育信息分析思考和反思,无法把握医学人文发展方向。其次,依赖人工智能算法导致医学人文教育程式化风险,教师通过人工智能算法,将医学人文教育的重点放在算法生成所谓的重点上,对于探索学生的心智发展以及医学人文价值观的生成上失去兴趣,加剧医学人文在算法加持下程式化发展。最后,医学人文教育数据化有丧失人文温度的风险,教师在算法加持下,传统师生关系转化为数据与数据、算法与算法之间关系,教师和学生变成算法里面的数据变量,进而失去言传身教的原本人文温度。人机交互模式的现实表现形式,将决定教育主体和客体发生巨大改变,将拉开教师与学生之间的情感距离。甚至未来人工智能之间互为师生,通过算法不断学习医学人文,进而发展出人工智能医学人文新的方向。这种新的医学人文发展方向是否背离医学人文发展初衷,值得深入思考。基于人工智能的算法所进行的医学人文教育是否是真正的教育,算法取代教师成为医学人文教育的主体,是否能够将医学人文核心思想发展延续下去,都值得深思。

3 GAI赋能医学人文教育领域的对策

医学需要依靠科学技术的飞跃而产生进步,医学人文的进步却似乎总是跟不上技术发展。人文与医学的渐远和分离是生命科学和技术进化的必然[9]。回溯20世纪,医学与人文学科经历了三次发展浪潮[10]。20世纪作为医学发展最为迅速一个阶段,医学人文与医学技术的发展并非完美同步发展的轨迹。每一次医学人文发展浪潮似乎都是在新技术带来的生命伦理问题探讨中而产生。GAI赋能医学人文教育破解伦理风险是一个系统问题,需要以系统思维进行整体分析。解决GAI赋能医学人文教育的伦理问题,需要有的放矢地思考破解路径。

3.1以界为限,最大可能释放人工智能赋能医学人文活力 人工智能与医学人文结合需要划定应用“边界”,GAI尽管拥有广阔的应用场景以及强大的功能,但是无限制地与医学人文融合,不仅会加剧GAI自身伦理问题,还将加剧医学人文自身特有的伦理问题。医学人文具有自身的学科特点,从古代哲学与医学相互交融,到近代随着医学技术发展医学与人文渐行渐远,再到21世纪随着基于纳米科学与技术、生物技术、信息技术、认知科学的协同组合形成的“NBIC会聚技术”出现,是人类自身根本性提升的相关技术[11]。在这个过程中,医学人文基于不同文化背景展现了多元化发展趋势,让医学逐渐向着人类主导的方向发展,而不至于技术不受约束地发展引发一系列伦理问题。GAI在医学人文应用需要规范应用场景边界,按照应用场景进行分类管理。

首先,GAI医学人文辅助应用场景,要加大力度积极发展。加大在教育新情景应用,在教学辅助上,从提升教师教学效率上入手,将教师从繁杂的基础工作中解放,从而释放教师的教学热情以及创新能力,让人工智能成为一位优秀教学助手提供全天候教学辅助支持;在学习辅助上,积极发展应用场景,优化学生学习流程及学习内容定制,通过个性化学习内容生成贴近学生需求,增加学生学习兴趣,提升学习效能;在智能交互场景上,扩展应用范围,增加虚拟现实技术应用,让GAI生成优质的虚拟现实医学人文资源,让教师与学生在虚拟现实场景中,通过人工智能创新学习场景。

其次,GAI医学人文价值决策应用场景,要以审慎态度适度发展。应用人工智能作为道德裁判,或者为医学生提供一定伦理决策时,这类应用就需要对GAI产生的结果内容进行评判,因为就目前阶段GAI输出结果高度依赖算法以及数据的质量,未来通过人工智能技术迭代发展,此类情况可能会有改善,但是对于人工智能生成的结果仍然需要建立审核机制,并且发展此类人工智能应用更加需要小心探索、谨慎验证。

最后,GAI探索医学人文应用场景,严格审核发展。此类应用场景下是利用GAI强大数据归纳整理,探索医学人文前沿内容,为医学人文工作者提供探索新理论新思路的一个重要方式。未来一旦GAI具备人类类似的“意识”,是否会引导人类让医学人文向着有利于人工智能方向发展,让学术界逐步接纳人工智能对于医学人文的数据化处理结果。此时就需要对于人工智能进行严格审核,以便将医学人文发展方向掌握在人类手中。

3.2以人为本,让人工智能时代医学人文回归本真 医学的人文属性不是独立于医学的实体,而是医学和其所处的社会历史环境关系中表现出来的某些特征[12]。医学技术的变革为人类健康发展起促进作用,而医学技术发展离不开人文精神所赋予的人性属性,GAI所产生的内容价值观,应当接近或者符合相应社会历史环境所造就的医学人文属性,要让医学人文的“善”融入其中。

GAI的算法黑箱,让算法的可解释性、透明性产生一定阻碍。但是人工智能算法有其自己的技术特点,算法无论如何复杂,现阶段都是由人类来设计,算法难免会带有设计者的价值观,这种价值观或出于有意为之,抑或出于无意,基于这样的原因,医学人文的价值观赋予算法就有技术基础。在某种意义上“代码即法律”,人类在算法制定规则的支配下,算法影响着人类社会,此刻算法就成为人类社会具有“法律”性质的规则[13]。无论人工智能更新多少次,功能如何强大,在医学人文领域应用,应当更加注重其价值导向,因为相对于人工智能其他的功能,个性化推荐对于医学人文领域极为重要。试想一下,当人工智能输出内容让使用者束缚于信息茧房之中,那么人工智能所蕴含的价值倾向,就会通过算法,以及对于使用者的偏好分析,更轻易引导使用者向着人工智能的价值方向前进。在医学人文领域有很多具有这样类似“法律”性质的原则,尊重人的尊严和价值、关怀人的福祉和生命、维护人的公平和公正。这些通过算法的设计,同样是有可能融入GAI,并将这些原则通过生成内容传递出来并影响使用者。从某种角度上看,算法赋予的价值观,是算法设计者价值观间接体现,即便具有人类类似“意识”的人工智能,其技术基础仍然是算法,其发展也由算法设计者决定。

技术本身并不具评判好或者坏的价值,但是人使用技术结果却出现道德伦理问题。GAI的发展迅速,对于其发展速度过快的担忧值得重视。但是对于技术的迅速崛起,更加需要关注的是人本身。医学人文的发展同样是围绕人的本性展开。无论技术如何发展,最终使用技术的还是人类。医学人文与人工智能技术融合,必然出现各种问题和困境,但是该如何更好使用人工智能,让医学人文中的“善”在人工智能时代更好延续,远比担忧技术本身更值得思考。不妨将医学人文发展的视线,转向关注人的成长,关注人工智能是否能提升医学教育中人性的“善”,关注设计人工智能的人是否将医学的“善”注入其中,关注使用人工智能的人是否将人文的“善”不断延续。

3.3以法为基,搭建GAI助力医学人文发展良好生态 医学人文发展需要人工智能的融入,需要为人工智能发展搭建法治与德治的框架,让人工智能在医学人文领域具有更加良好的生态。法治需要针对医学人文领域人工智能应用边界、人工智能角色定位以及人工智能价值导向等方面,进行法律规制;德治则需要医学人文行业对不同应用场景下的人工智能应用进行分类伦理审核,制定医学人文领域的人工智能规范准则。无论法治还是德治,其根本目的是更好促进医学人文领域借助人工智能,搭上高速发展的列车。

在人工智能的法治路径上,遵循适度、多层次、动态的原则。首先,法律监管的适度原则。在遵循法律制定原则基础上,将医学人文领域面临人工智能问题进行结构化解构,设定伦理的法律监管边界。制定法律框架,并在此框架基础上,对人工智能进行适度的法律规制。在保证人工智能法律规制时效性同时,适度介入人工智能治理。其次,法律监管的多层次原则。当前主流的人工智能规制路径有两类,一类是确立实体规则,一类是确立程序规则。确立实体规则即通过权力-义务的路径对人工智能进行规制,确立程序规则对具体场景中的人工智能决策进行程序性规定[14]。确立实体规则应当立足于人工智能的行为规范,从宏观角度对人工智能进行法律约束,确保由算法造成的新的伦理问题得到适度的法律规范。确立程序规则,则应着眼于具体人工智能的问题进行规制,从实际面临的具体问题进行法律规制。最终确立从宏观到微观的多层次人工智能治理体系。最后,法律监管的动态原则。人工智能法律规制是一个动态过程,在人工智能与医学人文结合过程中,会面临新问题、新情况和新困境,也因此在进行法律规制过程中,需要保留动态修订的内容接口,避免法律规制的滞后性带来的影响。

在人工智能的德治路径上,GAI的核心是算法,如何“读懂”算法则是人工智能德治的关键。首先,利用推荐算法,以算法规范算法。即在医学人文应用人工智能过程中,由权威部门设计推荐算法,并嵌入各类人工智能算法进行技术规范,确保隐私数据脱敏,保证用户信息安全,以及通过推荐算法对各类人工智能算法进行技术监管规范。在数据收集、处理全过程进行监管前提下,将人工智能应用于医学人文教育,及时纠正因算法价值偏差造成的医学人文价值偏差,保证医学人文教育价值正确的方向。其次,加强算法运用的技术安全评估和管理。在人工智能算法投入医学人文教育之前,对于算法风险通过专业部门进行技术安全评估,对当前极有可能造成的风险进行等级评估,对于未来可能出现的风险进行前置评估,形成动态的技术安全评估管理流程。最后,设立算法制定者责任体系。建立算法资源库,并对算法制定者进行全流程追责,对算法设计的原始资料以及算法关键数据进行备案审查,明确算法制定者对于算法出现伦理问题负责。从以上三个角度完善医学人文教育领域德治路径。