人工智能算法的伦理危机与教师行动

冯敏慧

(商丘学院 人文学院, 河南 商丘 476000)

当前,人工智能算法的发展速度极其迅猛,成为社会广泛关注的重要议题。人工智能算法在学界被普遍认为是一套有规律的技术性指令或程序,其在带领人们实现美好生活上拥有巨大潜力,但这一潜力的发挥必须以规避恶果而导向美善为伦理前提和保障条件[1]。国家一直强调在大力发展人工智能的同时,必须高度重视其可能带来的安全风险挑战,加强前瞻预测与约束引导,最大限度降低风险,确保人工智能安全、可靠、可控发展[2]。教育是一项培养人的事业,正确处理人与人工智能算法在教育行动之中的关系具有重要意义。教师是建构教育过程中人与算法关系的主要行动者,探索教师在新情境、新发展态势下的行动方向,有利于规范人工智能算法在教育中的具体使用,提升教师对教育教学实践的主动掌控力,更好地在智能教育环境冲击下把握教育本质、守护教育本真。

一、人工智能算法的教育伦理危机表现

人工智能算法是一种程序性技术,它象征着一套解决问题的固定行为规则,通过具有操作性的符号表征影响着教育过程中教育者和学习者的行动方向和方式,进而影响事物本身存在的整体状况。人工智能算法诞生与发展过程中出现的层出不穷的“新”、构造本质中的“简”、效果实现中的“塑”等各种操作倾向在其使用的过程中都潜藏着伦理风险,对教育本质、教育过程和教育目的容易产生技术性的不良冲击,削减人通过技术实现全面发展的自主性。

(一)新与旧的对抗:人的角色地位面临冲击

技术是一种工具,但如果只将其视作一种工具,则容易忽略它背后可能产生的价值冲击。历史上各种工具的出现,只要在人的社会关系中存在与被使用,便产生了它的社会性,我们真正感到害怕的不是没有生命意义的人工智能算法这种技术性程序,而是担心它的运行对人所生存和生活的社会环境所产生的生命冲击。人工智能算法的运行能够超越个体的劳动能力,以类人的思维方式和行为模式在短时间内完成高效的数据整合、匹配和提取,减弱人类劳动的繁重性和复杂性。伴随着算法的不断升级,人工智能机器能够基于算法和数据挖掘的知识发现新模式,实现认识主体、认识客体、认识工具等认识活动要素内涵和范围的不断扩张[3]。人工智能算法力量的强大让人惊叹,按照目前算法的发展逻辑,算法凭借其对规则程序的遵从和对大量数据的自动整理、分析、提炼表现出对人类劳动未来取代性的强烈信号。人的劳动开始出现异化,人的劳动产品逐渐成为与人自身相对立并反过来支配人的力量[4]。保障以人为中心的教育未来美好生活实现,人工智能的出现对人类智能提出了更高的要求和挑战。人工智能算法的使用意味着人的劳动形态和角色的转变或即将转变,但并不能意味着人的价值意义感的消逝,从某种发展意义来讲,人因环境的变化而发生新的变化和被赋予新的内涵是时代发展的必然性所在。

(二)简与繁的对抗:教育的生命感逐渐消逝

以目前的人工智能算法设计水平来看,无论一种算法被设计得多么高级,与人类生命的思维意识和发展可能性相比,始终存在局限性。一种算法一旦被设计出来,在某种程度上就意味一种相对确定性的成型,彰显着来自设计者先前头脑中对于事件发生发展的初步预料。智力天生就不能理解生命,这是智力的典型特征[5]。教育永远对于生命的本真实现有着执着的追求,教育追求着不确定性的魅力,这给人的生存和发展留下发自自然本能的永恒希望。应当警惕人工智能算法的程序确定性和操作表层性对教育原生魅力的折损。

当前,技术治理成为教育重要的形态表征。人工智能算法的使用是教育过程中技术治理的一大趋向。一旦人工智能算法成为教育教学的唯一操作性工具材料,有些不被人工智能算法设计所包含在内,但对于教育而言非常重要的事情就会被抛弃,算法呈现的结果则会趋向于成为教育甚至人的价值的唯一评判,这对于认识与了解学生、教师、教育管理者等各种角色所具有的教育生命内涵是非常不利的。人工智能算法的使用应有合理的限度,不应为了追求教育过程的便捷度和教育形式的科技化而盲目追求教育智能化,在教育实践中不顾实际效果而大肆配备使用人工智能设备,使教育智能化失去了其应有的生命发展引导功能。与此同时应当认清,人工智能算法在一定程度上能够缓解当下存在的教育问题,但最根本的教育问题绝不是技术能够予以解决的,由人而出发的问题也必将由人自身来解决。精准而烦琐的技术依赖,容易导致教育问题的本质被遗忘。教育主体在失身于对智能技术的依赖和盲从中,也在“自觉或不自觉”中交出了自身“内在的自由”和独立思考、选择、决定与行动的权利[6]。所有这些共同导致了教育生命感的逐渐消逝。

(三)塑与生的对抗:人的最终实现趋向变质

放任人工智能算法的运行而不加以来自人的意识的控制,将会使人成为一个附属性、被塑造、单向度的人。首先,附属性意味着人的权力交付和转移,智能机器以类人式思维的算法表现出类人的行为方式,形成对人类原来劳动的取代,人看似依旧在掌控着人工智能算法的运行,实质上人已经将“做事”的权力让渡给具体的算法,依靠算法来进行实践活动,从而成为算法的附属品。其次,权力的让渡导致人在实践中的责任感和行动力减弱,进而形成在算法运行过程中人被算法所塑造的结果。如果接受人工智能计算出的结果的评判而不加以来自人的再考量,就相当于把人降格为一个可随时对其加以“监控”和“分析”的客体,使得作为客体的技术人造物升格成了教育主体[7]。最后,算法本身设计的不完善最终也会使人的发展成为片面的发展。算法象征着一套标准化的程序,这种程序所代表的发展可能性是单一的,算法歧视、信息茧房、大数据杀熟等都在表明作为受众的人类时刻都可能面临着算法运行下的单一化风险,这种风险不考虑人是否能够全面发展,而只凭自己的程序算法判断来提供资源包围着人发展的社会环境,影响着人的社会性发展。

二、教师应对人工智能算法教育伦理危机的挑战

将人工智能算法在教育教学实践中投入使用,可以帮助教师更大限度上借助算法来表现自我的某种诉求和行事的规则。然而,人工智能算法的使用越是普遍,其发展越是快速,潜在问题也越多地浮现。教师作为教育教学的主导者,在应对人工智能算法使用过程中潜藏的危机、引导正确的教育方向方面具有关键作用,但与此同时教师本身也在面临着算法风险,导致了其教育行动的困难。

(一)我是谁:自我价值的迷失

首先,教师职业的价值性。大多数人都会同意,现代世界在我们这一百年里的发展,伴随着一种持续的,在深度和广度上不断加重的权威危机……这个危机最意味深长的征兆(同时也显明了危机的深重)是,它已经扩展到儿童的培养和教育这样的前政治领域中[8]。人工智能算法提供了巨大的可及信息量和一系列便捷性可操作行为规则,对于教师建基于相对有限性的知识、道德和能力而形成的个体权威造成了一定威胁。如果人工智能算法的使用替代了教师的劳动,学生按照人工智能算法的程序设计即可接受到完整的教育,甚至这种教育比由教师本人提供的教育更加丰富、多元和广阔,那么教师存在的价值意义就会被质疑。其次,教师职业的风险性。从教师内在发展来看,任何失去自我价值判断的行动无论表象上看上去多么有逻辑层次,其终归是缺乏精神内核的,价值判断的丧失会使教师产生对于教育的极不自信,对长时间的教育教学工作产生疲惫和倦怠心理。从教师外在发展来看,当快速、高效达到某一个可以量化的目标成为教育的追求,按照这一目标逻辑,人工智能算法的优势展露无遗,而教师在这种评判氛围中极易丢失自我对于教育的正确认知,进而在算法的使用过程中成为算法的顺应者,从一种劳动形态转化到另一种劳动形态中,并且后者意义薄弱。正如阿伦特所言,这个社会是一个即将从劳动的锁链中解放出来的劳动者社会,并且这个社会不知道还有什么更高级、更有意义的活动存在,值得它去为之争取从劳动中解放出来的自由[9]。

(二)如何做:行动力量的脆弱

教师作为教育教学的主导者,是决定人工智能算法与教育教学运行关系的关键。目前,教师对于人工智能算法在教育中的使用所表现出的自我行动力整体较弱,其中,过度迟疑和盲目“内卷”这两种现象是教师自我行动力量脆弱的主要表现。第一,教师行动的过度迟疑。当教育者和学习者对智能教学系统的分数计算规则、评价理由和预测的依据未知时,他们会质疑智能教学系统的可信度与有效性,这种信任缺失会妨碍教育者、学习者与智能教学系统之间的交互[10]。无论可以拿出多少理论上的证据证实教育的未来发展趋势,依旧要回到实践中仔细考虑教师的态度。它所表达的教师深层次的需求——教师不只是在抗拒、害怕和恐惧,他们还在怀疑,完全技术化的教育与先前教育的理想状态向往是否一致,对实现好教育是否真的有意义,在实践未能充分证明最后的结果之际,反复迟疑导致教师面对人工智能算法不断出现在教育中这一境况时行动的滞后性。第二,教师行动的盲目“内卷”。与迟疑恰恰相反,面对人工智能算法使用的不断普及,潜在的威胁和同质化的环境逼迫着教师不得不接受着来自人工智能算法的安排和使用。算法的强大提供了高超的教育教学的便捷性,促使教师从繁重的教育活动中得以解放,但同时也极易造成教师行动上对于算法的依赖,这种依赖是一种放弃自我权力的依赖,从根本上削弱了教师自身的行动力。行动力量的脆弱进一步促进了人工智能算法在教育中出现伦理危机的可能性成为现实。

(三)为了谁:价值旨归的动摇

人的自由发展是教育的终极目标,是教师工作的价值旨归。人工智能算法所产生的重要教育冲击之一就是通过对教育过程的改变而使教育的终极价值旨归发生变化。第一,教师成为借助人工智能算法培养知识人的促进者。人工智能算法是人类智性的凝聚物,它通过自身内在的知识运作和产生方式,产生知识人。塑造知识人是一个根深蒂固的教育信条,这一信条的人性设定是把知识、求知看作是人的唯一规定性,它颠倒了知识与生活的关系[11]。我们不断地改造物质环境,以此来优化人的生活条件,期待着能够带给人更多的可行性自由,但事实上,如果人一旦迷失在人工智能算法的便捷和舒适里而失去价值判断,就相当于通过对能够影响自身的社会环境的改变,为自身设计了更加精巧的牢笼枷锁并尝试迎合这个牢笼枷锁来使自己的生活与之相适应。第二,学生成为人工智能算法的被评判者。当人工智能算法的使用成为一种象征着现代好教育的重要评判时,这极大地促进了教师对算法的使用,算法在教育中的使用主要受众是学生,学生接受来自算法的引导进行知识的学习和理解,程序算法很大程度上将成为学生思维形成的引导者,从而潜在地影响学生看待、分析问题的主要视角,这个过程是学生被算法评判的过程。由此,教师和学生的力量并没有因为算法的使用而被增强,反而算法因对教师和学生行动的间接掌控而获得力量上的关键加持,继而得以在教育现实中不断扩张。

三、保证教育伦理性在场的教师行动策略

伦理规则是对人工智能“有所为”与“有所不为”的伦理规定,但凡涉及人类社会生活与生产活动的科学技术皆应在人类的伦理规则内运行[12]。伦理性缺失对于教育这项培养人的事业来讲具有毁灭性风险。教师必须采取行动,以便使自己的决定将会造成的不可预见的后果具备可预见性,从而控制不可控的事情,通过采取预防性行动来战胜种种副作用[13]。从大环境的不可逆转,到中观环境中的互动实践,到微观上态度心理上的转变,从挑战到行动,人工智能算法潜在的伦理性危机要求教师克服人的脆弱性,捍卫教师在教育中的自主地位。

(一)厘清教育终极价值,明确自我对守护教育伦理所负的责任

第一,唤醒自我意识,积极回应自然本能。无论个人的社会行动或社会的社会行动,都是有意识的、有目的的、有系统的[14]。行动本身具有意识性,是主体内在意识的外在显化。即使是“无意识”的行动,本质上也属于深层次潜意识的驱使。对于人的真正行动而言,它出自人意识深处的追求,这与动植物所表现出的行为有本质区别。人类本能不是低俗的,它拥有和理智相同高贵的特性,意味着生命发展的永恒可能性。如果将本能和理智看作是相对立的行动方向代表,理智对本能的压制潜藏有深刻的社会规训,一旦规训出现被质疑的情况,人的理智将不知何去何从,本能就会占据上风,成为人行动的主导标准。所以,在规训还没有出现严重地被质疑的时候,理智应主动积极地和本能达成友好合作。真正的理智,无论是对人工智能算法还是教师来讲,它都不会导致人自身精神分裂式的断崖,而应是,越是具有高层次的理智,越是懂得敬畏生命本身,越是能通透地符合自我意志地判断生命的行动方向。教师应努力在象征着理智的人工智能算法中找到自我本能角色,归还教育生命色彩。

第二,合理处理“机器意志”与教师意志的冲突。如果我们把机器看作一种意志的象征,那么最终意志的选择和决定就是一个互动和建构的过程,是教师本人与机器背后潜藏的人的对话和交流。那么,沿着这个逻辑,要形成教师和机器之间的全过程相对和谐,应当在智能算法的设计之初、使用过程、效果反馈方面实现教师与算法设计者之间的良性沟通,就教育的实际需求、实际问题、实际效果和智能技术的发展水平和方向进行双方信息的及时获取,形成跨学科的同一事件多层次、多方面的共同商议与决策。同时,在算法的使用过程中,教师应警惕对算法形成不可撤回的依赖,时刻保持有风险意识,不断提升自身教育教学素养,提升个人教育教学能力,丰富教育机智,养成教育智慧,确保自身能够灵活切换于智能教学环境与非智能教学环境中,对教育环境具有全面深刻的洞察力,从而能够更好地使用人工智能算法而不为其所用。

(二)力行教育教学实践,扬长避短式甄别人工智能算法的运行

技术仅是一种手段,它本身并无善恶。一切取决于人从中造出什么,它为什么目的而服务于人,人将其置于什么条件之下[15]。教育是一个运行着的社会子系统,人工智能算法的使用赋予教育以新的血脉和动力。对人工智能算法进行教育范围上的应用考虑,要求其必须接受教育本身特性的浸入,使智能技术被赋予上教育色彩,算法的使用接受教师的主导,它蕴含有教育力量。

首先,教师应对人工智能算法具有辩证性的认识和使用能力。人工智能的最大优势在于对教育的时间、空间和人力的突破。人工智能算法在教育领域的深化应用,创设了强感知、高交互、泛在的学习环境,为学生的知识建构活动提供了良好条件,为创新型教学模式的发现和运用提供了空间[16]。同时,虚拟空间和实体空间从来不是分割的,亦无法取代对方。虚拟教育可以突破实体教育的限制,实体教育是虚拟教育的基础保障,虚拟是实体的映照,但从来不是实体本身。教师应当注意在利用虚拟空间的同时,也要发挥可用的实体物理空间优势,利用教育场域的真实性,打造可触且温情的教育生命空间,提升教育质量,增强现实的教育具身体验和获得感。

其次,教师应在教育内部建立人工智能算法使用的共识性行动规约。我们不能为了躲避有可能发生的未来风险,就放弃人工智能算法在教育中的研究和发展,但必须承认应当在人工智能算法使用的过程中对其予以伦理上的考量和规约,避免盲目的算法卷入。教师的行动发生在社会关系的建立过程中,教师通过行动在公共领域当中与他人产生有意义的联系,关注他人就意味着对自我的行为加以限制,警惕自我对人工智能算法的使用可能对他人造成的危害,守护教育内部保护人的基线。同时,也应警惕自我行动不应过度盲从和附和来自他者的期望,无论是社会的功利化追求,还是单方的利益表达,都不应当成为使用人工智能算法的主要决策参照源。教师应持续性地基于伦理所昭示的方向追求人类高层次幸福的实现,区分自我和他者的身份界限,保证行动生命的相对独立性。生命的功能和力量是通过人的种种行为表现出来的,在缺乏知识的情形下,是直觉弥补了知识的不足,为生命做出及时判断和选择提供支持[17]。教师应极具勇气地使用生命直觉进行教育行动上的尝试,促使人类智能与人工智能在教育中的融合。

(三)坚守人的价值位序,坚持人的实质性自由发展实现为目标

人的主体性及其实现是智能技术融入学校教育的逻辑起点和行动指向[18]。教育的全过程应坚持以人为本的教育理念,教育能够获得最辉煌的发展根本绝不在于大量智能技术的使用,而更多是在教育中看到人、发展人、成就人的行动过程焕发了教育的本真活力,人是教育最值得挖掘的优势所在。而用来评判智能算法使用好坏的标准,也不应当围绕某种技术的水平多么高级或者高超,能够产生多么绚丽的场面,能够突破什么样的人力不可为,而应当在于算法的使用与教育中人的本能的契合、与教育本性的契合,以及它的使用在多大程度上促进了人的发展,带给了人实质性的自由获得。

第一,确保算法促进人的发展。首先,教育的起点在于人的意志。它凭借的是教师对于教育正当的本质理解,对教育过程有逻辑清晰的规划和设计,对好的教育目的有持之以恒的向往,也即在人工智能算法使用之前,教师头脑当中就应当有一套清晰的教育设计蓝图,在这一蓝图中恰当地表达出了人工智能算法的使用在整个过程中的角色扮演和功能,那么接下来教师就有可能在自己所了解的人工智能算法信息基础上,选择出更加适合教育过程的算法进行使用,从而避免了教育围绕算法设计做出被动调整。其次,教育的过程应当始终坚持守护算法的角色。平等一词不应盲目地应用在人与他者任何关系的任何建立当中,当关系的对象是智能算法时,无生命特性使其并不具有伦理意义上的生命平等,而是作为人的附属物才具有其存在的价值。最后,教育效果应当围绕人的生命质量。我们应当顺应时代潮流在教育过程中融入智能机器的使用,通过提升教育条件突破教育活动的限制,实现过程资源的利用最优化,丰富培养人的条件,为人的行动提供更多的可行性,最终人的发展应当变得更加有质量、生活更加幸福、个人获得感更加强烈。倘若在此过程中人不幸成为算法的奴役,丧失自我的主动权而沦为机器的缩影,则应引起教师自我深处的警觉,重新判断算法的使用在人的发展过程中的定位和角色,重新回归以人为本的教育起点,抛却不合时宜的速度和效率。

第二,确保算法导向好的教育。在教育当中,无论技术发展到哪一步,谁可以使用技术,谁最需要技术,在什么场景下可以使用技术,场景对技术的需求度,技术对使用场景的适应度等,这些都是需要厘清的前提问题。我们可以短暂地将对这一前提的犹豫拿到实践中进行检验,判断其真理性的相对边缘,但不应该在长期没有厘清基本前提的条件下持续性地进行技术的扩张、开发和使用。从智能机器的使用当中获益不应是少数人的特权,更应该是弱势教育群体实现阶层突破的利器,应当看到,智能算法在实现教育成员共同福祉方面的优越性,教师应时刻注意教育弱势群体因智能算法使用的素养缺乏而造成的生存劣势,明确智能算法的使用在于弥合与缩小差距,促使算法的使用对人类智能的增强,而不在于扩大教育信息资源的分布不均衡和潜在内部矛盾。

人是人工智能出现的动因,但人和人工智能最后的关系形态还存在众多未知,人类思维与人工智能算法的关系网中糅合着复杂的意志,人如果有意控制自我这个“因”,则“果”将在大概率上具有相对确定性。在人工智能飞速发展的时代,不时澄清教育领域内所发生的一切新变化,以昨日之初心和明日之理想指引今日之步伐,时时纠偏、调整智能机器使用视野下具体的教育行动,技术的发展与人的发展才能最终实现互利、共生、共赢。