人工智能教育应用的伦理风险研究

（ 扬州大学新闻与传媒学院 225000）

新一代人工智能技术的飞速发展正在引领新一轮科技革命和产业变革，引发和重构新的行业结构和行业形态。教育是促进人类文明发展的重要领域，人工智能技术在教育中的应用正在推动互联网教育进入“人工智能+教育”的高级阶段。然而，利用人工智能技术推动教育发展的同时，也产生了一系列伦理问题，如削弱教师地位、侵犯学生自由、加大教育不平等、对教育正向价值的压制、对教育育人价值的僭越。华东师范大学唐汉卫教授认为，人工智能的深入运用将在本体意义上动摇我们原有的对教育的理解、批判和追求，从而产生前所未有的困惑和焦虑。本文围绕人工智能与教育的深度融合，从伦理学的视角下审视人工智能对教育的影响，让人工智能的应用回归教育本质，让技术运行在符合教育规律和人认知规律的轨道上。

一、人工智能教育应用的含义及合理性

张坤颖等认为只有当人工智能辅助于教育应用、建构教育场景、重组教育中的要素或者重构教育过程时，才属于人工智能的教育应用。从目标来看，人工智能教育应用以“育人”为最终目标；从过程来看，人工智能教育应用于课堂教学、学校管理、家校合作等方面；从结果来看，人工智能教育应用实现了教育教学、学校管理方面的最优化。由此可见，人工智能的教育应用是人工智能与教育深度融合的产物。

在对人工智能教育应用进行伦理反思之前，需要先确认人工智能在教育中的应用是否具有合理性，其依据是：合乎教育自身的发展规律。首先，了解学生的真实发展水平是教育活动开展的前提，人工智能可以捕捉到学习者不同时间、不同地点的各种数据，包括面部表情、动作、情绪等。与传统教师依靠自身观察、他人评价、传统纸笔测验等方式相比，人工智能更能了解学生的真实发展水平；其次，尊重个性是教育的内在要求。传统教学很难为学生提供个性化服务，而人工智能的精准预测使得学生的个性化发展成为可能；最后，人工智能应用于教育使得学习打破了时空的限制，教师也可以随时查看学生发展状态并及时做出干预。与此同时，家庭、学校和社会的联系也更加紧密、教育合力不断增强。

二、人工智能教育应用产生伦理风险的原因分析

（一）人工智能自身的因素

人工智能教育应用依赖于教育大数据、算法和机器学习，人们通常认为人工智能因为没有人为因素的介入而趋向公平。但在实践过程中，人工智能的偏见或歧视却屡见不鲜，如微软公司的聊天机器人Tay在发布24小时以后就开始变得具有种族歧视和厌恶女性。

人工智能存在偏见的主要原因在于算法和数据。算法是人工智能的核心要素，虽数字符号是中立的，但如果算法设计者自身抱有偏见，就有可能将这些偏见嵌入算法系统。另外，算法决策的基本原理是“以过去的数据预测未来的趋势”。而教育数据存在两个方面的问题：一是教育数据的全面性，二是教育数据的真实性。然而，要获取教育领域的全部数据却是一大妄想。教育是培养人的社会活动，我们可以利用技术收集人的行为、语言的变化却无法对人的价值观念、思维方式的变化进行数据化处理。教育的社会性使得教育数据与其他领域的数据总有着千丝万缕的联系，我们无法清晰的界定哪些是教育领域的数据。教育数据来源的多元化，也使得教育数据承载的价值既包含正向也包含负向。

（二）人工智能使用者的因素

人工智能应用于教育，其使用者为教师和学生，本文主要从教师和学生对人工智能的认可度以及能力素养两个方面进行分析。

教师和学生对人工智能的认可度直接影响了人工智能在教育中的使用情况。当前，人们对人工智能的认识存在两种极化：既有对人工智能的全盘肯定，也有对人工智能的全盘否定。这种理性认识的不足在一定程度上滋生了人工智能教育应用的伦理问题。此外，教师和学生伦理意识不足也是导致人工智能教育伦理的原因之一，如缺乏隐私的保护意识。

人工智能教育应用对教师的专业水平提出了更高的要求，不仅需要教师具备传统的教育教学知识，还不要具备人工智能方面的知识以及掌握设计开发数字化学习资源的技能。但目前的师范类教育以及教师在职培训，不管是理论层面还是操作层面都很少涉及有关人工智能方面的知识，教师职业素养与人工智能的冲突，也成为人工智能教育应用伦理问题出现的一个原因。

（三）法律制度的因素

人工智能在教育中应用必然会出现一些在传统教育中从未出现的问题，为了维护人类的基本权利以及规范人工智能在教育中的应用，需要制定相关的法律法规、建立各类管理机构，以引导和监督人工智能在教育教学、教育管理等各环节的规范运行。在制度方面，我国尚未建立一套完善的与人工智能教育相关的制度。制度的建设也是一个长期而复杂的过程，且需要国家相关部门、教育行业及相关领域与相关单位三层共同制定，而这期间又会不断出现新的问题，制度建设的滞后性导致了对人工智能教育应用约束力不足。

三、人工智能教育应用伦理风险的具体表现

（一）人工智能教育应用对使用者主体性的削弱

1.削弱教师地位

目前，国内外学者在机器人替代劳动力研究方面都得出了比较一致的结论，即机器人的出现会替代某些职业或者某些任务。教师这一职业是否会消失众说纷纭，有学者认为，传统意义上的教师已无存在的必要。也有学者认为，无论人工智能发展到何种程度，教师始终“在场”。可以确定的是：将人工智能应用于教育领域，教师已不再高枕无忧。

当前的教育人工智能可以帮助教师完成一些重复或辅助性的工作，未来教育人工智能还可能承担更多的工作。因此，教育人工智能投入使用量增加的同时教师的失业率也随之增加。杨绪辉等认为大脑的生理局限使得信息化时代的老师是一种“缺陷”的存在，必需要借助外在代具来构建自身的完整。教师在借助人工智能的过程中稍有不慎就会变相成为人工智能的附庸，从而导致教师地位下降。

2.侵犯学生自由

人工智能教育应用需要对学生的学习过程进行全面跟踪、记录，学生如同进入一座“全景式监狱”。在此不难发现，学生之所以能享受人工智能提供的便利是以隐私泄露为代价的。也许收集学生生活和学习数据的初衷是为了提供更好的精准化服务，但数据不会遗忘，将那些在学生未成熟的情况下作出的欠妥的行为全盘记录下来，很可能会给学生贴上某种具有暗示意味的“标签”从而影响学生的入学或求职。这不可避免的损失了学生的人格尊严，限制了学生的自由。

人工智能能够对学生的后续发展进行趋势预测，教师可以根据预测的结果进行及时干预，从而保证更好的教育效果。但这种预测会剥夺学生自由选择的权利，尤其随着预测精准度的不断提高，人们对预测信任感的不断增强，学生可能再也无法根据自己的意愿作出选择，这种预测对学生的学业反而成了一种禁锢。

（二）人工智能教育应用对教育的冲击

1.加大教育不平等

人工智能应用于教育旨在实现更高效的资源配置，有效提升教育质量并促进教育公平。如慕课（MOOC）被看作是全球课堂的雏形，但是这种教育资源并非均匀的在不同地区中“扩散”，特别是在教育数据的获取方面，不同教育系统、平台间的数据没有开放和共享，国家和地区之间的“数据鸿沟”更加凸显。数据获取的不平等也就决定了数据使用的不平等，最终会扩大教育地区间的差距。

人工智能对学生未来学习轨道的预测在一定程度上与美国、英国等国家的“分轨制”教育有异曲同工之处，它们都是在分析学生的心里特征及学习能力的基础之上，结合社会发展需要，制定不同的学习路线。区别在于，人工智能提供的分流标准更加细致、分流手段更加多元。传统分轨制的公平性已备受争议，人工智能的预测也存在加大教育不公平的风险。

2.对教育正向价值的压制

从人工智能教育应用伦理产生的原因分析中可知，人工智能是存在偏见的，人工智能的使用者之间也存在不同的价值追求。因此，人工智能是负载价值的，既有正向价值也有负向价值。

教育离不开价值的判断和选择，任何教育资料在呈现给学生之前都需经过必要的价值审视。但因为人工智能自身的特性，使其无法对所有的数据进行价值审查。人工智能教育应用不可避免地对学生的行为方式、思维习惯、价值观念产生影响，其负向价值就会对教育产生干扰，与教育应然的正向价值产生冲突。因此，在人工智能教育应用中，必须始终坚持教育的正向价值取向，仔细审视并正确处理人工智能背后的负面价值。

3.对教育育人价值的僭越

提供精准的个性化服务以及将难以理解的知识精准清晰的表示出来是人工智能教育应用的目标。也就是说人工智能在具有育人价值的教育面前，只是一种工具的存在。

将人工智能应用于教育不仅为教育变革带来契机，应当永远注意技术是服务于教育的、是为人类更好的生存和发展的，技术本位的思想尤其值得审视与反省。事实上，在教育领域对人工智能的顶礼膜拜、盲目乐观这种苗头已经显现，人工智能甚至正成为教育中的一种新的“意识形态”。人工智能的“意识形态”地位一旦确立，其工具价值也就僭越了教育的育人价值。所以，必须将教育的育人价值作为价值判断的标准和最终目标。

四、结语

人工智能与教育的深度融合不仅要符合技术伦理、教育伦理的规范，更要符合教育的发展规律和学生的认知规律。本文首先阐述了人工智能教育应用的内涵，然后对人工智能在教育领域应用的合理性进行了论证，最后探讨了人工智能教育应用可能产生的伦理风险以及对产生的原因进行了分析。虽然本文仅在技术、教育、伦理三个方面进行了研究，没有设计到其他学科，分析不够深入。其意义在于呼吁广大的教育工作者以及技术开发人员，在教育领域推进人工智能的过程中应当时刻保持必要的反思，警惕人工智能在使用过程中潜在的伦理风险，避免教育技术史上由技术至上导致错误的历史重演。