教师应用数字教材的伦理风险与防范对策*

杜玉霞 李玉利

（广州大学 教育学院，广东 广州 510006）

一、引言

人工智能等新一代信息技术的发展在不断变革和重构教育资源与教育生态。2018年，教育部印发《教育课程教材改革与质量标准工作专项资金管理办法》，明确了数字教材是教材的典型创新形式[1]。2020年，教育部颁布《国家教材建设重点研究基地管理办法》，强调要重点研究“信息时代新形态教材”[2]。这意味着发展新形态教材成为教材发展的趋势，数字教材就是基于信息技术开发的新形态教材。人工智能等新技术在数字教材中的应用，使数字教材的功能日益丰富，数字教材能够为教师开展个性化教学提供多种支持：基于数据挖掘、学习分析、智能计算等技术实现数字教材知识重构、个性定制、智能推送、学习档案建构等学习服务，辅助学生实现个性化学习[3][4]；基于学习分析技术实现实时分析和跟踪、自动批改、及时反馈、个性化笔记等功能[5][6]；基于智能计算、机器学习、语言处理等技术提供智能化教学工具[7]；基于机器学习、虚拟现实技术实现智能追踪、虚拟场景、沉浸式学习体验等功能[8]。

人工智能为数字教材发展提供了新工具和新功能，但若不能妥善应用和有效应对其潜在风险，则极有可能导致数字教材变成“空壳”，失去教育价值。教育部在《2019年教育信息化和网络安全工作要点》中指出，要“制定教育系统数据安全管理办法，建立线上线下相结合的网络安全培训机制，着力打好防范化解重大风险攻坚战”[9]。2022年市场监管总局（标准委）发布了《数字教材 中小学数字教材出版基本流程》《数字教材 中小学数字教材元数据》《数字教材 中小学数字教材质量要求和检测方法》等三项国家标准为中小学数字教材提升质量、消解风险提供了规范保障。然而，数字教材的多维交互和动态更新等特点，使教师在应用融入人工智能的数字教材时，会面临多种潜在的风险挑战，特别是伦理风险的考验。如何规避伦理风险，有效发挥数字教材的积极作用，引导学生合理使用数字教材且不被技术异化，是教师应用数字教材亟需应对的新挑战。

二、数字教材的内涵

数字教材的概念自产生之后，不同学者从不同角度进行了界定，至今尚未形成一致的概念。蔡建学（2018）认为，数字教材是依据国家课程标准，以传统纸质教材为蓝本，运用互联网、数字媒体、大数据等技术手段，融教材、数字资源、学科工具、应用数据于一体的立体化教材[10]。它不是纸质教材的简单数字化，而是学科教学与信息技术深度融合的产物[11]；它能够实现内容的动态更新，记录交互轨迹，撬动课堂教学数字化转型[12]，构建了智慧教育新生态。数字教材作为教育信息化和数字出版的核心资源，对我国基础教育的影响日益增大[13]。随着信息技术的发展及其在数字教材中的应用，数字教材的形态与结构发生着变革，主要经历了将纸质教科书转换为电子版，实现内容呈现和存储的便利的数字化阶段[14]；将纸质教科书与视频、音频、动画等非线性资源有机整合，增加了交互性和扩展性，丰富教科书内容的数字教材多媒化阶段[15]；主要将数字教科书与人工智能、大数据、云计算等新技术整合教科书资源，实现了个性化、自适应、协作等功能，实现数据共享和服务的智能化阶段[16][17]。在新技术不断应用于数字教材的过程中，数字教材的概念、类型、设计、评价、应用等都有了不同程度的变化和创新[18]。伴随新技术的应用，数字教材潜藏的风险不断增多，特别是伦理风险。有学者指出，数字教材编制与应用离不开伦理道德的浸润与审视，教师作为数字教材应用的主体之一，更要防范人工智能技术潜在的伦理风险不断渗透到数字教材编制以及应用的过程中[19]。

三、教师使用数字教材的伦理风险类型与成因分析

人工智能等新技术的双刃剑效应，使数字教材的风险随着新技术的发展及其应用范围的扩大而不断增大。科技与伦理的关系问题，是机器伦理学中最核心、最基本的问题之一[20]。因此，及时研究教师使用数字教材面临的各种伦理风险，有针对性地做好防范措施，是数字教材健康发展和新技术时代教育变革的基础和前提。

（一）数字隐私安全的伦理风险

新一代人工智能管理专家委员会于2019年发布了《新一代人工智能治理原则——发展负责任的人工智能》，要求人工智能发展应尊重和保护个人隐私，充分保障个人的知情权和选择权[21]。大数据是人工智能实现算法的基础，数据分析技术在为教育教学提供新技术的同时，由于技术风险控制的不安全性，会给教育者和受教育者带来数据泄露的危机。一方面，数据采集模糊了隐私的边界。数字教材涉及到数量巨大的师生个人信息、学习行为数据、评价结果等，采集数据信息的过程，实质上也是监测师生教和学的过程，采集的个人学习偏好、活动轨迹等信息很容易被网络化存储、复制、传播，也会被出于不同目的的信息获取者处理和分析。另一方面，教师的信息安全难以得到保障。当前，数据收集标准不统一、处理规范不完善，信息安全大多是靠数据持有方的安全系统来保障，但是如果数据持有者出现防火墙漏洞、安全保障措施不力等问题，则容易导致用户的个人信息被泄露。

（二）技术垄断的伦理风险

马丁•海德格尔指出，技术不仅是一种目的，也是一种工具，在人类运用时，技术本身就带有各种各样的“成见”，因而人类被科技所控制，成为科技的附庸、工具、构成要素[22]。当人工智能技术成为人类与教育之间的媒介，就会出现因“技术垄断”引发的风险，违背技术服务人与教育的本质。首先，数字教材基于大数据为用户提供精准的教学和学习服务，能针对普遍存在的教育问题进行分析并且提供最优解决方案。大数据应用的定势思维会弱化甚至消除用户的创造性和想象力，导致用户丧失教学和学习的主观能动性和独立性，失去对教育自身的独特思考和理解。其次，盲目的科技崇拜可能会使德育失重，进而导致人文教育的缺失让位。人工智能基于程序进行的数据分析，在注重学习者知识获取分析时无法为学习者提供价值判断，更难以帮助学习者提升道德品质。数字教材如果过于重视技术而忽视知识本身对人的综合性影响，会导致教学失去道德教育的价值，造成人文教育的缺失。在智能时代，数字教材可以方便教师出题和进行作业分析，但我们不能完全依赖智能系统所做的教学判断，这会使教师变得越来越迟钝[23]。

（三）情感缺失的伦理风险

教育是启迪人的智慧、化育人的心灵、传承人类文明的社会活动[24]。而人工智能应用于教育领域，更多的是涉及到知识层面。由于数字教材基于人工智能对于自然语言的理解仍显不足，缺乏对于事物的深层次认识，更谈不上去分析和传递语言背后的意义与情感[25]，在互联网学习环境中，学习者很难获得情感的升华。

基于数字教材的教学活动是一种“主体——中介——客体”或“人——机——人”的交互模式[26]，教师、师生和生生之间的互动关系必须经由媒体来完成。传统教学师生之间能够进行零距离接触，充分的信息交换使教师可以对学生的学习、心理状况进行面对面的观察。然而虚拟教学时，对屏幕两端的师生而言，容易造成情感参与、认知参与的错觉。这意味着师生的心理状态、情绪变化被虚拟空间屏蔽，相互之间察觉不到情绪，传播和流动的只是“技术符号”。教育具有人性化的特征，数字教材不能忽视情感对教育的影响力。我们要警惕数字教材给师生情感与身心健康带来不良影响，不能痴迷于技术给教育带来的教育环境、教育内容、教育方式等方面的变革，更应关注的是技术对教育者与受教育者之间情感传递的价值。

（四）教师角色错位的伦理风险

数字教材的应用使教师摆脱了繁琐、重复的工作，可以把更多的时间和精力投入到教学中。但也使教师深陷于角色错位的风险中，表现为教师主体性缺失引发教师角色的“脱嵌”与“消匿”[27]。一方面，数字教材可以代替老师传递知识、解答问题、批改学生作业，可以对学生的学习状况进行评估、诊断和反馈，并为学生制定个性化的学习计划[28]。因此，有些教师过于依赖数字教材，不了解数字教材的缺陷，导致教师在教学时的主动性被“智能机器”消减乃至取代，成为“透明人”。另一方面，数字教材通过改变教师的评价思维、评价偏向、评价习惯，正悄无声息地弱化教师在教学评价过程中的价值理性，并不断助长着教师的工具理性[29]，教师传授知识、教学评价的职能，在人工智能时代被弱化[30]。数字教材基于人工智能技术的促逼逐渐剥夺了教师对周围世界的认知和判断能力，使教师不再追求真、善、美，只剩下对技术的服从，成为没有判断性与否定性、不再认识自我并超越现实的“单向度的人”[31]。事实上，教育不仅是向学生传授知识和指导学生学会学习的过程，还是培养学生社会化的过程[32]。教师作为具有人文精神、具有自我意识的个体，应高度重视依赖数字教材引发的问题，主动规避教师角色失衡所带来的道德风险。

（五）数字鸿沟的伦理风险

教育部《关于加强“三个课堂”应用的指导意见》，体现了新时期教育公平的内涵，体现了“专业化、共享、公开”的基本特点[33]。教育公平是教育活动的根本思想和伦理规范，而人工智能技术的教育公平性则是智能教育伦理的最大危机[34]。数字教材应用过程中出现的“数字鸿沟”，制约着教育公平的实现。数字教材突破传统教育对教学时间的限制，消除教学空间的壁垒，实现优质资源的传递与共享。但是，经济条件与社会阶层的局限以及信息不对称、不透明等信息技术必然存在的技术壁垒，加上教师对数字教材的认知差异和能力差异[35]，客观上会导致并加剧信息壁垒、数字鸿沟等违背教育公平原则的现象与趋势[36]。另外，智能教育系统中的“算法歧视”可能隐蔽地导致或加剧教育不公[37]。“算法歧视”包括编程人员是否将正确的教育理念、核心价值理念与相关的伦理规范编写进系统，还包括大数据本身的局限性，比如数据采集是否完整、可靠、及时、合法合规等，特别是不发达地区的群体数据往往因为数据缺少、难采集，导致智能系统无法及时充分地采用完整的数据，忽视了不发达地区受教育群体的具体情况。

中国第48届《中国互联网络发展状况统计报告》显示，“数字鸿沟”在西部地区不断扩大，城乡之间存在着较大的差距。由于缺乏设备、网络和技术，导致部分偏远贫困地区的学生不能在2020年的新冠肺炎疫情中参加在线学习，“数字鸿沟”带来的教育失衡现象真实地暴露出来。如果技术驱动的教育没有与教育公平相呼应，未来的世界将会变得更加分裂和固化[38]。

（六）问责不明的伦理风险

汉斯·约纳斯提出的责任伦理认为科学技术的发展会对自然界以及人类整体生存造成威胁，要求人类的一切行为要对当下和未来的人类和自然环境负责。而如今，并没有针对数字教材的法律规范和专业问责机制。第一，由于智能算法的“黑盒子”，使得用户很难判断出具体的损失，而智能产品也很难建立起一个统一的行业标准[39]。第二，数字教材没有自主的能力，虽然它可以完全自主，但它毕竟不是人类的主体，所以处罚它也没有任何意义[40]。第三，数字教材是由多种数字资源组成的综合性产品，这些资源可能来自于不同的作者、出版社或机构，涉及到各种知识产权和版权问题。

数字教材出现问题或故障的责任主体是谁存在很大的争议。2022年5月，人民教育出版社数学教材被指出“人物插图丑陋、歪曲审美，出现纹身、隐私部位”，甚至被戏谑地称为“毒教材”，引发社会的广泛关注和质疑。教育部和人民教育出版社高度重视，不仅对问题插图进行了整改，加强了教材编制管理，还对有关人员进行了追责处罚。数字教材更为复杂，应用时，数字教材各主体之间的关系规范、权利、义务与责任需要相关的问责机制做出明确具体的划分与定责。

四、教师使用数字教材的伦理风险防范对策

《新一代人工智能发展规划》强调在发展人工智能的过程中，要充分认识到人工智能所带来的安全隐患，强化对人工智能的前瞻性、制约和引导，使其风险降到最低，确保人工智能安全、可靠、可控地发展[41]。在数字时代，教师使用数字教材的伦理风险的成因是社会环境、制度建设、教育主体以及技术问题等因素综合作用的结果。教育管理部门、教师等相关机构和人员只有积极准备应对风险和挑战，才能发挥数字教材的积极教育作用，确保教育安全。

（一）以法为界：确定数字教材的道德规范和伦理准则

《新一代人工智能发展规划》提出要建立保障人工智能健康发展的法律法规和伦理道德框架[42]。人类要保持对人工智能在教育实践中的有效控制，防范技术异化和价值扭曲所导致的风险，就必须要建立新的伦理制度[43]，才能真正将教师智能教育伦理风险降到最低。

1 我国应加强与数字教材有关的伦理规范的建设。国务院《新一代人工智能发展规划》中提出要“加强人工智能相关法律、伦理和社会问题研究，建立保障人工智能健康发展的法律法规和伦理道德框架”[44]。发展人工智能技术必须有清晰的法律体系，使得各责任主体均对技术应用有明确的预期。数字教材的应用应关注价值冲突与伦理两难。在法律法规制定方面，坚持从“育人为本”伦理立场出发，将技术事实的澄清与价值流的分析相结合[45]。建立以教育者和受教育者为主体的数字教材伦理架构，充分体现了科学技术“向善”的理念。同时建立产业标准，强化人工智能的潜在危害、收益和道德评价，强化数字教材产品开发和设计者的道德标准，防止其垄断和功利化。

2 构建多主体参与的数字教材管理机制。《新一代人工智能治理原则——发展负责任的人工智能》提出要开展开放合作，“鼓励跨学科、跨领域、跨地区、跨国界的交流合作，推动国际组织、政府部门、科研机构、教育机构、企业、社会组织、公众在人工智能发展与治理中的协调互动”[46]。数字教材基于人工智能技术所面对的风险和复杂性，建立多层次、多主体、全方位的治理机制是解决问题的途径。鼓励企业、高校科研团队、公民等主体充分利用自身优势，积极参与到数字教材的风险管理和预防中来。另外，要在国内构建一个共同治理的平台，积极寻求国际间的合作，通过对话和互动，寻找最佳的风险治理方案[47]。

（二）以人为本：数字教材实现育人的教学理念，以情感识别和情感干预促进师生情感互动

有效降低数据主义和算法主义带来的伦理风险，是人工智能时代教师充分彰显育人角色的根本任务[48][49]。其一，数字教材的应用应回归育人本质。当前，大部分的研究焦点都集中在技术的升级、改造和创新上，而忽略了技术在培养人才的本质上的探索。未来的智能教育必然会逐步回归到教育的人文价值，突破“数据为尊”的教学误区，使人与机器能够更好地和谐相处。教育必须在文化的意义上寻求人为之人的本质属性、人存在于世的合理性以及人们各种行为的合法性[50]。其二，借助语音识别技术、表情识别技术、眼动追踪技术和自然语言处理技术等多模态情感识别技术来调控、干预、转化、表达和升华师生的各类情感，规范和支持人类师生情感的感受与表达，约束和引导智能时代教师情感的计算与表征。

（三）以德立身：提升智能时代教师的教育伦理素养

技术的价值属性是伦理审视的基础和前提[51]。但是数字教材在教育中彰显的价值不是技术本身，而是在教育活动中的应用。教师在教学中起主导作用，因此提升智能时代教师的风险素养是规避数字教材伦理风险的必然选择。

1 教师要树立正确的智能教育伦理观念。迈入数字时代，智能教育要求教师秉持人本主义的教育人工智能应用理念与原则，明确伦理与安全规范[52]，确保人是智能教育活动中的主体地位。一方面，将智能教育伦理风险素养融入职前、职后教师培养，传播先进的智能教育伦理思想，规范教师教育活动。另一方面，教师在应用数字教材时应自觉融入正确的、科学的伦理规范，引导学生加强数字教材伦理道德的学习，正确看待人类与智能教育技术的人机协同关系，真正做到教师知识传授、能力培养与价值导向三者的有机统一。

2 加强教师智能教育伦理风险防范教育。教师抗风险能力是教师对各种智能教育伦理风险有效预警、防范，并能正确选择处置和化解策略，从而推动教育教学活动有序开展的能力。一方面，要培养教师的数字技术应用能力，提升教师的数字胜任力。教师要具备数字素养，包括数据意识和数据敏感性，即能够有效且恰当地获取、分析、处理、利用和展现数据，并对数据具有批判性思维的能力[53]。另一方面，教师要积极培育智能教育伦理风险防范和规避意识，及时、充分地了解数字教材的最新动态以及潜在风险，树立自觉抵御和应对风险的积极心态。

（四）公平正义：消除数据鸿沟，构建公平正义的人工智能教育生态系统

著名技术学家Hans Lenk指出在人类的发展史上，科技已经成为塑造世界、改造世界、创造世界的工具，技术领域内的变化趋势使得伦理问题更加突出[54]。人工智能的设计应以责任伦理学为核心，实现公正原则，不应拉大主体间地位与权利的差距。

1 人工智能的发展应关注公平和正义。一方面，在设计、监控、管理等全过程中，将公正理念贯穿于数字教材设计、研发、运行、管理的全过程，注重程序公正与结果公正[55]。另一方面，要优先发展人工智能技术教育。通过5G技术有助于优质教育资源的互联互通，大程度上解决优质教育资源发展不均衡的问题，探索优质教育资源服务创新供给新模式[56]。

2 完善救济渠道。政府要发挥调节社会分配和组织社会保障的职能，防范与修复人工智能引起的社会风险。例如，一些农村中小学教师因缺乏专业技术指导以及资金、设备不足导致信息技术应用能力薄弱，这需要政府有重点地给予财政支持以及在制定政策方针时向其适度倾斜，运用政治手段调节社会分配、组织社会保障，弥补数字鸿沟、福利鸿沟。

（五）明确责任：完善数字教材应用的问责制度

《新一代人工智能发展规划》中明确要求：“建立追溯和问责制度，明确人工智能法律主体以及相关权利、义务和责任等”[57]。问责制度是数字教材可靠、持续应用的重要保障。第一，建立相应的问责制度，要明确设计者、开发者、应用者等相关方的权利和义务。第二，创建多主体互动的交流监督平台进行持续监管与积极干预。数字教材伦理的有效管理需要政府、设计者、开发者、企业、用户等多方主体共同参与。为确保每个责任主体有明确的监督管理责任，要对参与数字教材伦理管理的各个主体进行责任划分，形成政府监督主导、其他主体辅助监督的良好交流平台。不仅如此，在行业内部自我净化机制功效微弱的情况下，有必要将企业的生存盈利状况与用户利益绑定在一起，建立严格的审查制度和惩罚机制，加大惩治力度，加大研发者的侵权成本。

五、结语

数字教材是教育数字化转型的必选项，是教育改革的重要支点，是教育数字化转型的重要抓手[58]，发展应用数字教材是数字时代教育发展的必然趋势，是我国建设高质量教育体系的重要组成部分。生成式人工智能的普及应用，大数据、云计算、区块链等新技术的更新迭代，在为数字教材带来新活力的同时，也带来了新的风险挑战，教育系统必须尽早研究数字教材的潜在风险，组织教师提升识别风险、防范风险的能力，以有效应对数字教材带来的伦理风险威胁，保障新时代教育的可持续发展，充分发挥数字教材在推进教育现代化中的核心资源作用，推动我国教育高质量发展。