隐忧与消解：智能技术之于教育的伦理省思*

于英姿 胡凡刚

（曲阜师范大学 传媒学院，山东日照 276826）

进入21 世纪以来，以人工智能、物联网、大数据、沉浸式学习系统等为代表的智能技术，正给人类的生产、生活带来了深远的影响。 近年来，随着智能技术发展并应用于教育的不断深入， 人们对智能技术的态度呈现出支持和反对两种相互对立的认知和实践倾向，也存在着一些争议。 我们认为，尊崇某种自然规律给教育带来确定和不确定双重影响的智能技术，在对教育与学习赋能的过程中，不可避免会引发人们对其价值、责任、隐私、人性等方面的伦理隐忧。 正如马克思所言：“工业的历史和工业已经生成的对象性存在， 成为一本打开关于人的本质力量的书，是感性地摆在我们面前的人的心理学”[1]。马克思的这一论断， 也为今天引导人们如何正确处理对智能技术的态度，提供了理论指引。智能技术之于当下教育的过程中，在隐私和数据安全、知识产权、预防歧视等方面出现的问题， 都对现有教育运行规则和教育伦理产生着较大的影响与冲击。

因此， 我们有必要遵循智能技术之于教育的价值、隐忧与消解路径这一逻辑思路，探讨智能技术与人的真实关系， 在智能技术之于教育的语境中肯定和强化人的主体性，并从具体实践问题入手，强化人的建设性参与。

一、智能技术之于教育的价值所在

伴随着科学技术的迅猛发展， 智能时代如约而至，自英国人阿兰·图林（A.Turing）首次提出智能机的设想，并且认为机器是能够思维的；到俄罗斯科学家设计的聊天程序，到尤金·古斯特曼（E.Goostman）首次通过图灵测试；再到Google 公司制造的Alpha-Go 战胜世界冠军柯洁[2]，智能技术正在不断地刷新人们对它的认知。大数据技术可以将符号化、模型化的人类行为活动进行收集、整理，学习分析技术可以将海量信息进行甄别、筛选、分类、分析、整合等，这样，人类在客观自然世界中所获得的刺激，通过人工智能技术以符号化等表征方式赋予机器人， 机器人通过刺激进行匹配、联结，进而进行计算、推理、语义理解和决策，最后输出行为[3]。 近年来，众多专家学者通过引进人工智能（AI）技术，借助大数据、智能机器人等来促进教育教学改革， 实现教育教学模式的转型， 已进行了深入研究并提出具有建设性的思考[4]。唐汉卫研究了在智能时代教育的存在问题[5]；贾积有讨论了智能技术对教育的影响， 认为能促进人类学习方式变革[6]；余胜泉认为未来的教育将走向教师与人工智能协同共存时代等[7]。 这些研究，均揭示了智能技术对教育产生着较大影响并具有重要价值。

我们认为，进入智能时代，技术应用于教育系统必将带来或创造新的价值（如图1）。 昔日的教育模式已无法适应今日的社会需要， 昨天的教育理念也难以有效指导今日的教育实践， 需要合理地利用现代智能技术，促进教育“从现在走向未来”。

图1 智能技术之于教育价值解析

（一）从“批量灌溉”到“精准投放”

教育作为社会发展的产物， 深刻地反映着时代的特征。在大机器生产的工业时代，班级授课制风靡全球，这种教学模式适用于像“流水线”一样批量培养生产工人，不管是学习目标、学习内容还是学习环境，都在一定区域内是统一的，体现的是“批量灌溉”式的人才培养方式。 但是，当我们进入智能时代，班级授课制已表现平平，“工业化” 的教育形式已难以支撑今日的人才需求， 我们首先要反思的是智能时代需要培养什么样的人？爱因斯坦说过，教育的价值不在于学习很多事实，而在于训练大脑会思考。智能时代的学生应具有四种关键能力，分别是创新能力、实践能力、合作能力和批判能力[8]。

基于此目标，“教育工厂” 的旧模式显然已无法满足社会发展的需要，“工业化” 教育需要向“智能化”教育转型[9]。转型的关键就是要为教育松绑，摆脱应试教育的捆绑式学习（指固定的场所、目标、教材、方法等），把“批量灌溉”升级为“精准投放”。 智能技术可以基于海量的数据库和知识库， 实现在学习的过程中精确追踪学生的学习行为，对其知识水平、学习进展、学习风格等数据进行收集分析；教师通过大数据分析出的学生知识图谱， 根据分析结果和特殊需求为学生“精准投放”个性化任务和学习方案，并依托其强大的资源库提取“私人订制”式学习内容，帮助其理解问题并实现特定目标[10]。 技术的进步为教育者提供了更有效的教育手段，专家系统、智慧教室、学习分析技术[11]、语音识别技术、语音转文本等作为辅助工具，正极大地促进了个性化学习的实现。智能技术正在并将持续改变教学组织形式、 内容体系、培养目标、培养方式等[12]，在全面、高效地帮助教师教学的同时，能够精准、个性化地促进学生学习。

（二）从“固定教材”到“生成内容”

随着教育理念和培养目标的改变， 我们可以预见的是，在不久的将来，单纯依赖于课本、课件等“固定教材”必将满足不了当下的教育需求。为促进学生的个性化学习以及全面发展， 教育中需要更加重视“生成内容”。但我国教育机制受科举制影响深远，直到如今，很多考试还借鉴八股文的形式，不同题型有不同的“套路”，按照“套路”来做就能得高分。还有一个特点就是“万物皆可背”，不管是作文还是公式定理，只要出现在课本上学生就能背，而对其背后的科学原理往往一知半解。长此以往，学生固然面对考试可能会取得不错的成绩， 但会导致更为严重的思维固化问题，不利于创新能力、批判性思维的培养。

智能技术的应用， 为教育教学提供了先进的手段，教育也由此具有了更高的追求。不仅要将基础打牢， 还要在学习过程中面对具体问题能结合自身生活经验和学习经验，打破学科壁垒，综合运用各学科知识以达到解决问题的学习目标。 不像传统课堂中所有学习者都采用同样的教材， 在智能技术的支持下，教师和学生在学习过程中，可将现实和虚拟结合起来，对学生学习风格进行深入挖掘，根据学习目标和个体学习的“关键词”，运用智能技术的语义分析以及内嵌算法，变换学习场景，因材施教，生成个性化内容。这样不仅有利于学习者的个性化学习，还能高效、批量地生成优质内容，减轻教师制作课程资源的负担。 学习过程随学习环境、培养目标、个人兴趣等发生适应性改变，实现了人机协同、学科整合、资源共享等， 能有效地提高学生的应变能力、 沟通能力、逻辑思维能力、创造能力以及合作探究能力等[13]。

（三）从“流程繁复”到“过程消减”

早在互联网技术快速发展的时代， 人们就已经实现了跨时空的沟通和学习。进入智能时代，人们需要的不是一板一眼的教学流程， 而是要灵活利用智能技术进行前期分析、资源选择、目标制定、环境设计等，这将大大减轻教师完成重复性、标准化的工作负担，节省人力、时间，并能帮助人们进行科学决策、智能管理等；同时，也提供给师生更为智能、细致的服务，实现把“流程繁复”转化为“过程消减”。

首先，我们的学习环境已从多媒体环境进化到了虚实结合的智能化深度学习环境，智能技术既提供了科学有效的教学场景，也帮助教师整理资源、备课以及评价等，简化了教学准备和总结等工作流程。越来越多的国内外知名科技公司所研发出智能教育产品，比如，“畅言智慧课堂”“智慧云课堂”等，为学习者提供了深度学习的良好环境，这些平台结构合理、资源丰富、交互便捷、服务人性[14]。 学生可在“无边界学校”中获得个性化的学习资源，主动、批判性的整合跨学科知识，以深度理解为起点，以新情境的知识迁移为导向，以解决复杂问题和培养创新能力为目标，实现深度而富有成效的学习，更好地促进学习者德智体美劳全面发展。

其次，随着智能技术的成熟，在教育大数据的基础上，机器人系统能够提供动态的、及时的服务，既能使用信息跟踪技术追踪学习者的学习时间、 学习场所、学习内容等；又能利用人脸识别技术和镜像技术等记录学习者的学习注意力、 学习兴趣、 学习习惯。并能将两种甚至更多的技术结合，得到学习者的学习特点，为其提供反馈和建议，及时、适切地调整学习状态，帮助教师高效管理课堂，减轻教师负担。

最后，智能学伴、智能教师、专家系统等利用人工智能技术，自适应地提供个性化学习指导[15]。 它们存储了大量的知识和经验， 当用户通过人机交互界面向系统进行提问时， 它能利用自身的知识库做出对问题的合理解答，在学习过程中像一个“专家”一样存在，对用户学习起到辅助作用[16]。 它们在学习过程陪伴学生，不仅能够提高学生的学习兴趣，还能够为学生定制符合其个人发展现状的学习任务， 有针对性地解决学习问题，进而提升学习效果。

（四）从“总结评价”到“形成评价”

随着智能技术的发展， 教育领域在迎来重大机遇的同时，也面临着严峻的挑战。不同的价值观念和教育理念相互碰撞， 模糊着人们对教育质量的价值判断和选择[17]。 因此，需要采用多元评价方式，综合考量教育质量和教育价值， 而技术也为智能时代构建教育质量评价体系提供了有力的武器。 但现有的教学评价体系仍有诸多不足， 其中显著的一个问题就是教学评价缺乏全面性和深入性。 当前学校所实行的形成性评价，也摆脱不了总结性评价的影子，主要以座谈、问卷、单元测试等“马后炮”式评价为主。甚至对不同学段、 不同特点的学生采用同样的评价方式，鲜少和学段特点、学科特性等的结合。

智能技术为教育评价带来了新思路、新方法，尤其是高效的大数据分析技术为教学评价提供了技术支持。在先进评价方法的指引下，促进了教学评价向真正的“形成评价”与“总结评价”相结合的方向发展：在学习活动开始前，通过大数据技术进行诊断性评价，可以预先了解不同学生的学习准备情况、已有知识水平、学习能力等信息，为教学活动提供依据。在学习过程中， 大数据技术能够细致入微地记录教师和学生的课堂行为，比如，通过追踪眼球聚焦关注点和眨眼频次来分析学生注意力情况和学习兴趣[18]，弥补了教师难以兼顾所有学生课堂表现之不足，并且对“尖子生”和“后进生”一视同仁，最大限度地促进教育公平。在收集多方面的信息后，能够快速进行数据分析，将不同个体的学习情况呈现给教师，帮助教师精准指导学生学习。 大数据技术还能同时与学生建立联系，通过信息反馈提供可行建议。在结束某一学习任务后， 不再单纯依赖传统测试来进行总结性评价，而是全面分析学生成果表现、价值等作出综合判断，并结合诊断性评价和形成性评价，为下一阶段学习的设计和管理提供依据。 智能技术促进了教学评价的科学性， 能够更加精准地判断教育质量和教育价值，为创新人才的培养提供了条件。

二、隐忧思考：智能技术之于教育的伦理失范

可见，智能技术与教育的结合，极大地促进了我们的教学与学习，正如许多专家预言的那样，人工智能等智能技术正在促进深度学习、优化人才培养、改善教学环境、创新教学模式等方面持续发力。

但是，技术的本质不会变，我们创造出的这种技术“助手”在进入生活、工作领域的过程中，工具思维和教育理念的碰撞， 势必会催生出技术异化所导致的伦理失范问题（如图2 所示），而这往往在技术繁荣的迷雾中容易被忽略的。 伦理问题一直都是教育发展和改革中需要重视的方面，此类问题可从价值、尊严、隐私和人性等多维视角来审视。

图2 智能技术之于教育的伦理失范解析

（一）自身价值的疑虑

不可否认， 智能技术在教育中具有较高的应用价值，能够提供便捷、丰富的学习资源，逐渐减轻教师的负担等等。为此乐观派认为，智能技术是无所不能的“超人”，只要技术一直进步，人类下个指令就能帮我们完成任务。但问题是，如果将来实现了这种理想化的图景，那人的价值在哪里？人类还有存在的必要吗？人类创造技术并不是要用来毁灭自身的，我们要理智的思考技术在教育中发挥的价值。

首先，技术的发展需要教育来培养人才，同时，技术又能够运用到教育中， 促进教学模式和教学环境的改进。与人类教师相比，智能技术具有非常显著的优势，譬如，大数据系统具有丰富的、更新速度快的知识库，可以帮助学生精确定位，设定特色学习任务；智能机器人能在短时间内学习大量知识，能持续保持高效率，只要有电就能一直工作等等。 虽然，最终智能技术至少在情感、思想、价值观方面不会取代人类教师，但是，它一定会对教师的职业造成不小的冲击，甚至会使得教师怀疑自身的价值。 另外，在教育教学实践中，也可能会存在“技术鸿沟”，置身于教育信息化的大潮中，技术被应用得热火朝天，但也有相当一部分的教师还不能愉快地接受、 学习并自觉应用智能技术，他们还未来得及主动了解技术，就受到技术挤压从而被动接纳它。 技术应用不是生拉硬派的死任务，它与我们一直在提倡的主动学习一样，需要自主、有选择的去使用。

其次， 马克思主义认为，“劳动是人的本质活动”，而当智能技术越来越多的在社会生活中取代以往由人类完成的劳动时， 人类的体力就会越来越廉价。 由此会减少就业机会，引起就业恐慌。 面对不断上升的失业率，社会的贫富差距就会越来越大，而这又对促进社会与教育公平非常不利。面对这种情况，人们就会期望通过教育来培养更具竞争优势的人才，但培养一个智能时代需要的创新型人才，远比培养一个普通劳动者要困难的多。

最后， 智能技术的发展为教育提供了更为便捷的环境和空间，当前应用的智慧教室、专家系统等，作为辅助教学手段取得了一定的成绩， 获得了社会的认可。 但问题在于：当技术越来越厉害，在教育中像一个“超人”一样无所不能——你的问题它会给你解决，你有困难它马上就会提供帮助时，人类是否会厌于思考？ 是否会逐渐缺失探究精神和问题解决能力？当学习者给机器人下发指令，它就会完美的完成任务，没有过程中的困难和曲折，这样，人的惰性会不会膨胀？越来越多的师生是否会满足于坐享其成？显然，当整个教育大环境都呈现这样一种状态时，人们的思维就会面临退化风险。并且，当智能机器人如果能够完成几乎所有的工作，那么，在那个技术异化所导致的社会中，我们似乎就看不到人存在的价值。

（二）AI 责任的迷雾

当前，将AI 应用到教育中，以智能机器人来促进教和学已是大势所趋。 除传统的教学活动中的构成要素外， 智能机器人也成为现代教育的重要成分之一。 在这种背景下，我们有必要思考：智能机器人这种“类人类”，是否也应该享有人类的权利？在享有权利的同时，是否要承担相应的责任？ 另外，智能机器人是依靠数据和内部的算法而存在的， 当智能机器人收集到了虚假的数据或是内部算法出错， 从而做出“伤害”教师和学生的情况，这时应该由谁来承担责任？ 是学生、教师、领导还是生产商？ 虽然，当前的技术还未达到我们想象的那么成熟， 但在我们可预见的未来，智能机器人会大规模地应用于教学，到那时再来考虑这个问题，可能就为时已晚。

我们认为，在智能机器人的责任问题方面，主要存在三方面的隐忧：（1）智能机器人毕竟不是真正的“人”，当它面对道德难题时如何抉择，我们如何去定义它的道德地位， 各国现行的法律体系中缺少关于智能机器人违法的处罚条例； 即使智能机器人真的犯了错，该交给谁来管制，又要通过什么手段进行处罚也是空白；（2）设计者将一定的算法、规则植入智能机器人内部系统并制作出来，之后投入使用。在具体使用中，设计者就难以对其进行控制，更不用说一旦技术发展完全成熟， 所制造的智能机器人可以独立思考时再对其进行控制了。一旦技术发生异化，会给人类带来危机，比如，智能驾驶发生交通事故，这种情况谁该来承担责任；（3）AI 技术是在大数据的基础上发展而来， 智能机器人自身的工作依赖大量完整的数据，众多学者提出了AI 可根据每个人的独特数据来实施个性化教学， 但很少有人质疑过这真的只是完全的个性化教学而不会导致歧视性教学？大数据并不是我们可以完全信赖的对象，目前，大数据歧视的例子有很多。 比如，由于Google 公司的搜索引擎中将黑人和猩猩关联在一起， 因而被打上了“种族歧视”的标签；再比如，学生毕业找工作时，由于籍贯、年龄、性别等都在简历上，大公司会应用AI系统进行初步筛选， 对于不喜欢的地区甚至是性别进行剔除。这种数据导致的歧视行为，致使贫困地区子弟、女性等难以找到优质工作。这些行为出现的责任在谁？目前都很难进行界定。可见，AI 教育的责任承担问题，至今还没有清晰的业界标准，当危险真正来临时，也许会给人类带来更大的生存危机。

（三）用户隐私的风险

智能技术的出现， 源于人们对机器模仿人类的构思， 在其发展的最初阶段能够模仿人类的肢体活动。随着技术的成熟，智能机器人能够感知光、声、温度等。现在，人工智能等技术正朝着模仿人的认知方向发展，在此过程中依赖的是大量且完整的数据，可以说，数据是智能的基础[19]。 如此庞大的数据量势必将从庞大的人群中进行收集，这样使得包含个人、各级各类学校、 教育行政部门和各相关智能技术企业等参与主体的数据安全及隐私权得不到有效保障，容易导致以提供私人订制和个性化服务为目的的海量数据采集与分析过程中的泄露、不当使用等风险，尤其是个人信息在不经意间会被泄露。 这样的情况在当今社会中已经非常普遍，比如，当你某天在网络购物时搜索一件商品， 你就会发现在接下来的几天中再打开该网站，就会自动为你推荐这类商品，并且还会给手机发送关于这类商品的降价消息等。

回到教育问题上来，个人基本信息、学籍档案、学习资源库、教师教的行为、学生学的行为等，都将以数据的形式表述出来， 然后被智能系统收集、处理。 随着技术趋于成熟，个体的情感、态度都将变成数据， 智能技术可以自动地对所接受到的数据进行标记， 进而具有自主学习能力而超出人类的先验知识范围[20]。 即AI 通过不间断、无死角的采集个体数据，从而准确了解个体成长状态，进而针对实际情况提供个性化服务。在这个过程中，不管是教师还是学生都可能毫无隐私可言[21]。 实际上，如此全方位的记录一个人的行为举止和喜怒哀乐， 对个体来说是一种近乎监控式的存在。而当学生感受到被监控时，就会触发一种抵触心理。譬如，学校利用智能探头等全方位记录学生的学习过程， 记录下来的绝不只是关于学习的行为和思想， 还有与同学之间的互动与正常的生活样态等。 当系统将分析后的结果呈现给教师后， 从教师的角度可能认为有些行为是不合时宜的，进而给予学生一定程度的告诫或惩罚；但从学生的角度会认为自己正在被监控， 往后会有意的避开某些举动，对其信任感降低进而去抵触它。 若这样，智能技术应用的价值何在？

另外，不仅是教师，平台管理者、系统开发者或是家长，都有可能看到智能技术所收集的数据，进而增加数据隐私泄露风险。 比如，一个APP 通过收集注册用户的信息从而给每个人打上不同的标签，了解他们的喜好，甚至能预测用户接下来将需要什么，引导用户进行消费， 并且更有可能将这些信息置换给其他合作平台。再如，现在家校合作大多是采用微信群、家校合作系统等方式，大到期末考、期中考，小到月考、单元测试、随堂测试甚至是每堂课回答问题情况，都会在微信群里公布，这不仅侵犯了学生的隐私，家长群体也会形成一种攀比，致使学生的学习带有目的性、功利性。总之，在当下的社会中，衣食住行中的一举一动都被数据化并记录下来， 数据会无孔不入的侵入个人生活，造成困扰。 当前，智能探头和人脸识别系统等正逐渐运用于教育教学管理中，这一方面体现了智能技术为教育赋能， 但另方面我们需要思考：这究竟是利用智能技术颠覆填鸭式教育，还是提供了更加精密严格的应试教育？

（四）“后果论”计算的遮蔽

后果论是伦理学中进行道德判断的重要理论之一，它对行为的判断是根据行为后果的好坏来进行。如果行为最终带来的是幸福感和满足感，那么，在道德上就是好的行为，人们会以满意的态度欣然接受；反之，则是不好的行为，人们就会以反感的态度加以拒绝[22]。 聚焦到我们的教育实践，以“后果论”来对智能技术应用于教育的种种行为进行道德判断时，其实质就在于判断该行为能否带动整个教育行业的健康发展，能否培养全面发展的人才，能否增加师生的幸福感等[23]。 但是，在人工智能、大数据、学习分析等为代表的智能技术应用于教育所创设出的新型教育情境中，真正代入“后果论”时，还不能如设想那般简便快捷地审视行为后果，并判断行为是否道德。

首先，以“后果论”进行道德判断时，无法明确行为后果获得者的范围。在智能化的环境中，不仅能将世界各地的现实使用者连接起来， 还会连接智能机器人等虚拟使用者， 这就使得智能环境中的成员范围无限扩大。并且由于现实和虚拟成员的目标不同，他们即使相互交互，却也面临着价值冲突。 而“后果论”强调的是成员总体幸福感与获得感，面对不同的利益群体，这给幸福感的计算带来了很大的困难，无论是更重视哪一方， 都可能对其他成员不公平。 因此，在“无边界”的智能环境中，成员的多样性使“后果论”难以找到恰当的方式进行计算。

其次，交互对象的虚实性难以辨别，同样会遮蔽“后果论”的计算。 随着技术的成熟，智能机器人等“类人类”必将得到大量的应用，不可否认，这将大大提高人们的工作效率，提升生活质量。但它也会为道德判断带来阻力： 不像现实社会中一个人只有一个身份证号， 在网络交互环境中， 一个人可以有多个ID，甚至会找到自己的“机器人代理”，代替自己进行一定范围的交互。那么，在如此庞大的交互圈中将难以辨别虚实， 这也为行为规范和政策法规的实施与执行带来困难。 人们可以用命令机器人代替执行自己的义务而自己享受权利，长此以往，会导致法律法规的权威性降低，进而弱化公众的伦理道德信念。

总之，智能化使道德判断面临无法预知边界的用户群体并且难以确认具体身份信息的困境，这在一定程度上使“后果论”失效。 当出现计算遮蔽，不仅会使道德边界模糊，使不道德的行为游走于社会网络而难以监测，还会导致公众对道德认知的弱化，久而久之，会渐渐放弃对自己行为的约束。 因此，在未来的智能化环境中，“后果论”失效的趋势将越来越明显。

（五）“类主体”本质的挑战

智能技术作为教学手段固然能够使教与学变得更加精准，但由于智能技术的“类主体”本质，又很容易陷入“只见技术不见人”的窘境，即把生命主体物化为简单的数据技术的误区。 把作为本应发生在人与人之间双向交流活动的活教育，变成“嗔不怒、言不语”的人机隔空喊话。 久而久之，可能演变为学习推送有余而选择不足、交互有余而交往不足、理性有余而感性不足、精细有余而大气不足。

首先，智能技术来源于人的智能，是对人类的模仿和复制， 但在思维和意识上难以超越人类的灵活性、多样性和创造性。 如同马克思强调“人的本质并不是单个人所固有的抽象物，在其现实性上，它是一切社会关系的总和”[24]。 因此，智能技术永远无法具有人的主体性，它只能按照特定的程序和指令，在一定的规则下进行“类人”行动。 也许它会做简单的思考，却难以像人类一样拥有向真、向善、向美的心灵和数千年间流传下来的高贵品质。 机器人等智能技术产品，相对于人类可能会更好地适应环境，但缺少了主动性与创造性， 它的活动来源于内嵌的程序而不是自我意识。智能技术的发展也存在边界，它借助技术来模拟人脑却达不到人脑那样精密， 难以主动思考。即使智能技术可以代替人类做很多工作，但却缺少意识的主动性、思维的整体性与创新的自觉性。

其次， 智能技术对于人类感官的模拟仍然处于机械化阶段，无法进行真正能动的思考，产生丰富多彩的感觉。智能技术有其独特的程序语言设计，它的运算是通过像C 语言、C++、JAVA 语言等程序来定义的。因此，智能技术的工作过程是冰冷且不带感情的， 无法拥有人类丰富多彩的思想情感以及道德认知。 换言之，机械化的模仿和复制，无法让技术拥有和人类共情的能力， 它只能将各种行为和事物以符号化来表征和处理，没有天马行空般的想象力。所谓“莫拉维克悖论”， 就是指智能技术逻辑运算能力的突出与灵活应变能力的僵硬所形成的强烈对比，当下智能技术在情感感知方面，甚至比不上一岁小孩。

因此，在现实的教育实践中应用智能技术，凭借其强大的运算能力和庞大的数据知识库， 在自然科学领域或许可以帮助学生理性严谨的思考。 但由于社会科学领域主观性较强， 有各种各样的立场和观点， 智能技术难以跟随环境的变化而进行灵活的自我调整与应对。智能技术这种的“类主体”本质，决定了它的存在并不能拥有与人类等同的主体地位，至少在社会奉献、 道德认知和情感内化等心理学和伦理学层面，不足以成为人类进步的源动力。

（六）教育本质的偏颇

教育领域中的学习理论， 经历了从行为主义到认知主义再到人本主义和建构主义等发展过程，马克思主义也以“人的全面发展” 作为其基本原理之一。由此看出，当今社会的发展进化始终要紧紧围绕“人”这个主题，智能时代也不例外。但由于技术的迅猛发展，一部分人似乎认为技术已无所不能，并且对于技术的推崇达到了前所未有的程度， 认为只要技术足够先进，就没有解决不了的教育教学问题，就能培养出优秀的学生，社会就能进步。 不可否认，技术的发展一定是会推动社会进步， 但我们的立足点始终要落在“人”身上，技术的进步是服务于人的，教育对人的发展具有塑造作用， 技术即使具有不可或缺性，能帮助教育更好地发挥作用，但却又不足以代替教育[25]。 教育要如何发展，必须回归教育本质。

近年来，教育信息化浪潮席卷整个教育界，为教育教学带来了新技术、新方法，极大地促进了教与学。但在繁荣的背后，也出现了一些失范行为，比如，在教学过程中过度依赖技术的使用，技术异化成为教师和学生沉重的负担，甚至丧失主导权，让技术牵着鼻子走。 学生该怎样学习的标尺，从学生个体需要和特点渐渐向技术可以提供什么样的帮助偏移。这值得我们反思：一方面，智能技术发展到现在，已经出现了不少战胜人类的例子。如果有朝一日智能机器也像人一样有了意识、会思考，成为比人更聪明的存在，那我们一直信奉的“以人为本”理念是否会被推翻？当机器人有了权利，人类是否能与其和谐共存？另一方面，交互是教育教学中的重要环节，传统教学中主要是人与人的交互，智能时代的教学中已经衍生出人与智能机器人的交互，随着机器人的智能化程度越来越高，教师将其应用到教学中的频次就越多，教师和学生与其交互的机会就会越来越多，师生对智能机器人的依赖感自然也会加深，很可能形成“教师—机器人—学生”这一新型交互结构[26]。 显然，当这种结构形成后，教师与学生之间的师生之情将会淡薄。 我们不妨设想一下，当学生的行为、感情、思想都变成冷冰冰的数据呈现在教师眼前，会不会有碍人与人之间真、善、美的培养？教师内心对学生的舐犊之情会不会减弱？这是不是我们费力改革教育想要的结果？

当然，我们也不用太过担惊受怕，战战兢兢而不敢使用智能技术。在一定的范围和边界里，智能技术对我们而言还是安全的， 但是我们始终都要认识到“人工智能源于人的智能”，秉持着“以人为本”的理念去发展技术，从而有效利用技术。

三、消解困境，行稳致远

在人类历史上， 从未出现过技术发展如此快速的时代，虽然技术在今天仍作为人类的工具而存在，但不可否认的是，智能技术发展势头正十分强劲，也许某一天“奇点”来临——智能机器人真的像人类一样，具有了思维甚至在智力和体力上全面超越人类。对此，我们必须未雨绸缪。

为了人机在未来能够和谐共生， 促进智能技术的可持续健康发展， 我们有必要重视审视它在教育应用中的伦理风险， 并且针对伦理风险问题提出恰当的解决方案——AI 伦理困境消解路径 （如图3），以期在事情发生之前做好充分准备， 以避免真正面临危险时措手不及。

图3 AI 伦理困境消解路径

（一）转变思维方式，寻求自我价值

智能技术发展不足百年， 在这短短的几十年时间里培养出的专业智能人才更是凤毛麟角，可以说，当今最紧缺人才之一就是专业智能人才。 随着智能技术与教育、医疗等行为的融合加深，技术人才日益活跃在各个领域。但我们需要清醒的认识到“术业有专攻”，以教育领域为例，这些智能技术的研究者所研发新技术的动机或者目的， 真正来源于教育实践的并不多，他们没有深入教育实践，很难了解教育教学的痛点， 抓不住痛点就不能有效地应用技术解决实际问题。 所以，目前在智能技术的开发中，技术人员要与教育者、受教育者广泛接触与深入交互，抓住重要或关键问题。毋庸置疑，智能技术是不能取代教师的，原因不仅在于它在情感、价值观上难以取代教师，还在于不管智能技术发展如何成熟、如何先进，教育作为育人的事业，只有不断地深入教学实践，与学生交流沟通才能做出最合适的教学行为。

我们也需要明确一点， 教师在智能时代的价值已不局限于上课、批改作业等方面，教师要想不被时代抛弃就需要转变思维方式。 既然智能技术能在教学中发挥优势，大大提高工作效率，不如在重复性工作上放手，专注培养学习者的高阶思维。教师仍然作为教学中的主导者，在教育教学一线积累实践经验，并与AI 研究者加强交流，以丰富的经验提供给系统开发者一些专业建议，为技术开发提供理论基础，真正做到与生产智能教学产品的科技公司合作共赢。在智能教学过程中，教师还可以作为监管者存在，监控技术是否有效发挥作用，是否合乎伦理规范等，并在技术出现bug 时及时止损。 由教育领域映射到广阔的社会领域，固然技术取代了人的很多工作，使很多人迷失了自我价值，但我们可以转变思维方式，让他们学会平衡自我、 人际和外部社会之间的共同关系，积极寻求自我价值，提升技能与素养，从而更好地承担社会责任，在社会中占据一席之地[27]。

（二）协同治理风险，加强法律监管

协同治理是指为治理社会公共事务， 解决复杂多变的社会问题，政府与非政府的组织、个人间开展合作，共同管理社会的模式。美国发布的《大数据：把握机遇，守护价值》，欧盟发布的《人工智能伦理准则》[28]，Google 颁布的《谷歌AI 的原则》，这些不管是政府还是非政府组织，都在积极采取政策应对AI 伦理风险。 由于智能技术应用于教育形成的系统中涉及多元主体，并且伦理风险复杂难测，所以，仅仅依靠政府的力量解决难免后继乏力， 只有政府与非政府组织上下互动，多方利益主体相互联通，共同参与伦理治理，才能有力地化解风险，促进教育健康发展。

首先， 针对人类与智能技术愈加模糊的人机界限， 政府需要出台相关法律为智能技术界定伦理地位，并制定“机器人违法”的处罚条例，增强法律监管；同时，也要保证智能机器人有一定权利，不能通过制定处罚条例造成大众迷思， 误将智能机器人放到社会的对立面，从而产生排斥感和不信任感。

其次，智能机器人是由人创造出来的，理应制定面向智能技术开发人员的法律法规，在隐私安全、人机交互等方面加强监管。 既要有一定的措施鼓励科研人员研发新技术， 又要通过相关法律制约技术的无序发展，对涉及伦理、安全的技术要明确开发人员的法律责任和义务， 适当促进智能技术在人们不愿从事的社会工作中的应用， 并适当限制在绝大多数人赖以生存和发展的工作领域中的使用。

最后，智能技术所涉及到的社会道德层次较多，治理范围大并且技术专业性极强， 仅靠政府监管难免顾此失彼， 这就需要政府和社会各阶层的协同治理。比如，隐私泄露、就业歧视等问题，单靠政府的力量难以顾及其中的利益主体，当专家、公众等组成的非政府组织利用各自的优势，相互信任，协同政府治理AI 人伦理道德问题时，才能比较有效解决难题。

（三）进行人工干预，建构伦理规则

无论是在教育领域还是更为广阔的社会领域中， 智能技术伦理问题是伴随技术的迅猛发展而产生的。 既然是技术的发展带来了新的问题，那么，我们也可以通过一定的技术手段寻找消解路径。 在漫长的进化过程中， 人类形成了一套合乎生存法则的道德观念，能够做到与自然和谐共存共生，如果智能机器人内部程序也有这样一套伦理法则，那么，许许多多的伦理问题将会迎刃而解。

因此，一方面，我们可以借助新技术将伦理规则植入机器人系统，作为智能机器人必须执行的指令。这套嵌入的伦理规则不是奴隶性的或工具主义的，如果技术按照最理想的发展趋势来发展， 机器人的智能迟早会超越人类， 这时它们就会思考自己为什么要做人类的奴隶，从而反抗人类。 不难设想，为了维护人的主体地位， 大多数植入的伦理规则仅仅围绕“人”这个中心，而忽视了机器人的特殊性。 所以，今后需要以人机伦理的适应性为前提， 实现人与智能技术理性价值标准的相一致， 可以寻求伦理学家和教育学家与智能技术设计人员共同参与， 完成对伦理规则的植入[29]。 假设未来智能机器能够自主思考，进行深度学习，我们也可以在与机器人交互的过程中引导其习得人类伦理，不断完善自身伦理规则。

另一方面， 在伦理规则嵌入之后需要对其进行人工干预。 由于智能技术具有复杂性、难预测性，所以，不能仅仅植入一套伦理规则就宣布大功告成。在嵌入之后，还要对其进行不断地评估和调试，以便最后真的能建构成一套完备的伦理体系[30]。 人工干预的作用就在于当智能机器人做出违反伦理规则的行为时及时叫停。 我们可以借助于这样一套程序来实现：在机器人设计阶段为其植入伦理规则的同时，预留kill switch，也就是“切断开关”[31]，以便遇到危机时能及时切断整个系统，从而保障安全。

事实上， 目前在教育中应用智能技术从而实现人机共生的过程中， 一定会产生复杂多变的各种伦理问题。对于这些问题的解决并不是一蹴而就，需要教育者、受教育者、学校、社会持续不断的共同努力，以促进智能技术的可持续健康发展。

（四）坚持以人为本，回归教育本质

社会在不断进步， 各个领域对人才的渴求度也在不断攀升，教育在于培养人才，但传统教育已不完全适应当今社会的发展。所以，人们期望通过改革教育来满足社会发展的需求。 在智能时代，大数据、虚拟现实、未来教室等成为教育改革的支持力量，但是教育改革绝非易事， 似乎人们都将注意力放到了技术上，期望技术能完成人类不想做和不会做的工作。固然，使用工具思维开发新技术本身没错，也符合时代需要；然而，技术更新变化的速度越来越快，教育者和受教育者在教育实践中是否会跟上技术还有待商榷。往往在人们还来不及思索的时候，更新的技术就问世了。 如此反复，教育改革未必能取得成效。

因此，不论做何种教育改革，不论有何种新型技术问世，我们必须坚守的就是立足教育本质，以教育基本原理思维审视现代教育技术。杜威曾提出“教育即生长”，孔子曰“君子不器”。从古到今，我们改革教育的目的都是培养全面发展的人， 教育的本质不仅仅是信息和知识的获取、技能的习得，更在于人的世界观、人生观和价值观的培育和养成[32]。 只有将教育本质根植于每个人的内心， 教育改革才能真正发挥成效，造福人类社会。

另外， 智能技术是对人体体力和智能的模拟和延伸，不论应用于何种领域，都要明确其应用技术的边界和尺度， 比如， 前文提到未来可能会形成“教师—机器人—学生”的主体间关系，我们不能说这种关系一定是不健康的，但必然有其缺点，可能会出现一种越界行为，即智能机器人加入教师和学生中间，和双方的关系都很好， 却也截断了原本融洽的师生关系。所以，我们需要根据教育特有的价值尺度去衡量技术应用的范围，坚持以人为本，保障技术成为教育的“催化剂”而非“破坏剂”。 智能技术实际上起源于人的智能，我们要在保留传统教育优势的前提下，借助技术进行一定程度的优化， 通过新旧方法的叠加，力求“智能技术+教育”成为真正能促进人的全面发展，真正能“取其精华、去其糟粕”的新教育。

四、结语

蕴涵着“普惠”“精准”“生成”“多维”等特征的智能技术，的确可以在教育过程中发挥积极作用。但不可忽视的是， 诞生于西方文化语境的智能技术可以进行“精准教育”，并在教育体制之外为学生提供充足时间来实现“掌握学习”和“个性化学习”。 而这与我国教育习惯中具有严密教学进度、 逻辑评价方式的语境并不完全吻合， 进而引发了诸如额外加重师生负担、知识的功利化严重、效果不佳、唯技术主义等等问题。 这可能在某种程度上加剧了“乔布斯之问”“尼葛洛庞帝之思”“比尔盖茨之疑”等现象。海德格尔曾经通过追问技术的本质， 提出了技术的两种解蔽方式：一是“显现式解蔽”，强调主体与技术工具的和谐相处，主体诗意地栖居、创作与发挥，智能技术行使的自然显现和引导功能，致使“实在”自身涌现；二是“促逼式解蔽”，主体与技术工具是主仆关系，促逼技术产出不在它本身之中的“实在”。

很显然，当前人们对第二种方式的过度迷恋，使得技术向教育提出“蛮横”要求，总试图用技术“取代”和“颠覆”点什么。“促逼技术”使得教育走向唯技术主义的误区，使教育缺少了“人情味”和“目的性交往”的欢愉，变成了智能技术的“奴婢”。我们认为，出现以上“迷思”和“问题”的原因是多方面的：

第一，从智能技术和教育对象的关系上，教育的对象是“此在”的“人”，而非“可应手”之“物”。智能技术可以促逼具有相同生理结构的人向着相同的方向转变，却不能促逼具有思维和意识整体性、能动性、创造性、灵动性和社会性的、作为“此在”的“人”，向着技术希望的方向转变。同时，人的本质是一切社会关系的总和，需要和现实的“活”人打交道，需要在现实的场域中互相敞开， 才能显现属于人之为人的本质。 而智能技术往往在促逼教育对象的功利化知识并在外显力上豪迈无比，确无关涉人的本质。

第二，从智能技术的促逼功能上，从人们对苏格拉底的“知识就是美德”所产生的误读与曲解开始，奥卡姆剃刀（如无必要，勿增实体）便割断了信仰与理性、超验与经验、天道与人欲之间的联系，放大着“我思故我在”的回声。 人们开始在“知识就是力量”的召唤下， 其心智模式与实践行为走上了相背而行的道路——一条是信仰的、形而上的，一条是科学理性的、形而下的。 自近代启蒙运动以来，人们大多毫不犹豫地沿着后一条道路阔步走到今天， 依赖有限理性崇拜知识与科技的无尽“神力”，从而“过度迷恋”或“变相操作”科技的先进成果——智能技术所带来的“促逼繁荣”；而这又加重了知识的功利化与世俗化，导致“知识与美德无缘”“智能与价值无涉”。

因此， 我们对智能技术进行伦理省思的根本目的，在于在智能技术的“促逼”和“显现”之间找到平衡，在“隐忧”之痛中找寻合理的“解蔽”方式，回归知识外在“攻”力适切性满足基础上的内在“修”力的本原性关照。一句话：用知识守护人性、孕育德性，实现主体存在的完满与升华。

总之，我们既不能把智能技术当成“助推知识功利化”的工具，也不能把智能技术当成“实现一己私利形式化”的名片，否则使得学习主体“失去超然的宁静、远离心灵的彼岸”。 今年以来，在抗击“新型冠状病毒”的危难时期，包括智能技术支持的线上教学在内的全部教育意义，不仅仅在于知识的流畅传输，更在于教师应用自己的言行， 让学生去了解、 体悟“事不避难、义不逃责”的责任与担当；让学生懂得“知识和本领是力量、良知和人格才是方向”的价值追求。 所以，我们在“拥抱”智能技术的同时，必须谨记：技术是工具，教育是本体，技术永远无法取代爱。