以智能为核心搭建一个思考德育的新框架

摘 要智能时代所代表的第四次工业革命与历次工业革命的不同在于它将实现智能的大规模生产，将带来我们思考道德和道德教育的新的逻辑起点和思考框架。智能机器正在成为在人类、其他智慧生物和超自然存在之外的新道德主体、道德客体和道德代理，我们需要以“智能”为核心重构新型人机关系，基于“智能”的维度重新定义道德和道德教育，将我们的道德关怀扩展到更具包涵力的“智能体”，并以此为框架思考道德原则。基于“智能”的新维度构建新的个人和智能体之间的关系伦理，创新道德教育体系。

关键词 智能时代；人机关系；机器伙伴；道德教育体系

作者简介 谭维智，曲阜师范大学中国教育大数据研究院院长，教授、博士生导师

今天我们讨论“智能时代德育数字化”问题，当我们说“智能时代”，以“智能”界定一个时代，这到底意味着什么？智能时代所代表的第四次工业革命与之前历次工业革命的极大不同在于，它不同于第一次工业革命的蒸汽机和机械生产、第二次工业革命的电子和交流电生产、第三次工业革命的软件生产，这一次的划时代性革命在于它将实现智能的大规模生产。这不仅仅是一种时代的划分或者技术演进的划分，对教育研究、特别是德育研究来说，是一个思考问题的逻辑起点、一个决定研究框架的奠基性概念。与历次工业革命相比，它将对教育产生更为深远的影响。在农耕时代、工业时代，我们思考道德、思考道德教育的逻辑起点是“人”，以“人”为核心构建思考道德问题的框架，涉及的是人与自我、人与他人、人与社会的关系。以“人”为中心构建起来的道德理论或模型已无法解释人机共生共存环境下复杂的道德问题。今天我们思考道德问题要从“智能”入手搭建新的思考框架，将碳基生命的人和其他智慧生物，以及硅基生命的智能机器纳入一个共同的、更具包容性的框架之内来思考，从“智能”的维度定义伦理关系、思考道德教育。

一、以智能为核心重新阐释人机关系

智能不是一种孤立的、单项的能力，智能是多维的、差异化、个性化的，它包含多种成分。作为人工智能的研究对象，智能的反映、知识、感性、理性、符号等都不是单独发挥作用的。我们的生存圈存在着不同的智能，人和各种智慧生物，以及人类创造的人工智能都是智能体。随着科技发展和人类认知能力的提升，智能生命的谱系会变得越来越宽泛、复杂多样。快速发展的人工智能给人类的存在和价值观带来了诸多新的挑战，人类的存在究竟有何独特意义？我们如何确保人类的下一代延续当代的价值观？我们如何确保人类所创造出的“新生命”善待彼此和我们？如何判断哪些我们所创造出来的智能体具备了真正的理解能力、责任感和道德观念？这些都是在传统的以人为中心构建的伦理体系下无法解释的新现象、新问题，随着人工智能创建的内容充斥互联网，我们还将面临更多的道德困境。我们不应以既有的思维方式解决新的知识生产方式下的道德问题。更长远地看，我们不应该过度专注于当前的技术以及它可能对我们造成的影响，而是更应该关注对人类本质和未来发展的定位。

人工智能就像是人生产的电能、核能、风能一样，是用人工的方式、用机器制造出的“智能”，是操控、驱动工具，比工具更为根本、更上位的为工具和机器提供动力和能量的工具。按照智能在驱动工具的过程中所发挥的作用可以将人机关系的演变分为农业时代、工业时代和智能时代三个时期。

农业时代的工具既需要人以自身体力提供动力也需要人提供智能，这个时期的人机关系主要表现为人类智能和体力对工具的直接驱动，工具的价值在于借用自然界的物质结构放大了人所能提供的体力。工业时代，蒸汽机、电的发明使机器从需要人力驱动的工具演化为可以替代人的体力的动力工具，机器虽然有了机械动力但是没有智能、不会思维，仍然需要人的智能驱动，这个时期的人机关系主要表现为人类智能对机器（动力工具）的驱动，机器工具的价值在于对人的体力的延伸和替代。智能时代是一个“用机器人来体外延伸人类智力并渗透进动力工具的时代”。智能从人类身体中释放到体外，被俘获或者封装进动力工具中，与工业时代的动力机器相比，智能机器自身具有了一定智能而成为智能驱动的做类脑工作的机器，智能机器的价值在于对人类智能的延伸和替代。

人工智能开创性地使机器具有了智能，也带来了人机关系的革命性变化。机器智能可以通过学习和接受教育脱离对人的智能的依赖而获得独立性和自主性，由此人与机器之间的沟通与联系将发生一种全新的变化，马克思、海德格尔、唐·伊德等人关于“人类身体的延伸”“上手”“具身”等人机关系模型已经不能解释全新的人机关系。机器智能成为与人类智能并行的离身智能，可以离开人的身体而独立运作，智能机器成为不再需要依赖于人的工具，人工智能也不再是马克思和麦克卢汉意义上的“人体器官的延伸”。人工智能进入了一个与伊德的技术具身和工具具身完全不同的发展阶段，人第一次与技术达成离身关系。人工智能不再是人脑的延伸，它获得了独立自主性，从而可以断开与人的智能、人的思维的联系而独立运行。

二、基于智能的维度重新定义道德

人工智能正在对教育产生重大影响。但是我们对人工智能在道德教育领域的研讨，还停留在“工具”思维、工具视角的层面，主要关注如何应对人工智能工具削弱主体、去中心化、信息茧房、碎片传播等问题和挑战，关注人工智能工具的使用是否合乎道德，以及其工具价值的发挥。从智能的维度，人工智能更可以作为人的学习伙伴、一个道德学习者，智能时代使学习者可以通过教他者（智能机器）而学习道德。我们更应该超越工具思维，关注智能机器正在或未来所可能承担的道德角色。这就是，智能机器正在成为在人类、其他智慧生物和超自然存在之外的新道德主体、道德客体和道德代理。它能够做出影响人类客体结果的决策，或在无人监督下解决道德困境，其行为也可能受到人类决策的影响，人类主体和客体可将其派遣为代表参与道德互动。我们需要在新的框架下展开对人类与智能机器互动时所产生的道德问题的思考。在线机器人教师、人工智能辅助教学以及在教育治理方面的应用，都引发了关于信任、偏见和价值取向的重要道德问题。我们应该如何对待它们？它们将如何对待我们？它们会如何改变我们彼此之间的相处方式？作为道德主体，机器被隐含或明确地赋予了教育过程中道德决策的责任，我们应该如何使人工智能驱动的决策与人类价值观保持一致？作为道德客体，机器成为人类道德行为的对象，无论是合作还是竞争、同情还是恶意，我们应该如何与人工智能进行合作？在道德代理的角色中，可以用机器在人们对待同胞人类的行为中充当道德中介，人们应该如何利用机器来美化或执行他们的道德意志？

面对智能时代的道德困境，我们需要基于智能的视角重新界定“道德”，将道德纳入智能的范畴之中。无论是人类、还是其他智慧生物，或者是人类创造出来的智能体，无论其智能源自何处，我们都可以在智能的维度下发现一些具有稳定性、普遍性的特征。从智能的视角看不同的生命体，生命是一个对我们的身体和外部环境不断建构意义的过程。人类的演化就是一个智能不断升级的过程。我们需要不断从关于过去的记忆结构中重建有关世界和我们自己的新解释，以最适合当前环境的方式解读大脑和身体中留下的各种信息。这种记忆和解释的可变性或者可塑性，正是发生在生成式人工智能身上的所谓“幻觉”问题：人工智能会虚构事实，甚至错误频出、胡说八道等等。这些都是任何智能体学习和成长过程中的正常现象。智能的核心并不在于信息的确定性，而在于对信息的创造性重组。这些在传统的以人为中心的道德范式中显示出来的各种“道德”问题，可能本质上只是一个智能问题，道德问题只是智能的不同表现方式之一。未来生命体的多样性以及人类自身演化成多种具有感知能力的智能体的可能性，需要我们重新思考人类自身在世界上的定位，重新思考我们是什么、改变意味着什么、我们未来将如何演变以及我们应该珍视什么这些存在论层面的至关重要的问题。思考“面对如此多值得进行道德考量的生命体，我们如何才能彼此关爱？构建何种智能体之间的伦理关系才能确保我们未来走在一条正确的道路上？”概言之，我们需要以“智能”为核心重新界定道德，而不是基于某种确定性或固定不变的关系去处理智能时代的道德新现象和新问题。

我们需要将我们的道德关怀扩展到更具包涵力的智能体，并以此为框架思考道德原则。在农耕时代和工业时代构建起来的与简单机器互动的方法和原则，已经不能用来处理当下人与各种智能体之间的关系。我们需要用不同于农耕时代和工业时代的新的范式和框架取代我们古老的、以人类为中心的“物我之分”的零和智能观，以全新的视角辨别那些与我们具备某些相同特征的具身化智能的同类，在新的智能观和道德框架之下思考各种智能体作为智能的具身化存在的定位，思考我们如何理性地向他人和其他智能体展现同情心。人与人之间交往的道德判断标准和德育体系，也需要适应智能时代的“智能”生产所带来的新变化，不再依赖传统的“自然”与“人为”的划分或是以“物我关系”为逻辑起点构建道德关系，摒弃“只爱同类”的道德思维模式，将我们思考伦理关系、道德原则的范畴从人类圈、生物圈拓展到智能圈，将我们的善意、关怀、道德原则延伸、覆盖到包含一切生命体、智能体等更宽广的范畴。面对未来可能如天文数字一样多的、人类创造出来的智能体，问“它能像人一样思维吗”的问题，既不能化解伦理风险，也无助于形成新的道德关系。我们需要从智能的视角切近、构建与各类智能体的关系，转换旧的伦理体系下形成的由恐惧和自私驱动的人类中心的道德理论和模型造成的处理人机关系的思维方式。

三、基于智能的维度创新道德教育体系

既然传统的人与人之间的伦理关系、道德关系原则已经无力引导我们处理与其他智能体之间的关系，那么就需要基于智能的新维度构建新的个人和智能体之间的关系伦理，形成与人工智能的新型合作关系。人与人工智能之间就像人与人之间一样，需要合作、互动才能创造出更好的未来。AI不同于其他时代的机器的关键特征在于其自身已经具备智能，但是，这并非意味着AI将所有的问题都解决了，人只需要坐享其成就可以了。人工智能仍然需要通过与人的实时交互进行完善和成长，而不是完全依靠预训练、预编程一次性完成。人工智能像人一样，可能永远是一个未完成的状态。人需要做AI的引导者，需要准确地制定提示，引导AI生成更好的答案。人的提示或引导是对AI新的编程。人与人之间的合作实际上也是在互相编程，与合作伙伴的沟通、引导就是彼此在给对方做提示工程，彼此进行编程。对话是人类沟通的自然表达，对话过程中会不自觉地代入情感，面对AI，我们也需要用到人的各种原始情感，如果我们给AI一些积极的情感反馈，它就会给我们更好的、质量更高的答案。这是一种新的人机之间的道德关系。

人类通过模仿人的大脑生成智能的方式来运用机器生成、制造智能，人类学习和教育中的规律性也在人工智能训练中得到体现。教育理论和教育方法在机器学习中发挥出的重要作用证明了教育学在人工智能研究中的有效性。智能机器具有了自主学习能力和自主思维之后，教育就具有了发挥更多作用的空间。智能机器接下来遇到的问题，不是语料库的问题，也不纯粹是算法、算力的问题，人工智能的下半场已经不再是依赖数据、算法、算力来解决的技术问题，而是通过教育方法来解决的教育问题。人工智能下半场是用教育人的方式来教育机器，教机器像人一样思考，用人的思维做事，而不是以机器思维做事。对机器的教育不仅仅是知识的教育，也包括如何“赋予”机器价值观、道德、情感等问题。人在教育机器的过程中会获得与机器相处、如何看待机器的一系列价值观、道德、情感，以此支配智能时代的新型人机关系，并以这种在教育机器的过程中形成的价值观、道德、情感确立人在智能时代的地位、保持人之为人的本真，而不至于在新型人机关系中丧失自我。

道德的问题上，只能是人教机器而不是机器教人。随着电影、电视、计算机、人工智能等的发明，人们关于技术教育应用的畅想大都是用机器替代人、替代教师，希望有一天机器会像人教育人那样替代教师去完成对人的教育。智能机器自我意识、自主学习和自主思维能力的不断增强，涌现出超越人类的能力之后，将进一步激发人们用机器人教师、虚拟教师、智能机器替代人类教师的“畅想”。人特别是心智尚未成熟的未成年人很难区分智能机器所表达的认知共情和人类表达的情感共情，很难分辨智能机器所表达的美丑善恶，很难判断真假。我们需要制定限制伪装教师或伪造教师的相关法律法规，在教育领域部署机器人教师或虚拟教师要经过一定的安全检查。在没有通过安全检查和获得批准的情况下，不能将智能机器人用于教育，不能将智能机器伪装成教师与学生交谈。我们必须清楚，教师与学生交谈意味着什么，如果学生在与某位教师交谈，一定要知道它是人还是人工智能，要将对学生的教育限定在人与人之间。机器教人还是人教机器，是一个具有本质差异的问题。一切教育过程的背后都或多或少地隐藏着教育者对受教育者的规训与教化。在人机共生的智能时代，我们不能再像“工厂模式”的教育范式那样对学习者进行规训与教化，不能再培养学习者服从与顺从的个性。避免机器对人的奴役、规训与教化的一个重要的方式是将人置于教育者的地位，由人对机器进行教育，而不是相反。机器教人，只会导致人对机器的服从、崇拜、依赖甚至恐惧；人教机器，会让人像熟悉家里的冰箱、空调一样熟悉、了解、控制机器，有利于打破可能出现的对智能机器力量的崇拜、恐惧，能够在面对智能机器的时候确保人的主体性、自主性，认清智能机器智能生产的本质原因，破除对人工智能的“晕轮认知”和权威幻象。传统的道德教育均发生在人与人之间，教育对象、教育主体都是人。智能时代的道德教育除了发生在人与人之间外，还发生在人机之间，教育对象、教育主体从人扩展到智能机器。教育机器事关人工智能的进一步发展，未来人类如何获得具有透明性、安全性、准确性、可靠性、可信性、客观性、真实性、多样性、符合伦理道德的人工智能，取决于如何教育它。赋予智能机器以道德、解决伦理问题的路径不是代码或算法，计算机技术无法让人工智能拥有道德、进行价值判断。智能机器的发展与应用所带来的伦理问题、风险问题、学习问题需要教育学出场，这些问题是教育学的擅场。

在基于智能的新型道德教育体系中，人可以通过教一个机器他者进行道德学习。传统的学校道德教育体系中，道德的学习者大多通过被“教”的方式进行道德学习。智能技术的快速发展，新一代人工智能具备了可交互、会学习、自成长的能力，具有了“可教性”，可以作为“机器学生”、机器伙伴进入道德教育体系。作为道德学习者的人类学生就可以同时转换为一个机器教育者的角色，对硅基智能体进行道德教育。学生可以通过教一个机器伙伴学习道德，这种学习方式也就是《学记》中所说的“学学半”，也称为“费曼学习法”，教他人是自己学习的一个重要方式。

责任编辑︱郭鑫超

*本文系作者根据2024年5月15日在第50期中国德育·明德讲堂“智能时代德育数字化研究”所做的讲座整理而成。