风险与超越：生成式人工智能赋能思政教育的伦理分析

任凤琴 董子涵

摘 要：作为新一轮科技革命的重要引擎，人工智能技术的创新迭代不断加快，生成式人工智能正深度参与各学科的发展，为思想政治教育的创新发展带来了挑战与机遇。在以ChatGPT为代表的科技盛宴中，生成式人工智能作为“智慧工具”为思想政治教育活动的开展提供了更为先进的方法选择、更为智能的技术方案以及更为自由的应用场景，擘画了思想政治教育的转型图景。然而，技术向度的不断增强也使得思想政治教育面临着不同维度的伦理风险。从主体维度来看，可能会产生教育者主导性地位下降的风险；从客体维度来看，可能会产生教育对象自我认知失衡的风险；从介体维度来看，可能会产生人工智能技术运用不当的风险；从环体维度来看，可能会产生思想政治教育环境复杂化的风险。究其原因，主要在于生成式人工智能算法自身的局限性与思想政治教育的实效性相矛盾、技术应用的工具理性与教学的价值理性相冲突、人工智能的类主体性与教师的主导地位相对峙以及技术发展的难以预测性与相關主体风险认知的有限性相制约。相应地，要彰显科技赋能思想政治教育“化挑战为机遇”的转型向度，需要正确处理好育人与技术、工具理性与价值理性、技术创新与个体赋能、规章制度与人员素养的关系，以实现对潜在伦理风险的超越，促进思想政治教育与前沿数字信息技术的深度融合。

关键词：生成式人工智能；思想政治教育；伦理风险；破解对策;ChatGPT

中图分类号：G641

文献标识码：A

文章编号：1673-8268（2023）06-0080-10

2022年末，生成式人工智能应用程序ChatGPT一经发布就迅速上升为一个现象级热点事件，人工智能的发展成为世界各国关注的焦点之一。自20世纪50年代兴起至今，其核心技术和典型应用都呈现出爆炸式增长的态势，以算法和大数据为驱动力的生成式人工智能成为打造教育服务智能体的新型引擎，为思想政治教育的创新发展提供了新的契机。但人们在享受人工智能技术红利的同时，也应该意识到其所带来的伦理风险，教育过程中某些不可或缺的成分如伦理、价值、道德、情感等可能会被技术偏见所忽视，这反过来又在一定程度上影响着思想政治教育的实效性。因此，落实立德树人的根本任务，必须从伦理的视角对生成式人工智能赋能思想政治教育所产生的风险进行审视与反思，合理掌握技术与伦理的尺度，真正回归思想政治教育本质。

一、生成式人工智能赋能思想政治教育的伦理风险

儒家伦理文化中，君臣、父子、夫妇、兄弟和朋友之间的人伦关系称为五伦，忠、孝、悌、忍、善是其关系准则。五伦涉及的是人与人、人与家庭以及人与社会之间的关系，由此决定相对应的责任和角色，侧重于由客观关系的位分而带来的客观主体行为和思想的规约，核心是社会生活的正义秩序及其表现。作为一种深度合成类技术，生成式人工智能所营造的虚拟场景能够与现实社会共生，伦理也相应地指向虚实交融中的种种社会关系。人工智能与思想政治教育跨界相交，从技术介入到技术融入，在推进思想政治教育创新的同时，也不可避免地带来了伦理风险。

（一）主体维度：教育者主导性地位下降

在思想政治教育生态中，教育者是主体，在教育过程中占据主导性地位［1］。生成式人工智能技术虽然拥有无限大的数据库以及强大的算法系统，也能够模拟人类进行某些日常工作，但其本质仍然是一门技术，无法拥有传统思想政治教育基于教育情感的亲和力和权威性，在赋能思想政治教育的过程中，可能会影响师生的良性互动，导致教育者主导性地位下降。

一方面，生成式人工智能技术的介入在一定程度上弱化了教育者和教育对象的直接联系，淡化了师生关系。思想政治教育不仅是一项政治性实践，而且是一种情感养成［2］。生成式人工智能依托算法对思想政治教育的各个环节和组成部分进行量化分析，其所采集和利用的数据只不过是教育过程中的浅层数据，并不能反映思想政治教育过程中教育者与教育对象深层次的情感联系。不可否认，生成式人工智能提供的智能学习空间与自主学习支持系统能够在一定程度上提高学生自主学习和自我获得的能力，但在人机人的关系中，机作为主要技术支撑，其伦理判断难以被完全数字编码化，也无法像教育者一样为学生提供相应的人文关怀。以美国人工智能实验室OpenAI推出的ChatGPT为代表的生成式人工智能应用程序为例，它通过庞大的数据集来训练计算机系统，使其能够获得一种“类人”的响应能力，而不仅仅是大量数据和文本参数简单堆砌而成的“大型语言模型”［3］。一旦其介入教学过程，将会重塑教育生态，打破教育学校以及教育师生之间的强相关，使教育者课堂主导角色存在感减少，削弱教育者的课堂主导作用，传统的师生关系受到人工智能“类主体”功能的冲击，可导致师生情感遮蔽以及关系淡化的伦理风险。

另一方面，人工智能与思想政治教育相结合对教育者的能力提出了新挑战。与传统思想政治教育师生面对面说理传教的方式不同，生成式人工智能技术的发展改变了教育者与教育对象必须在同一时空场域内进行理论输出与输入的状况，为教育者提供了超现实的虚拟学习空间和开放、共享式的交互式学习系统，打破了传统思政教育以课堂为中心、以教育者为知识灌输者的教育模式。ChatGPT爆火的背后是1 750亿参数的自然语言处理模型支持，GPT-4的推出更是标志着这种聊天生成预训练模拟器已经远远超过聊天的层面，有着强大的理解能力、学习能力和自我意志，具备一种“类人”的响应能力和超出大多数机器的智慧，这种生成式人工智能在交流互动方面的应用产物无疑对思想政治教育者的教学能力提出了新的挑战。现实情况中，部分教育者由于各种因素的限制对生成式人工智能应用的认识和运用还达不到要求，无法发挥人机协作工作模式的优势，使得人工智能技术的使用、智能化教学无法进一步开展，降低了工作效能，进而导致在生成式人工智能赋能思想政治教育模式下出现教育者的身体“缺场”趋势，引发了思想政治教育主体维度的风险。

（二）客体维度：教育对象自我认知失衡

生成式人工智能的加持使得传统思想政治教育的教育空间被无限延伸，这打破了传统教育模式的时间和空间界限，教育主体能够依托网络进行实时交流，在提高教育效率的同时，也增强了教育者与教育对象的交互。但正是由生成式人工智能所创建的“无限的”学习空间，使作为思想政治教育客体的教育对象产生了一定程度的自我认知的失衡。

一方面，无界限空间的匿名性导致了教育对象“自我”与“非我”的混淆。在网络匿名制的保护下，教育对象脱离传统教育的实名制度，披上了“马甲”，现实中的班规纪律等被忽视，表现出强烈的个性，甚至会形成与现实生活中截然不同的虚拟人格。从社会认知的视角来看，虚拟人格就是其在现实生活中被种种制度框架所规范起来的“本我”人格。在无界限匿名制的教育空间的掩护下，这种虚拟人格会逐渐演化成“非我”人格，认为现实中的“我”不需要对网络上的“我”的言语行为承担责任。伴随着生成式人工智能与思想政治教育结合的不断深入，教育对象如果把握不好現实世界和虚拟世界的平衡，必将导致“自我”与“非我”的相互撕扯，最终形成“两面人”。

另一方面，生成式人工智能的潜在画像功能在一定程度上会导致个体自我人格的迷失。一般而言，人工智能的三大核心要素是大数据、算法和计算能力，因而人工智能与思想政治教育的关联和契合也离不开这三大核心要素［4］。思想政治教育依托生成式人工智能强大的数据库以及强劲的算法和计算能力，能够对个体进行画像，从而实现对不同个体的个性化教育。但我们也应该注意到，生成式人工智能的画像功能看似是对教育对象个性和心理的精准剖析，实则远远不能体现全部的我，人的社会性、复杂性等也并不是一堆符号和数据所能完全代表的。一种可能，教育对象可以借助虚拟的学习空间刻意塑造自己的符号身份，干扰人工智能的画像功能，给教育者传递错误的信息，从而反向巩固其虚拟的符号化身份；另一可能，教育对象完全沉浸于充当数字、符号的虚拟角色，进而丧失自我。由此可见，生成式人工智能的潜在画像功能未必利于教育对象的全面发展，这与立德树人的最终教育目标是相割裂的。

（三）介体维度：人工智能技术运用不当

思想政治教育介体是联结思想政治教育主体与客体的神经中枢，它是指在思想政治教育过程中，教育主体为取得相应的教学成果而对教育客体采取的教育方法和手段。随着科技的发展，思想政治教育介体的种类不断丰富，“思想政治教育+人工智能”已经成为当下思想政治教育的发展潮流。借助生成式人工智能技术，思想政治教育的方式方法逐渐多元化、时代化，但我们也应该意识到，科技本身就是一把双刃剑，它有时也“表现为异己的、敌对的和统治的权力”［5］，如果对人工智能技术运用不当，就会引发思想政治教育介体维度的伦理风险。

第一，教育信息的取用不当导致个人隐私泄露的风险。生成式人工智能赋能思想政治教育的实践过程需要教育者和教育对象大量的数据信息支持，而这些信息数据大多来源于对教育者和教育对象全景式的监控，依靠各种传感设备以及录音录像设备等提供各种思想政治教育实践活动的记录。这就意味着用户个人需要让渡出某一部分的信息自主权，将个人的隐私有意识地“泄露”给人工智能，以此来实现教育过程中千人千面的个性化定制与教育资源推送。当然，数据本身并不具备伦理色彩，数据伦理问题往往产生在使用者或智能算法等对数据的使用过程中。当数据脱离母体，被技术自身或者别有用心之人利用，其所带来的伦理风险不容忽视。

第二，运用技术差异而导致的数字鸿沟风险。生成式人工智能本身就是一种深度合成类技术，该类型技术应用便捷、场景丰富，生成内容具有价值取向和诱导性，通过简单的人工提示和算法运行即可产生高风险系数的输出［6］。由于教育者和教育对象本身对这种合成类人工智能技术的认识和运用水平不同，在智能教育实践中，可能会产生数字鸿沟问题，出现信息隔阂，阻碍教育主客体之间的交流。同样，在同一性质的教育主体之间，也会因技术运用水平的差异而降低思想政治教育的公平性，致使那些技术运用水平较低的教育主体产生自卑感和挫败感，逐渐被边缘化和透明化，丧失了思想政治教育的主导权和话语权，这不利于思想政治教育成效的取得和教育现代化的发展。

第三，意识形态引导不当的风险。目前来讲，人工智能的研发和运用仍然需要人工的支持，在研发设计过程中，相关技术人员自身的思想观念和价值导向被融入其中，这会不自觉地影响人工智能技术的发展走向，给某些西方国家提供可乘之机。西方国家在人工智能技术的研发上具备先发优势，基于生成式人工智能与我国社会生活深度融合所产生的收益而获得的认同，有可能通过非政治化外衣极为隐蔽地裹挟着政治意图进行价值输出，以达到其不可告人的目的。思想政治教育是为我国立德树人的过程，倘若被某些不怀好意的国家所利用或影响，将对我国意识形态安全产生严重威胁。

（四）环体维度：思想政治教育环境复杂化

思想政治教育环体即思想政治教育的环境，是指与思想政治教育有关的、对人的思想政治品德形成、发展产生影响的外部因素［7］240。生成式人工智能与思想政治教育的结合为思想政治教育的发展提供了智能教育环境系统，但受其智能驱动特点的影响，思想政治教育环境也逐渐复杂化，进而引发了思想政治教育环体维度的伦理风险。

第一，家庭群体感降低。家庭是思想政治教育的第一课堂。在家庭成员之间的交流交往中，蕴含着丰富的思想政治教育元素，家庭的政治知识、态度、情感、价值取向会影响下一代［8］，这是子女获得社会化的原初起点。生成式人工智能所构建的虚实相融的立体化教育场景使得教育对象在虚拟和现实之间频繁切换，并且能够对所有家庭成员一视同仁地提供无差别服务，因此极有可能导致“人机共情”的亲密关系的产生，引发人类之间的地缘、业缘和类血缘关系解构的伦理风险。长此以往，家庭中长辈的权威性被削弱，家庭思想政治教育中所蕴含的深层次的情感联系被一步步蚕食，相对于与家庭成员交流，教育对象更倾向于人机互动，家庭成员之间的良性互动减少，这不利于教育对象的全面发展。

第二，學校思想政治教育环境复杂化。学校是开展思想政治教育的主要场域，学校环境对于教育对象的影响是潜移默化的。随着生成式人工智能技术与学校思想政治教育活动的结合，学校思想政治教育空间被逐渐扩大，不再仅仅局限于传统的思想政治教育课堂，转而向人工智能技术所创造的教学平台扩展，现实空间与虚拟空间的交叉混合，不仅给教育者的教学工作带来了挑战，而且使学校思想政治教育环境更加复杂多变。

第三，社会主流价值观被消解。思想政治教育作为社会政治生活的关键辅助，具有促进社会结构优化、凝聚社会共识、维护社会稳定的重要作用［9］。一方面，生成式人工智能技术利用大数据和算法，能够轻易捕捉用户的兴趣点，再通过内容推荐与协同过滤两种运行机制不断为用户提供感兴趣的信息。基于此，思想政治教育所宣传的核心价值观与价值共识若不是人们感兴趣的内容，算法就会将其自动过滤掉，这极大地影响了社会主流价值观的传播。进而，在生成式人工智能所构筑的信息“茧房”中，教育对象的学习兴趣和注意力都被锁定在既定的范围内，最终会逐渐形成同质化圈层，对更高意义上的社会共同体身份的认同却不断下降。此外，不同圈层的价值观也不尽相同，某些圈层文化甚至能够在一定程度上消解稀释社会主流意识形态的价值共识，使社会成员的黏性逐渐减弱，产生群体思想极化现象，引发社会层面的伦理风险。

二、生成式人工智能赋能思想政治教育伦理风险的原因

生成式人工智能赋能思想政治教育，是以大数据为驱动、以智能算法为核心、以思想政治教育应用为载体而产生的一系列教育活动。在此基础上所引发的一系列伦理风险有其必然性，它既承接了人工智能的一般性伦理问题，又体现了思想政治教育其本身的特殊性。究其原因，则是多方面因素相互作用的结果。

（一）算法自身的局限性与思想政治教育的实效性相矛盾

随着技术的发展，回归、聚类、贝叶斯、深度学习、自动编码器以及各类神经网络算法等纷纷出现，数据算法成为发现潜在教育数据价值的重要工具［10］。随着生成式人工智能的进一步发展，人工智能的算法优势逐渐凸显。一时间，“一切皆可计算”成为人工智能的代名词。但算法在弥补人类思维局限性的同时，其自身也同样具有一定的局限性，人工智能算法自身的局限性与思想政治教育实效性的矛盾正是其赋能思想政治教育带来伦理风险的首要原因。

一方面，算法路径的固定不利于教育对象的个性化发展。思想政治教育追求人自由而全面的发展，每个教育对象的成长背景和环境不同，其个性和对自身发展标准的界定也应有所不同。但在生成式人工智能介入后，所谓的思想政治教育过程却演变为系列算法，即按照预先设定的数学公式进行运作，将教育对象“拆解”为一堆没有温度的数字和符号，被分门别类地细化并打上相应的标签。算法不断向教育对象推送所谓的个性化教育资源，后者按照算法预先设定的固定模式进行学习。这种用统一的算法标准衡量每个学生发展的方式，最终必然导致个体思维固化和分析解决复杂问题能力的弱化，会大大降低思想政治教育的实效性，本质上不利于受教育者的个性化发展，因而不具备科学性。

另一方面，算法的数据依赖性与思想政治教育的动态性相悖。在生成式人工智能赋能思想政治教育的过程中，算法是通过数据收集、数据审查以及分析与计算来进行工作的，其所有的工作内容几乎都与数据的处理有关。因此，算法具有较强的数据依赖性，但数据分布本身就带有一定的偏见性［11］。生成式人工智能算法模型是在收集过去数据的基础上建立的，其所收录的数据本身就是过时的。用过时的数据分析现时的问题，这显然与思想政治教育“因时而新”的动态性相悖。此外，在借助算法推进思想政治教育实效性的过程中，教育对象思维的转化、直觉灵感以及顿悟等“意外收获”是无法通过数据来预测和分析的，即算法利用收集到的数据只能分析教育思想政治教育过程的“量变”，而无法预测其“质变”。

（二）技术应用的工具理性与思想政治教育的价值理性相冲突

生成式人工智能赋能思想政治教育首先要具备合理性这一基本要素。合理性分为工具理性和价值理性，前者更追求效率，重视发展的结果，后者则更注重人的个体价值和意义，不一定能让结果大于发展。马克思·韦伯指出，当人的行为越趋向于满足合理性的要求，社会结构就会趋向于合理化发展［12］。因此，当生成式人工智能技术的工具理性与思想政治教育的价值理性越趋向于满足合理性的时候，思想政治教育结构也就越趋向于合理化的稳定发展。然而，从当前生成式人工智能推动思想政治教育的情况来看，二者仍然存在着分歧。

首先，将生成式人工智能技术应用到思想政治教育中符合推动教育创新和教育现代化的目标合理性。生成式人工智能技术可以帮助教育者计算教育对象的知识储备、评估与动态检测教育对象的学业水平、重现或模拟教育场景等，为教育对象带来不一样的教育体验，促进思想政治教育模式的创新与发展。但是，在二者深度融合的发展过程中，某些应用主体沉浸在人工智能所创造的有效性与合理性的幻象中，从而产生了技术依赖，进而引发了思维惰性，丧失了批判精神和创新精神。对人工智能的应用也背离了其当初“以技术促进以人为本”的目标设定，一味追求高效率、高回报，以达到最终目的和利益最大化的实现。

其次，生成式人工智能与生俱来的工具理性所携带的高效性和便捷性使其一开始就极其容易将人的价值理性局限在解决技术问题的范围内，难以跳出技术的圈层，使其看不到生成式人工智能赋能思想政治教育背后的人的价值以及发展本质。众所周知，生成式人工智能拥有天然的科技霸权，在与思想政治教育相结合的过程中能够轻易掌握话语权，使教育被技术所支配。

最后，工具理性必然导致技术依赖，过度依赖人工智能技术而忽视人与人之间的情感交流，这不仅不利于教育对象高阶思维能力的发展，更背离了思想政治教育促进人全面发展的初衷。思想政治教育本身就是“人性为王”的教育，过多强调技术应用的工具理性而忽视了“以人为本”的教育的价值理性，会导致技术对教育的“越位”，导致生成式人工智能技术的工具理性与思想政治教育的价值理性产生冲突，形成潜在的伦理风险。

（三）人工智能的类主体性与教育者的主导地位相对峙

在教育现代化理念的引导下，生成式人工智能在教育领域的发展逐步深入，深刻改变了人们的学习方式。同时，随着信息技术的快速发展，人工智能的工具属性也在逐步体现出“类人”属性，像ChatGPT以及“文心一言”等生成式人工智能应用程序的推出和爆火，在一定程度上预示着人工智能不仅能够在人们的日常生活中扮演工具性的角色，而且有能力取代人类的地位，直接扮演人类角色，这种现象在思想政治教育领域表现为教育者主导地位的下降。

“一切技术都是身体和神经系统增加力量和速度的延伸”［13］，技术被创造的最初目的就是作为人在现实生活中“解弊”的工具或手段，用来辅助人的正常生产生活。其中，人必然是主体，技术只能是客体。第三次科技革命以来，人工智能被广泛应用于多个行业领域，逐渐代替了人们无休止的劳作。从这一层面上讲，这是人工智能对人的劳动解放。然而，当生成式人工智能的“类人思维”能力和自主学习能力不断提高，我们就应该意识到，生成式人工智能已经不再满足于充当一个技术化工具的角色了。

从人工智能AlphaGo接连战胜世界围棋冠军李世石和柯洁的例子不难看出，人工智能在某些方面，尤其是计算方面已经远远超越人的思维能力，这就很难保证人类以后不会被技术所操控。尽管我们当前仍然处于弱人工智能时代，但人类与人工智能的关系已经不再是纯粹的“人与物”的关系，而是向着“人与类人”的关系发展。因此，随着生成式人工智能的类人属性属性不断增强，其之于思想政治教育而言，也远远超出了传统意义上的工具价值，而扮演起了“类教师”的角色，引发了一系列的伦理风险。一方面，生成式人工智能的类人属性不断增强，威胁着教育者的主导地位，削弱了其道德权威，这导致了师生之间情感遮蔽与关系疏离。生成式人工智能赋能思想政治教育的出发点在于“协同育人”，但生成式人工智能的AR、VR、MR以及ChatGPT等功能应用的科技感和吸引力大于教育内容本身，ChatGPT-4的推出更是预示着其可能具备改造人类思想和创造的能力，形成人工智能超越专业化和大众化的趋势，甚至可能在某些方面替代人类［14］。这种生成式人工智能应用的“超智慧”属性与教育者自身有限的教学能力形成了鲜明对比，教育对象的主体自觉性不断增强，对教育者的管理和教学方式心生抵触，不利于和諧师生关系的构建。另一方面，技术发展的背后不仅是科研的推动，还有巨大的资本与权力的加持。海德格尔曾指出，“现代技术业已不是中立中性的，它架构式地渗透、弥散、影响，甚至操控人的现代生活”［15］。当生成式人工智能算法程序被资本操控、数据库被入侵篡改，科技向善将无法得到保证。思想政治教育作为社会主义精神文明建设的中心环节，在与生成式人工智能相融合的过程中，要警惕其“类主体性”，必须牢牢把握思想政治教育的正确方向。

（四）技术发展的难以预测性与风险认知的有限性相制约

生成式人工智能依赖于海量的数据和强大的算法系统作用于思想政治教育的教育者和教育对象，有效提高了教育对象的学习效率，大大降低了教育者的劳动强度。近年来，人工智能被越来越多地应用于思想政治教育活动中，其技术更新也越来越快。但是，由于主观因素和现实条件的限制，教育者、教育对象以及技术人员等应用主体对其潜在伦理风险的认知却是有限的，这也是导致伦理风险的重要原因之一。

一方面，算法作为生成式人工智能的技术核心之一，其本质是一种方法或步骤。算法本身具有一定的自主性，这种自主性表现为它具备深度学习和强化学习的能力。深度学习表示算法已经能够“独立地将简单的概念合并，从数据出发创建抽象的模型”［16］。这表明只要数据足够，算法就可以自己创建和修改模型。强化学习则是指算法在运用数据的同时，还可以产生新的数据并从中进行学习，算法所具备的这两种能力无疑为人工智能技术的发展带来了更多的可能性和难以预测性。更重要的是，算法以代码的形式出现，难以转化为常人能够理解的语言文字，相关应用主体无法明确掌握算法的意图，更无法判断生成式人工智能技术背后的决策逻辑和责任归属，这就导致了“算法黑箱”的出现。

另一方面，相关应用主体对生成式人工智能赋能思想政治教育的风险认知是有限的。当前，大量思政教育工作者积极响应“教育数字化”的要求，努力“入网、入圈”。但由于人工智能与思想政治教育本身是距离较远的两个学科，教育者对生成式人工智能的算法运行规则并不十分了解，同样地，人工智能的相关研发设计人员对思想政治教育的相关知识和要求也未必了解，二者均缺乏对技术伦理的整体观照。这就使得不同的应用主体之间出现巨大的隔阂，对生成式人工智能与思想政治教育合力育人过程中的伦理风险认知不足。

生成式人工智能赋能思想政治教育本应是相互融合、协同育人的过程，但由于技术发展的难以预测性和相关人员对风险认知的有限性相互制约，致使在教育实践的过程中出现多种伦理风险，阻碍了二者的进一步融合发展。

三、生成式人工智能赋能思想政治教育伦理风险的超越路径

消解生成式人工智能赋能思想政治教育所引发的伦理风险是推动思想政治教育智能化发展的重要条件之一。面对飞速发展的人工智能技术，需要正确把握二者结合的特点和规律，坚持育人为本，牢牢把握思想政治教育的主线，促进价值理性和工具理性的协调发展，建立起相关法律保障机制，以期实现对生成式人工智能赋能思想政治教育伦理风险的超越。

（一）坚持育人为本和技术为用

生成式人工智能赋能思想政治教育是推动思想政治教育创新发展的重要方式，最终目标是使人们实现思想上的广泛认同、道德上的良好养成以及行为上的笃实好学。要使人工智能技术真正为思想政治教育赋能增效，需要从生成式人工智能技术和思想政治教育规律二者之间的逻辑关系出发，努力做到育人为本和技术为用相结合。

一方面，从学科立场和属性出发，明确人工智能赋能思想政治教育的价值导向。党的二十大报告指出：“马克思主义是我们立党兴国、兴党兴国的根本指导思想。实践告诉我们中国共产党为什么能，中国特色社会主义为什好，归根到底是马克思主义行，是中国化的马克思主义行。”［17］新时代背景下的思想政治教育，要始终坚持马克思主义的理论指导，以追求人的全面发展和落实立德树人的根本教育任务为主线，明确技术为用、育人为本的价值导向。思想政治教育本质上是意识形态的教化，应在教育过程中不断提高人的思想指导的素质，促进人与人、人与自然、人与社会的和谐健康发展，一切技术最终都应该回归到这一根本。

另一方面，反思生成式人工智能与思想政治教育结合的泛化趋势，明确二者之间的结合限度。技术背后的复杂性远超人们的想象，若毫无限制地将其用于思想政治教育领域，势必会威胁到意识形态领域的安全。因此，要坚持以习近平总书记关于人工智能和思想政治教育的相关论述为遵循，明确思想政治教育智能化的伦理界限和适用范围，发挥生成式人工智能在构建智慧教室、精准画像以及学情分析等方面的辅助作用，提升教育的实效性，在涉及道德养成以及价值判断等方面，对生成式人工智能的技术标准以及相关的算法逻辑做出规范，必要时甚至可放弃人工智能技术，避免思想政治教育被技术所绑架。

（二）坚持价值理性和工具理性

人工智能技术的工具理性与思想政治教育的价值理性并非是绝对对立的，在思想政治教育创新发展中促进二者同向同行是教育现代化发展、数字化发展的题中应有之义。从生成式人工智能赋能思想政治教育所带来的伦理风险来看，人工智能与思想政治教育的结合并不是简单的叠加，而是既要遵循人工智能技术伦理的一般性原则，又要重视思想政治教育自身的发展规律，二者相互协调，以促成其合理性的实现。

首先，要尊重思想政治教育的规律。思想政治教育规律是“思想政治教育活动在其运动发展过程中内在的、本质的、必然的联系”［7］119。在生成式人工智能赋能思想政治教育的过程中，要锚定人工智能在思想政治教育中的价值定位，实现技术本位到人之本位的转变、由人到机的转变和由师至生的转变。依托人工智能，“为了人、发展人、服务人”的价值逻辑将思想政治教育对智能技术的依赖转变为借力智能技术回归技术服务于促进人全面发展的价值理性，引领人工智能技术的持久发展。

其次，应以辩证的眼光看待生成式人工智能工具理性与思想政治教育价值理性的关系。对教育效率的追求应该以育人为前提条件，同时更关注教育价值的体现。教育主体要用马克思主义的世界观和方法论来评判生成式人工智能之于思想政治教育的利和弊，以社会主义核心价值观不断优化人工智能算法系统“内嵌式规则”的伦理取向，有效防范工具理性在思想政治教育领域内的霸权。

最后，要减少“冷”的工具理性，增加“暖”的价值理性。随着生成式人工智能赋能思想政治教育的强度不断攀升，思想政治教育本身所具有的價值理性逐渐被人工智能的工具理性所掩盖，将教育对象“囚禁”在智能工具的陷阱之中。思想政治教育是有温度的教育，既要以理服人，又要以情动人，在教学过程中不仅要利用人工智能“传道授业解惑”，而且要给予学生充分的情感关怀，主动与学生沟通交流，建立起和谐的师生关系，最终实现思想政治教育的价值旨归。

（三）推动技术创新和个体赋能

生成式人工智能深度赋能思想政治教育，关键点在于“赋”。现有的教学实践中，生成式人工智能与思想政治教育的关联更多体现在智能获取教育数据层面，通过智能技术及传感设备等实时捕捉与识别教育教学中的多模态信息，从而帮助教师开展学情诊断和教学评估［18］。在此基础上，生成式人工智能有选择性地向教育对象推荐相关信息。需要注意的是，没有经过干预的人工智能技术在一定程度上会产生信息“茧房”与传播偏好的风险，使得“赋”能成为“负”能，不利于思想政治教育核心价值的传播。这就要求人工智能技术越是进步，越应该对教育对象的主体性和价值性保持高度的自觉和肯定，推动人工智能技术创新与教育对象个体赋能相统一。

一方面，增强教育者与教育对象的主体意识，提高其个体赋能，明确人工智能技术是“辅助”性的角色。人工智能在思想政治教育领域展示了强大的数据处理与分析能力和算法优势，这些能力和优势也是推动思想政治教育创新发展不可或缺的重要因素。但归根结底，技术的发展最终还是要落脚到现实的人。为此，在人工智能与思想政治教育协同育人的过程中，要加强对教育对象人工智能伦理知识的教育，使学生充分认识到人工智能的工作机理，提高其信息辨别的能力，避免信息“茧房”的产生，养成正确的科技观。同时，教育者要努力提升自身的人工智能素养，正确认识自身与人工智能的协同合作关系，在实践过程中自觉遵守相关伦理规范，破除“唯数据论”，积极关注教育对象的内心生活并设计相关教育话题对其进行引导，切实发挥教育者的主导作用。

另一方面，加强对人工智能技术性的纠偏方法研究，促进技术创新发展，实现技术突围，提高育人的精准度与智能化。从现实效果来看，无论是ChatGPT还是“文心一言”，目前它们作为生成式AI的代表性产品，还未能达到令人满意的水平，其功能仅为可以便捷地为我们补充一些知识、提供一些经过整合与浓缩的资料［19］。因此，生成式人工智能技术仍需要进一步改进和完善。在样本数据收集方面，要进一步考虑样本数据的结构和分布，尽可能选取更具代表性和时效性的数据进行分析，降低数据处理存在偏差的风险。在算法模型的编制过程中，应充分考虑教育对象全面发展的目标需求，提高社会主流价值观和优质思想政治教育内容赋值在算法优先级里面的比重。要设置反向推荐功能，在向用户推送“感兴趣”选项的同时也推送“不感兴趣”的内容，以弥补算法个性化定制所造成的知识领域过窄的问题。

（四）建立伦理保障机制和提高相关人员伦理素养

生成式人工智能高速发展，已经覆盖了人们社会生活的大部分领域，但只有在具备人工智能技术可追责、可处罚的前提下，才能真正符合其为人类服务的价值逻辑。以ChatGPT为典型代表和转折点，未来所开发设计的各类人工智能产品和服务越来越具有类人的思维和行为，这就要求其更严格地遵守人类的基本伦理规范［19］。具体到思想政治教育领域，要保证生成式人工智能真正为思想政治教育赋能增效，防止其在实践过程中价值被扭曲和伦理被异化，必须以法律为准绳，明确底线要求，健全伦理保障机制。

一方面，要做好顶层设计，完善相关法律法规。通过法律化解风险、吸纳风险，将风险社会置于法治社会的背景之中，即对智能革命时代的法律制度乃至整个社会规范进行新的建构［20］。国家顶层设计要注重建立健全相关的法律法规体系，对生成式人工智能所传播的内容进行监控和过滤，明确对相关的责任主体的界定、隐私保护以及信息分发准则等法律条例，将责任真正落实到思想政治教育相关主体上。要在遵守法律和道德的前提下推进算法更智能化、人性化的研发，为生成式人工智能进一步赋能思想政治教育提供强大的制度保障。

另一方面，要提升生成式人工智能开发和应用主体的伦理素养和道德素质。无论是思想政治教育者、教育对象，还是相关的管理和技术人员，必须在生成式人工智能赋能思想政治教育的过程中贯彻恪守技术伦理，遵守技术应用的伦理规范，构建良好的伦理生态。特别要培养人工智能技术人员对伦理风险的敏感度，积极鼓励其与思想政治教育者通力合作，重视应用主体对人工智能的意见和建议，设计更适用于思想政治教育的算法模型。要全面客观地评价生成式人工智能技术在思想政治教育过程中的作用和意义，破除人们对人工智能的迷信，达成“技术向善”“技术为我所用”的终极目的。

参考文献：

［1］ 杨东杰，李奕璇.人工智能推动大学生思想政治教育生态变革：逻辑、取向与路径［J］.中国政法大学学报，2022（6）：50-59.

［2］ 米华全.智能思政伦理风险的生成逻辑、表现形式及防控机制［J］.中国电化教育，2023（2）：111-117.

［3］ 汪波，牛朝文.从ChatGPT到GovGPT：生成式人工智能驱动的政务服务生态系统构建［J/OL］.电子政务：1-14［2023-05-07］.http：//kns.cnki.net/kcms/detail/11.5181.TP.20230425.0901.004.html.

［4］ 李怀杰.人工智能赋能思想政治教育论析［J］.思想理论教育，2020（4）：81-85.

［5］ 马克思，恩格斯.马克思恩格斯文集：第8卷［M］.北京：人民出版社，2009：358.

［6］ 商建刚.生成式人工智能风险治理元规则研究［J］.东方法学，2023（3）：4-17.

［7］ 张耀灿，郑永廷，吴潜涛，等.现代思想政治教育学［M］.北京：人民出版社，2006.

［8］ 孔德生，胡在珊.家庭思想政治教育研究综述［J］.高教探索，2017（S1）：184-186.

［9］ 董圆圆.人工智能赋能思政教育的伦理风险及其应对［J/OL］.北京航空航天大学学报（社会科学版）：1-7［2022-11-17］.DOI：10.13766/j.bhsk.1008-2204.2022.0955.

［10］崔宇路，张海.教育人工智能应用的困境、成因及对策［J］.现代教育技术，2022（6）：35-42.

［11］杨庆峰.数据偏见是否可以消除？［J］.自然辩证法研究，2019（8）：109-113.

［12］马克斯·韦伯.新教伦理与资本主义精神［M］.彭强，黄晓京，译.西安：陕西师范大学出版社，2002：34.

［13］马歇尔·麦克卢汉.理解媒介：论人的延伸［M］.何道宽，译.南京：译林出版社，2019：4.

［14］朱光辉，王喜文.ChatGPT的运行模式、关键技术及未来图景［J］.新疆师范大学学报（哲学社会科学版），2023（4）：113-122.

［15］马丁·海德格尔.存在与时间［M］.陈嘉映，王庆节，译.北京：生活·读书·新知三联书店，2014：295.

［16］卡尔提克·霍桑纳格.算法时代［M］.蔡瑜，译.上海：文汇出版社，2020：65.

［17］习近平.高举中国特色社会主义伟大旗帜 为全面建设社会主义现代化国家而团结奋斗［N］.人民日报，2022-10-26.

［18］陈丽丹，姚艺.人工智能赋能新闻传播教育：实践转向、未来愿景与赋能路径［J］.重庆邮电大学学报（社会科学版），2023（1）：140-147.

［19］周庆山，郑霞，黄国彬.人工智能伦理规范核心原则的政策文本内容分析［J］.重庆邮电大学学报（社会科学版），2022（5）：9-20.

［20］吴汉东.人工智能时代的制度安排与法律规制［J］.法律科学（西北政法大学学报），2017（5）：128-136.

Risk and transcendence： An ethical analysis ofgenerative AI-enabled ideological and political education

REN Fengqin， DONG Zihan

（College of Marxism， Shandong Agricultural University， Taian， 271018， China）

Abstract：

As an important engine of a new round of scientific and technological revolution， the innovation iteration of artificial intelligence technology is accelerating， and AI-generated content （AIGC） is deeply involved in the development of various disciplines， bringing opportunities and challenges to the innovative development of ideological and political education. In the scientific and technological feast brought by ChatGPT as a typical representative， generative artificial intelligence as a “wisdom tool” provides more advanced method choices， more intelligent technical solutions and freer application scenarios for the development of ideological and political education activities， drawing a picture of the transformation of ideological and political education. However， the continuous enhancement of technological dimension also makes ideological and political education face ethical risks in different dimensions. From the perspective of subjects， there may be a risk of a decline in the dominant position of educators. From the object dimension， there may be a risk of imbalance in the self-perception of the education object. From the perspective of mediators， there may be risks of improper use of artificial intelligence technology. From the perspective of the ring， there may be a risk of complicating the ideological and political education environment. The main reasons are that the limitations of generative AI algorithms contradict the effectiveness of ideological and political education， the instrumental rationality of technology application conflicts with the value rationality of teaching， the subjectivity of artificial intelligence is opposed to the dominance of teachers， and the unpredictability of technological development is constrained by the limited risk cognition of relevant subjects. Correspondingly， in order to highlight the transformation direction of science and technology to empower ideological and political education to “turn challenges into opportunities”， it is necessary to correctly handle the relationship between education and technology， instrumental rationality and value rationality， technological innovation and individual empowerment， and rules and regulations and personnel literacy， so as to transcend potential ethical risks and promote the deep integration of ideological and political education with cutting-edge digital information technology.

Keywords：

generative artificial intelligence; ideological and political education; ethical risks; countermeasures; ChatGPT

（編辑：段明琰）