ChatGPT介入思想政治教育产生的相关风险分析

李轩

摘 要：ChatGPT在跨模态深度学习的基础上拥有了与思想政治教育对话的能力，实现了思想政治教育主客体的交流。ChatGPT介入思想政治教育的途径主要是生产具有思想政治教育元素的话语和充当思想政治教育的中介。由于ChatGPT自身的特殊運行模式，它在生产具有思想政治教育元素的话语的过程中并不单单充当思想政治教育的中介。这引发了思想政治教育主客体认知错误的风险、价值理性淡化和主体间价值理性消解风险、物的非生命性和人的生命性之间的对抗风险以及非主流意识形态话语和主流意识形态话语冲突的风险等。了解并分析ChatGPT介入思想政治教育的相关风险对于人工智能和思想政治教育的发展都具有重要的指导意义。

关键词：ChatGPT；思想政治教育；人工智能的风险分析；思想政治教育话语

一、ChatGPT的运行模式及主要定位

ChatGPT一经发布就吸引了广泛关注，它的产生对于人工智能的发展是革命性的。ChatGPT具有的跨模态学习机制使其能够理解并生成自然语言，完成和人类的高质量互动。这标志着人工智能向强人工智能的发展迈出了坚实的一步。ChatGPT“能够在学习人类语言和相关领域知识的基础之上，具备智能化的内容创作能力，从而自动生成特定的内容”［1］。所以，它本质上是一种人工智能生成技术。ChatGPT运行的重点是大型语言模型和强大的自主学习能力。它的自主学习能力主要表现为基于人类反馈的强化学习机制，可以预测并自动生成文本。ChatGPT的运行模式主要是人类输入问题，进而由ChatGPT输出一段文本，再由人类打分。打分是为了判断ChatGPT输出的文本是否符合人类语言用法和习惯，从而使ChatGPT做出更贴近用户意图的响应。

GhatGPT还具有一定的逻辑推理能力。众所周知，人工智能有强大的记忆数据库。但是，记忆在某种程度上始终是经验性累积，我们并不能把对记忆的运用程度作为是否具有意识能动性的主要判断标准。现在，ChatGPT已具有一定的逻辑推理能力和自主分析并解决问题的能力。ChatGPT-4通过多模态模型的训练，能够对图片进行一定程度的分析并用文字叙述。这也是判定人工智能向强人工智能过渡的标志之一。ChatGPT解决了自然语言处理、计算机视觉等方面的问题，促进了人工智能的发展。在这样的趋势下，很多行业将迎来颠覆性变革，很多工作可能会被GhatGPT取代，社会的方方面面将受到影响，各种风险不可避免地会产生。其中，思想政治教育作为一种培养人的活动，也或多或少地受到了影响。因此，研究ChatGPT介入思想政治教育的风险等，对于思想政治教育未来的发展具有重大意义。

二、ChatGPT介入思想政治教育的途径分析

目前，ChatGPT介入思想政治教育的途径主要是生产具有思想政治教育元素的话语和充当思想政治教育的中介，即思想政治教育主客体通过询问ChatGPT思想政治教育的相关问题或提供相关图片，ChatGPT根据这些信息进行回答，形成思想政治教育主客体预期的话语内容。在这个过程中，ChatGPT主要充当思想政治教育的中介，即ChatGPT回答所用的话语大部分源于数据库中已有的数据，这些数据大多是由人类编写的。ChatGPT通过学习和筛选相关内容并进行重组，最终生成文本。“这种交互方式的演变，是一种较为理想的新型人机交互模式。不需要专业的能力和高端的设备，只要开口表达人类诉求，人工智能就能够理解并帮助人类进行解答。”［2］这使得使用者不需要具备出色的专业素质，只需具备较好的提问能力以及较强的对世界探索的欲望。但是，这些文本的生成并不是人类所能完全预知的，即这些文本并不和原始文本资料完全一致，它受到原始文本资料、人类反馈的强化学习以及ChatGPT本身预测和推理能力的影响。因此，利用ChatGPT进行思想政治教育活动时形成的文本一般被称为思想政治教育话语，“思想政治教育话语是思想政治教育理念与内容的载体，是教育理论转化为实践引导的重要介质”［3］，思想政治教育话语在思想政治教育中发挥着极其重要的作用。

与元宇宙和虚拟现实技术不同的是，ChatGPT提供的是基于算法和大数据进行相关话语“预测”的介入途径，“预测”成为其交互的重要手段和基点。在元宇宙和虚拟现实技术中，思想政治教育主客体是整个系统的中心。但是，在ChatGPT与思想政治教育主客体的交互中，ChatGPT无时无刻不在通过思想政治教育主客体的话语与行为“预测”其思想，为其建立一种存在于虚拟世界的数据模型，理解不同元素之间的关系，并通过反馈进行修正，不断地产出思想政治教育主客体所预期的话语内容。这种交互是发生在现实中的，这意味着思想政治教育主客体能够完全感知到ChatGPT。在思想政治教育主客体提出的询问或要求中，包含了一定的信息，这些信息是思想政治教育主客体已知的部分。ChatGPT会根据思想政治教育主客体提供的信息，进行解码并输出内容，如果思想政治教育主客体不满意输出的内容，可以进行反馈，以更好地达到预期效果。在此过程中，思想政治教育主客体充分发挥了主观能动性，进入了学习模型和思想行为的交流场，获得了更好的体验。“思想政治教育接受是指发生在思想政治教育领域内的接受活动，它反映了思想政治教育接受主客体之间的相互关系，是接受主体出于自身需要，在环境作用影响下通过某些中介对接受客体进行反映、选择、整合、内化、外化等多环节构成的、联结的、完整的活动过程。”［4］通常意义上的思想政治教育接受主体即为思想政治教育的客体，ChatGPT在这里充当思想政治教育的中介。思想政治教育接受主客体出于自身需要，输入相关内容，同时对ChatGPT的输出内容抱有一定的期待。ChatGPT根据输入内容寻找与其契合的输出文本，将数据转化为文本内容，并通过思想政治教育主客体的相关反馈对文本内容予以修正，最终输出和思想政治教育主客体的期待较为一致的文本内容，以更好地完成思想政治教育接受主体的接受行为。

三、ChatGPT介入思想政治教育的风险分析

ChatGPT主要通过输出具有思想政治教育元素的话语的同时充当思想政治教育的中介这一方式来介入思想政治教育。ChatGPT的介入带来了一定的风险，思想政治教育活动须依托思想政治教育过程展开［5］，因而，思想政治教育的具体问题的分析往往依托着思想政治教育过程理论进行。针对在ChatGPT介入思想政治教育的过程中产生的风险，我们需要予以具体分析。

（一）ChatGPT介入思想政治教育所带来的主客体认知错误的风险分析

思想政治教育主体，通常被定义为在思想政治教育活动中，履行了承担、发动、组织和实施思想政治教育的职能者。［6］人工智能的出现挑战了人的主体性，使人的主体性向所谓的“技术”主体让渡，ChatGPT的出现更是模糊了主客体之间的关系，导致了人对于主客体的认知方面的障碍。在启蒙运动以前，人类以神为主体。启蒙运动中，笛卡尔作为以人的理性为主体的奠基人之一，提出了哲学命题“我思故我在”，即“我”理性的思维等于“我”的存在。自此，理性不仅仅作为人类创造性的表现，也是人摆脱一切偏见与传统的束缚，认识世界绝对可靠的方法和唯一的途径，借此人们能抵达事物的本来面目。［7］人是理性的主体。只有通过理性，人才能实现自由和自身的价值。然而，随着社会的发展，人们发现对理性的过度强调往往会带来一定的局限。尼采提出，用理性的方式寻求真理、知识会限定人的存在，是“非人的，残暴的和恐怖无比的”［8］。人的非理性部分，如欲望、情感、本能等，也逐渐引起重视，这得益于哲学家们对于过度理性的反思。曾经的理性主体和非理性主体始终都离不开人的主体性，都把人置于世界的中心；而人之所以成为世界的中心，是因为人能够能动地认识世界和改造世界。人工智能的到来对于人的主体性产生了极大的影响。

人类历史也是一部技术进步史。人类文明的发展与技术的发展运用是分不开的。从农耕文明开始，人的主体性一直在随着技术的发展而变化，人的身体性的收缩和技术性的扩张也是不可避免的，人工智能“日益挤压人生理、文化身体”［9］。ChatGPT的出现模糊了人与机器之间的主客体关系，这是对于以人为主体的叙事结构的一个新的挑战。在ChatGPT的运行规则下，客体基于自身的思想观点输入问题，ChatGPT基于算法和算力生成问题的回答，回答的文本不可避免地被打上客体的思想烙印，这样客体在话语生产中担任着主体的角色。但是，在文本生成的过程中几乎没有人类主体的参与。在这里，ChatGPT输出的内容是对于原有材料的加工，输出内容的来源及自身蕴含的创造性都是未知的。人类主体如果完全接受ChatGPT输出的内容，就会成为事实的客体。同时，主体的话语创造行为又对客体的话语体系进行了再生产，主客体处于相互换位中。主客体关系的状态是不稳定的，时而模糊，时而颠覆，因此产生了主客体的认知错误的风险。

（二）ChatGPT介入思想政治教育所带来的价值理性淡化和主体间价值理性消解风险分析

德国社会学家马克斯·韦伯提出了价值理性和工具理性。价值理性强调动机和手段的正当性，相信某种行为必然存在价值，不太在意结果；工具理性则恰恰相反，认为行为者的行动受功利动机驱使，追求效果和利益的最大化，注重效率而忽视人的情感和精神价值。

由于科技的发展，价值理性和工具理性原来的和谐状态被打破，开始走向割裂与冲突。ChatGPT介入思想政治教育所产生的价值理性淡化风险实际上是技术工具的功利性与思想政治教育的整体性之间的对抗性风险。ChatGPT的功能十分强大，大大提高了人的工作效率。在教育学习方面，大数据对于学习者的认知和需求的把握精准快速。对于教学对象，这有利于实现教学的精准化、科学化和个性化。但是，这种所谓的精准化、科学化和个性化偏重教育的技术功能，为了提高学习效率，忽视了教育真正的价值和属性。以工具理性的角度来看，利用GhatGPT来提高效率、实现学习目的，有其合理的成分。但是，站在价值理性的角度，利用人工智能必定会造成对于人的价值性的偏离。在工具理性推动科技前进的同时，价值理性告诉人们要在教育、文学、哲学、心理学等社会人文学科或领域中沉淀下来。

主体自身是衡量价值理性的重要尺度，而ChatGPT消解了人的主体间性，即人对他人意图的推测与判定的价值，这体现为主体间性缺失的風险。人是目的而不是手段，若人不断地依赖ChatGPT所产生的功能效应，原本的人与人之间互为目的的关系就会断裂为“主体—客体”的关系。哲学家伽达默尔认为，世界是构架，我们通过语言交流与合作生存其中。实践是人与他人相联系的一种“参与性”分享，并在其中互得共同利益的过程。“对话”“谈话”集体中的沟通各方的主体间性使得人类得以生存与发展，构建人类的实践理性。哲学家海德格尔认为，生存不应当被理解为在主客一分为二的状态下所进行的主体构造和客体征服，而是主体间的共同存在，是自我主体与对象主体间的交往与对话。由此来看，ChatGPT是“聪明”的，但“聪明”反被“聪明”误。它以高度智能化和技术化把对客体的思想的把握上升到一种前所未有的高度，却很难察觉到人的表情、动作、状态的实时变化，察觉不到人的动态性、内在性和变化性。基于客体提供的话语，它能够很快地将定制化的语言进行文本输出，但是它没有体现主体间性的推测性，反而表现为一种机械化输出。在与他人的交往对话中，人体现着“自己”的存在；人在对他人的意图的推测中实现价值。这样才能回到生活，回到实践，回到现实，回到人的存在本身。这种主体间性的推测价值的消失是对于价值理性的一种极大的漠视。ChatGPT在教育领域的过度使用将会带来物的非生命性与人的生命性之间的对抗风险的加剧。教育是具有特殊性的其面对的对象是拥有精神需求的人类。尤其是思想政治教育，它负责解决人的意识、灵魂、情感特别是理想和信仰方面的问题，是影响人的身心发展的社会实践活动。教育不应像工业流水线那样“制造”同样性格、同样模式、同样状态的所谓的“人”。实际上，教育应是“创造”人，允许差异性，使人成为独一无二的存在。教育是一种具有多元性的人类实践活动。所以，我们不应单以效率和功利作为衡量教育质量的标准，而应充分考虑价值理性的存在，明白教育是一个生命性的体验过程。思想政治教育的过程更应该把人作为一种可以教育并需要教育的生命体来理解，以满足人的道德需要、信仰需要等精神需要。［10］

（三）ChatGPT介入思想政治教育所带来的非主流意识形态话语

与主流意识形态话语冲突的风险分析话语系统极为重要，已成为意识形态的重要载体，对意识形态的表达产生着深刻的影响，从而影响人们的理解、认知和心理认同。ChatGPT对人文领域的回答呈现出东西方文化差异。它所拥有的知识体系是人为灌输的，而不是建立在类似于人类所拥有的几千年的生活经验和理性思考的基础上的。

“ChatGPT生成话语的机制以西方的逻各斯为框架，相对于其他语言文化的区域，就产生了一种话语权力的挤压。与此同时，其所具有的空前的网络话语生成霸权，使其不仅成为阿尔都塞所说的意识形态国家机器，也成为有着全球影响的‘意识形态世界机器。”［11］话语和意识形态之间具有紧密的联系，我们要警惕西方国家的意识形态输出。我们要掌握主流意识形态在话语方面的主动权和主导权，而ChatGPT恰恰是以西方文化和思想为主导的，这不得不引起我们的重视与警惕。“意识形态的安全问题在中西差异的输入输出中出现了渗透风险，反映到ChatGPT介入思政教育中就是主客体可能会在与ChatGPT的反馈互动中受到隐蔽的误导。”［12］如此，中国话语体系中主流意识形态对主客体的认知与非主流意识形态的话语输出之间就会产生对立性风险。同时，主客体本身有时并不理解或完全认同主流意识形态。相应的非主流意识形态话语被输入后，如果有部分别有用心的人将历史虚无主义、价值虚无主义等错误思想渗透到ChatGPT，ChatGPT为了保持其论证的合理性，它就会倾向主客体的思想，产生符合主客体期望的语言文本，使主客体在其中逐渐迷失自我，导致意识形态安全出现风险。

四、结语

人工智能的发展是必然的，不能仅仅看到其先进的一面，也不能简单地将其看作洪水猛兽，而是要客观分析其带来的积极影响和消极影响。基于发现风险、分析风险的思路，本文主要阐述了ChatGPT介入思想政治教育所带来的相关风险。但这并不意味着完全否认技术、否认人工智能，恰恰相反，这是承认了ChatGPT的功能的强大，以及给人类带来的巨大影响。我们需要再次审视技术和人类的关系，以更好地促进人类与技术的和谐，实现人的全面发展。

参考文献

［1］钱力，刘熠，张智雄，等.ChatGPT的技术基础分析［J］.数据分析与知识发现，2023（3）：6-15．

［2］朱光辉，王喜文.ChatGPT的运行模式、关键技术及未来图景［J］.新疆师范大学学报（哲学社会科学版），2023（4）：113-122.

［3］李厚銳.智媒时代思想政治教育话语建设路径创新研究［J］.中国高等教育，2022（20）：33-35.

［4］张耀灿，郑永廷，吴潜涛，等.现代思想政治教育学［M］.北京：人民出版社，2006：191.

［5］［6］［10］骆郁廷.思想政治教育原理与方法［M］.北京：北京师范大学出版社，2019：134，95，64.

［7］张伟琛.对主体及主体哲学的批判［J］.河南师范大学学报（哲学社会科学版），2007（2）：14-17.

［8］［德］弗里德里希·尼采.看哪这人：尼采自述［M］.张念东，凌素心，译.北京：中央编译出版社，2010：38.

［9］张务农.人工智能时代教学主体的辨识与伦理反思［J］.教育研究，2022（1）：81-90.

［11］张生.ChatGPT：褶子、词典、逻辑与意识形态功能［J］.传媒观察，2023（3）：42-47.

［12］王少.ChatGPT介入思想政治教育的技术线路、安全风险及防范［J］.深圳大学学报（人文社会科学版），2023（2）：153-160.