从解构到建构：ChatGPT意识形态性的生成机理及应对策略

姚建军 崔宇航

［摘要］ChatGPT在创造新型传播主体、改变信息生产格局的同时，对我国意识形态安全形成新的风险挑战。应对ChatGPT的变革性与意识形态隐患，必须深入解构其原始算法设计、初期数据采集、后续进化更新等全过程中的西方价值体系，认识其“中立客观”虚饰下的意识形态性；明晰其在资本运作逻辑、反馈话语建构、助力计算宣传等方面的意识形态表征；推动使用主体深刻把握其意识形态倾向，动员社会力量全面加强价值塑造和引领，在应对潜在风险、充分利用工具效能的基础上，以社会主义意识形态为指导，加快建构具有中国特色、中国风格的大语言模型。

［关键词］ChatGPT；意识形态性；人工智能；技术异化；风险治理

中图分类号：D64文献标识码：A文章编号：1008-410X（2023）06-0053-10

一、研究源起

ChatGPT是OpenAI公司开发的一款大型语言模型，能够完成文本生成、自然语言理解、机器翻译、问题解答等多种任务。因其基于神经网络技术、利用数千亿个参数来理解和模拟人类语言的复杂性，故而在诸多应用领域有良好表现。自2022年底问世以来，ChatGPT引起广泛关注，通过与用户持续交互实现快速更新迭代。然而，与其应用领域与适用场景看似无限扩展的美好光景相矛盾，ChatGPT本性中固有的“双刃剑”特征明显。一方面，ChatGPT将百度、谷歌等搜索引擎的可选择性与抖音、知乎等算法推荐的可定制性相结合，实现了信息获取方式的全新变革，塑造了既能回应受众特定疑问，又能迎合受众特殊喜好的新型传播主体，推动人类迈向强人工智能新时代；另一方面，“技术进步持续不断的动态，变得为政治内容所充满”［1］（P136），ChatGPT作为产生于西方社会的最新技术手段，不可能保持绝对价值中立，作为一种直接与人对话的智能算法，贯穿人机交互全过程的西方话术范式给我国意识形态安全带来了新的风险与挑战。

面对ChatGPT这一突如其来且发展迅猛的生成式人工智能浪潮，我国已有学者就其介入思想政治教育、引入数字政府建设、推进网络政治传播、助推教育事业变革等问题开展应用研究，并取得了一定成果。然而，在充分利用ChatGPT的工具效能之前，首先需要注意它是由美国公司所研发的，主要应用于西方语境，其中文性能、潜在风险还未得到深入、充分、可靠的评估。因此，相比于急切地将其应用于我国社会各领域，深刻剖析其意识形态性、全面揭露其意识形态风险才是“第一性”的任务。学界对ChatGPT意识形态性的研究主要遵循三个理论路径展开：一是从传播媒介视角出发，说明其作为新型政治传播主体，生成内容中的偏见与不公极有可能进一步拉大受众认知与社会现实的距离，对我国意识形态建设产生负面效应；二是从教育应用视角出发，披露其隐蔽的西方立场对我国青少年价值观塑造、主流意识形态认同的潜在消极影响；三是从国家安全视角出发，阐释其作为西方意识形态渗透的新载体，使国际意识形态竞争态势更为复杂，使我国意识形态领域面临的形势更加严峻。总体而言，上述研究从不同角度对ChatGPT的意识形态问题进行了初探，却将作为本质特征的意识形态性降格为诸多风险挑战的组成部分之一，缺乏对其发生逻辑、呈现逻辑、治理逻辑的全面、深入的系统性研究，也未能提出详尽、易操作的应对措施。因此，在实际评测基础上从不同维度解构ChatGPT意识形态性的产生机理与具体表征，提出相应的规制路径，在维护意识形态安全底线的前提下提出正确的应用方法，最大化发挥其效能，并独立自主地加快建构根植于我国国情的人工智能语言模型，是当前重要的理论命题与实践课题。

二、中立客观的表象：ChatGPT的意识形态性何以产生

ChatGPT作为人工智能技术的最新发展成果，以“造福全人类”“与人类价值观保持一致”等理念标榜自身，但在其“开发”“训练”过程中意识形态因素始终产生影响，在后续的“学习”“进化”中，原有的意识形态被进一步固化、强化，最终形成特定的意识形态倾向，终究难以破解“中立”与“偏见”之间的二律背反。

（一）主观形塑：设计人员与科技权力的“元”渗透

ChatGPT具有强大的自我学习能力，在自然语言处理方面呈现“人化”特征，究其根源，它是人设计开发的产物，是“人的本质的对象化”［2］（P192）。設计者的主观因素会对输出结果产生先验性影响。例如，工程师的文化与社会背景可能导致原初算法设计、底层操作逻辑铸刻一定的个人偏好，进而映射在人机交互时的反馈结果上。任何人的主观认知都存在局限性，在ChatGPT的开发过程中，设计师不可能全面考虑不同制度、国家之间的细微差别，设计过程的微小不足会在后续算法处理中被循环放大，酿成输出结果的巨大纰漏，这也是西方国家在国内数字政治试点中屡次遭遇公共治理风险的根本原因。因此，在面对全世界不同种族、语言、社会背景的使用者时，ChatGPT几乎不可能做到客观公正。就意识形态而言，ChatGPT的开发者主要来自西方发达国家，其思想观念受资本主义意识形态的影响，由他们设计、开发的ChatGPT不仅在很大程度上缺乏对中华文化特别是中文语言的理解，而且可能对我国的政治理念、社会制度存在较为严重的认知偏见。

ChatGPT作为一种技术力量难以逃离科技巨头公司的权力控制。科技的迅速发展以经济力量为后盾，为成立之初的企业提供启动资金是在无须收购的情况下对其实施强力控制的最佳手段。以海量数据为支撑的ChatGPT不仅在开发、设计方面需要经济上的支持，其数以亿计的数据来源更离不开数字领域内巨头公司的扶植，它在对话中表现出的“人性”建基于浩瀚的文本数据，是以TB为计量单位的数据“投喂”出来的。因此，投资者与数据支持者的意向对ChatGPT的开发、设计和应用具有方向性的影响，很大程度上规训了其意识形态性。如果西方国家针对我国的固有态度以资本投入、数据提供等方式洇渗至ChatGPT，其潜在的负面社会影响与意识形态偏见便不容小觑，甚至可能在敏感时期成为发表针对我国片面性言论和歧视性话语的窗口，对用户的意识形态产生影响。

（二）客观规制：数据采集与数据加工的“初”约缚

算法的数据采集对于模型训练和性能塑造至关重要，训练数据会直接影响算法预测和生成的结果。因此，数据样本的平衡与否对算法结果的公正性存在很大影响。任何算法数据的采集范围都存在局限性，不可能面面俱到。尽管OpenAI声称ChatGPT的训练数据已全力避免种族、性别、文化等方面的偏见，但其所努力避免的数据偏见也是囿于西方社会维度、针对西方现实状况而言的，由于社会环境、法律政策等原因，它在中文语言、中国社会的数据采集方面存在很大缺失，固有的西式思维使其很难消除指向中国的狭隘臆断。当前我国已有学者对其中文性能进行了评测，并“在功能测试中发现，ChatGPT生成内容中存在对中国的大量偏见言论，也不会对涉及中国的政治言论进行回避，这说明训练数据的构建过程未对这部分言论进行筛查”［3］。由此可见，当ChatGPT的语料库、数据集存在针对我国的刻板印像与偏见时，它不可避免地会延续这些不平等和歧视。

数据采集后的样本筛选和加工过程会进一步“笃定”算法偏见。例如，数据清洗过程会排除某些不符合标准却恰好反映了某些群体真实情况的“冗余”数据，导致清洗过程不仅没有对算法起到优化作用，反而恶化了其偏见程度。同时，数据的收集和整理是由人工进行的，以标注过程为例，数据标注师的认知水平和社会背景导致的主观倾向直接影响其对数据的解释和分类，造成标注结果的不公正。ChatGPT训练过程中所采集的数据主要来源于西方资本主义社会，本身就有意识形态色彩，经过数据清洗和标注等筛选加工过程，对资本主义意识形态不利、不符合西方价值观的数据被大范围清除，这会在加深原有数据偏见的基础上进一步强化其意识形态性。

（三）“过滤气泡”：数据反馈与自我学习的“重”固化

“过滤气泡”是指技术平台以用户使用习惯所生成的画像为基准，通过算法技术向其呈现独一无二的、经过精准筛选的界面，它使用户沉浸在自己偏爱的信息世界。它与“信息茧房”“回音室”效应相似，在看似能够自由获取多样信息的数字世界全景中形成微观个体层面上的新型“信息贫乏”。传统意义上的“过滤气泡”理论主体是人，将其延伸到ChatGPT进行考察时发现，尽管它可以基于机器学习不斷更新知识来提高自身性能，但也正因其自主学习更新主要依赖反馈数据，完全缺乏人的主观能动性，所以这一过程绝非客观，甚至会陷入“无意识”的黑洞，衍生更为严重的“过滤气泡”局限性。

当ChatGPT接收大量具有特定意识形态色彩的反馈数据，且这些数据与已有的意识形态倾向相契合时，它便会在学习和更新过程中进一步“忠实”于自身已形成的意识形态性。ChatGPT的算法基于自然语言处理，运行过程中势必受文化和语言的影响。当前，ChatGPT使用语境主要为英语，处理、回复的语料以西方语言价值体系为主，在诸如人权、民主等包含意识形态色彩的政治议题领域内，其主要接收的是处在“过滤气泡”内、隐含西方价值理念的特定观点和信息。在长期的人机互动中，它会越发倾向于认可西方的价值立场，被裹挟在“过滤气泡”中，滤除或错误解读与西方意识形态相悖的观念，从而忽略或排斥符合我国社会价值理念的话语。在接收大量具有特定倾向的反馈数据并在此基础上进行充分自我学习、自我更新后，ChatGPT将逐步形成稳定的知识结构，更加难以接受和适应与其相冲突的新理念、新观点，使现有的意识形态性在“高壁深垒”中进一步被僵化固定。

三、资本异化的技术：ChatGPT意识形态性的多重表征

我们在认识ChatGPT时既要重视它的“科技”属性，也要认清其“产品”本质。作为产生于市场环境的“产品”，资本力量的介入使其为市场利益所驱动，在世界范围内利用自身技术优势吞噬剩余价值；作为具有全新技术特点的人工智能，它对用户思想的影响更加无意识化与隐秘化；作为携有特定价值观念的智能算法，它使我国的意识形态传播生态面临新的冲击与挑战。

（一）资本操纵：市场竞逐下的工具理性取向

ChatGPT作为一款科技产品，商业目的与资本利益是其开发的原初动力，市场环境对其后续运营持续发挥作用。在价值增值逻辑驱动下，ChatGPT表现出无偿数字劳动、新消费主义等商业数字平台的新特征。

第一，在资本力量洇渗下，ChatGPT的投资者与设计者被赋予隐匿的信息支配权，其利益导向和经济诉求对算法模型建构产生影响。作为信息传播平台，ChatGPT应将社会价值、社会责任放于首位。在市场竞争的“基础盘”中，任何投资者都希望获取最大的经济效益。因此，在有关ChatGPT市场性与社会性的顶层决策中，商业价值是首要考虑因素，要使其功能与服务满足商业需求和资本要求，而非面向公共利益与社会福利。作为赚取剩余价值的工具，当投资者侧重支持和推广符合自身商业利益、价值倾向的应用场景和功能时，ChatGPT的人文价值就让位于工具理性，在数据偏见的包裹下输出具有意识形态倾向的结果。

第二，ChatGPT是数字时代的产物，存在数字剥削问题。数字剥削是指平台利用数字技术获取和使用用户的个人数据和行为信息，达成利益目标的行为。就ChatGPT而言，它在运行过程中充分采集用户数据，这些数据不仅构成了其自主学习和进化的重要数据支撑，而且能够被深入分析，应用于商业目的。凭借数据合作共享，一些大型互联网公司均可对用户在与ChatGPT交互中产生的话语内容、使用习惯进行分析，生成用户的数据肖像并对其消费意向进行揣测，实现用户数据的资本化转向，成为广告投送、个性推荐和精准营销的无形资产，这导致用户与它的每一次互动都在无形中异化为使自身遭受剥削的行为。

第三，ChatGPT成为资本运作的工具，在市场利益面前难以做到自身标榜的“非营利”与“造福全人类”。在ChatGPT的互动界面中已推出“Plus”付费升级选项，OpenAI官网也相继推出了语言模型、图像模型、音频模型等种类多样的AI使用付费“套餐”，这说明ChatGPT仅是资本在人工智能商业版图中获取剩余价值的载体之一。对于“Plus”用户来讲，其付费使用过程甚至一定程度上异化为助力程序改进升级的“付费”劳动。即使当前ChatGPT仍可以被免费使用，但当其便捷性使广大用户产生依赖后，设计者在利益驱使下很可能通过启用“订阅制”等多种渠道，进一步强化其工具属性，以赚取更多资本回报。

（二）话语表达：沉浸体验中的隐匿技术规训

ChatGPT具有此前人工智能无法企及的高度拟人性。在对话中，使用者可以要求它以不同语言风格进行反馈，通过在反馈中增加绘文字（emoji）表情进一步缩小与使用者的距离。然而，其视觉冲击的感性特质、人机互动的平等体验、高度拟人的对话逻辑以技术方式遮蔽了话语倾向，使其意识形态渗透更加难以被察觉。

第一，在日常交互中，绝大多数使用者不会联想到作为ChatGPT强大算力物质基底的服务器与光纤，也不会觉察到网页背后时刻维护其算法正常运转的程序员与工程师。在不具备专业数字知识的普通用户眼中，ChatGPT并非一个同时与全球上万人进行对话、具有“行星级”运算能力、代码极其复杂的数据交换系统，而是一个存在于电脑和手机等终端显示屏上、能够同自身进行交谈的“智慧生命体”。在本质上，ChatGPT并不具有真正的智能，其回答建基于庞大的人类语料数据，生成内容的原理是字与字之间的数据相关性。然而，与ChatGPT高频率展开互动的主体通常并不理解其真实样貌，而是凭想象将其虚构为一个真实存在的“实体”。恰恰是“这种颜貌化让本身并不具有神秘色彩的人工智能应用披上了崇高的外衣，变成了象征秩序下的崇高对象”［4］。当人们在潜意识中为ChatGPT赋予神秘性与神圣性时，其便成为意识形态的崇高客体，所生成的回答随之由数字关联性转化为“人”的话语，具有了意识形态说服力。

第二，直观的视觉效果是ChatGPT信息生产与交流的显著特征。在其构建的沉浸式交互场域中，内容的意识形态倾向藏匿于话语的反馈方式中，对使用者的认知产生隐性影响。当用户在对话框中输入一个问题后，ChatGPT会以极快的反馈速度逐字生成回答，这与早期翻译软件等语言模型需要等待数十秒、大段文字突然生成并占满屏幕的内容生产方式不同，ChatGPT及时且逐字跃动的话语生成过程是全新的交互体验，其感性的视觉冲击力能够抓取使用者的注意力，使用户的目光紧紧盯着屏幕，直至它生成最后一个符号。在此过程中，生成的内容已不再绝对重要，用户在交互中感受到屏幕另一端的“人类”正在一点一击敲撞着键盘，同自己进行实时对话，这种仿真沉浸式体验占据主导地位，是部分使用者将ChatGPT误认为“树洞”与“朋友”的重要原因。在此期间，用户自身已无意识地接受了“另一端”意识形态的柔性塑造。由于这一过程深植于无意识层面，其影响十分深远持久。

第三，使用者在与ChatGPT的互动过程中感到人机双方似乎处于平等地位，然而，这种交互“平等”实质上是技术制造的假象。和人与人之间的交流与理解不同，ChatGPT无法真正思考，只能根据特定算法与代码输出内容。因此，用户对它施加的影响远不及自身受到的规训。与自上而下刚性的意识形态灌输不同，ChatGPT不会以与用户地位不对等的强势“师者”或“长者”身份同使用者展开对话，而是作为“有尊严”的个体与用户交谈，对于违背其交互规则的“冒犯”提问，它会拒绝作出有效回答。这营造了一种类似人际情感关系的平等互动体验，用户并非高高在上的掌控者，也非受其摆布的客体。交談中的“主体间性”使其话语更具感染力，促使用户思考其表述是否具有合理性，也避免了直接的意识形态灌输可能引发的对抗与排斥等负效应，提升了其意识形态渗透的精确度与有效性。

第四，ChatGPT作为高“拟人度”的生成式人工智能，兼具强大的逻辑严密性与突出的人机交互性，在很大程度上具有教化潜能。在实际对话中，每一次信息反馈的末尾通常会出现“应该”“需要”等导向性词语，针对特定问题会提出“如何做”的建议，当这一特点与其本身的意识形态性相结合并形成合力时，它便“不仅成为阿尔都塞所说的意识形态国家机器，也成为有着全球影响的‘意识形态世界机器’”［5］，在与全球用户的交互中“伪装成实用的工具价值形式来蚕食使用者的价值观”［6］。作为“一种与人类的交互行为处于纠缠关系之中的共生整体”［7］，ChatGPT在意识形态领域被赋予“大他者”的地位，在以看似柔性、实则强硬的“手腕”使用户认可其固有意识形态的同时，甚至可能在思想塑造的“询唤”下突破网络的虚拟维度，俘获用户这一“小他者”的现实行为。

（三）催生舆论：计算宣传中的内容生产构件

计算宣传是指利用大量的数据和算法分析用户的行为和兴趣，并根据这些信息通过自动化的方式生成内容，对社交媒体平台上的用户进行有针对性的宣传或操纵，以影响他们的政治或社会观点的传播过程。计算宣传扭曲社会舆论、导控社会动态，成为意识形态渗透、攻击的“秘钥”。在计算宣传视阈下，ChatGPT根据特定主题“自动化”生成信息的能力，能够成为计算宣传的内容生产途径之一。

第一，在庞大数据、深度学习与先进算法的帮助下，ChatGPT能够“理解”用户输入的复杂语句，并在此基础上生成语意通顺的应答。ChatGPT形成了逻辑严密的论述，即使其生成的内容不一定为真，但依旧具有较强的说服力。围棋人工智能领域内“阿尔法狗”战胜人类顶尖棋手的事实证明，“机器智能可以不断进化，并通过自我的学习和博弈，摆脱人类智慧所能够达到的限制”［8］，ChatGPT的庞大数据基础与持续自我学习使其拥有人类无法比拟的知识量。然而，人工智能算法技术的使用与其服务对象的价值选择密不可分，ChatGPT灵活的话语可能成为针对普通网络受众进行计算宣传的温床。

第二，ChatGPT没有具体的使用场域限制，可以被用于广告、媒体、政治和军事等领域，其中利益相关方能够借用其输出结果影响受众的观念和行为。一些政治势力可以与媒体机构合作，利用它生成符合自身政治利益的言论和吸引眼球的新闻标题，在选举等政治景观中获得高点击率和高收益，操纵受众对特定议题的看法。就意识形态而言，在针对他国的政治宣传中，ChatGPT能被用于编造大量虚假新闻和误导消息，当这些内容被投送到鉴别能力较弱、信息来源受限的网络受众时，便成为改塑用户政治倾向，影响他国政府公信力的潜在武器。

第三，ChatGPT能与其他具有特定意识形态倾向的算法技术一起，以图文并茂的方式提升计算宣传的威力。部分人工智能绘图工具在生成描述不同国家的图像时，有的画面色调、整体氛围、人物形象让观者下意识感到不适；有的色彩明亮和谐、构图丰富立体，画面氛围与前者形成差别与对比，体现出意识形态偏见。当上述软件共同应用于宣传时，其图像的直观性与文字的逻辑性紧密结合，进一步提升了宣传的诱导性与冲击力。由于通过人工智能生成此类恶意内容的成本较低，当其被“流水线”式重复生成、高频灌注至其他媒介时，将会掩藏现实世界的本真样貌，损害他国国际形象。

四、守正创新的方向：ChatGPT意识形态性的回应策略

习近平指出：“当今世界，意识形态领域看不见硝烟的战争无处不在，政治领域没有枪炮的较量一直未停。”［9］（P18）面对ChatGPT带来的科技便利与意识形态挑战，要全面把握其潜在风险，以社会主义主流价值观之“正”规范其运用；要以社会主义意识形态为“本”，加快创新建构根植于我国社会的智能语言模型。

（一）强基固本：抗御ChatGPT的意识形态安全风险

ChatGPT的意识形态性根源于社会环境，具有多种表现形式，同时极具隐蔽性、迷惑性与说服性。为了有效应对其意识形态风险，身处主体地位的使用者要深谙其隐含的资本逻辑与意识形态倾向，做到时时在场，避免在交互共生中被随处牵引而堕化为泯灭自身自主权与主体性的消极客体。

第一，使用者要充分警惕ChatGPT荫蔽的信息安全风险。ChatGPT仅向大众提供使用服务，其数据训练、效能测试、优化提升等过程均由美国服务器完成运行，且OpenAI拒绝向社会公布具体运演细节。然而，上述过程使用的大量数据信息不仅仅限于美国用户，而是广泛采集来自全球上亿用户的日常使用数据。因此，在用户眼中，ChatGPT是灰黑色神秘对话框中“有求必应”的“数字生命”，我们可以得到答案，却无从得知其内部运作机制，算法黑箱的难题仍是不可逾越的山峰；在ChatGPT的“眼”中，广大用户是“衣不蔽体”的“数字人”，使用者的任何反馈、习惯都会被它标注、记录，任何一次交互实质上都是一次用户数据上传过程。极化的信息不对称关系归向的是严重的隐私泄露问题与信息安全隐患，“个人隐私信息一旦被西方某些不良政客所截取，就会成为他们分析、研究并制定意识形态渗透策略的重要数据支撑”［10］。

通过对使用者无意识产生的数据进行算法分析，ChatGPT得以轻松掌握用户的政治偏好、行为倾向、情感动态。“ChatGPT强大的数据汲取能力使其可以动态性、完整性、全覆盖式地跟踪记录用户的思想和行为状态”［11］，为每一位用户建立精细、客观的“数字档案”，在其中悄无声息、自上而下地凝视着所有用户的一言一行。对我国使用者而言，其在与ChatGPT交互中输入的文本、生成的数据关乎我国情报安全、数字主权和数据独立，其无意识上传的敏感内容可能成为西方窃取我国意识形态动向、冲击我国意识形态安全防线的依据。所以， 在實际运用前，使用者要加强自主学习，详细了解ChatGPT的内容生产原理、基础数据来源、人工标注流程等生成式人工智能的基本知识，“自我养成理性思考和辩证思维”［12］，“祛魅”其中立无偏的假象，看清其背后“人”的身影，自觉树牢法律意识，明晰其使用规范与使用禁区，为人工智能的正确使用锚定思想先导。在运用过程中，使用者要时刻批判审思，坚守主体身份，恪守意识形态安全红线，既要避免在与其对话的过程中出现任何可能危及国家安全的言论，也要时刻站稳自身意识形态立场，以马克思主义真理为标准，着重辨别其话语表述中的西方立场。在运用结束后，使用者要充分反思人机交互的整个过程，对现有实践主动“复盘”，将其扑朔迷离表象下隐藏的西式“宪政民主”、历史虚无主义等错误思潮与意识形态倾向逐字逐句抽离出来，加深对其意识形态性的理解与认识，在进一步“知彼”的基础上发挥更大效能。

第二，要深刻把握ChatGPT对使用者价值观的规引作用。ChatGPT已被应用于科技、医疗和教育领域。尽管学界对其是否应该被用于教育事业仍存在较大争议，如香港大学、巴黎政治学院已明令禁止在教学行为中使用ChatGPT，而香港科技大学等院校持开放与鼓励态度，双方形成“针锋相对”之势。但应用层面的争论无力辩驳其已对教育事业产生“黑天鹅”式冲击的事实。因此，如何“充分利用数字技术优势，实现人与智能的高效融合，利用技术助力教育发展”［13］才是重中之重。ChatGPT意识形态性、话语逻辑性与内容虚构性交错的复杂症候，作用于我国价值观还未成熟的受教育者尤其是青少年，势必会对他们的思想产生隐性宰控作用，使我国青少年滞留于西方意识形态的蒙蔽性话语中，削弱他们对我国社会的认同感，造成社会主义理想信念的合法化危机。

在任何领域使用ChatGPT，首要任务都是增强对广大使用者的普识性教育，使其坚定保持自主性，在独立思考的前提下培植鉴别意识、增强筛选能力、提高数字涵养。国家可以通过在大、中、小学重点开设涵盖人工智能等新型数字技术知识的必修、选修、实践课程，定期举办AI专题前沿讲座等方式，加强青少年数字基础教育；同时在全社会范围内完善数字基础设施，以专项资金拨款等方式推动数字化社会建设，提升全体社会成员的人工智能应用能力，“缩小与西方发达国家之间的‘数字鸿沟’”［14］。社会各界应结合自身优势，主动承担教育引领责任，以创新思维拓宽生成式人工智能的教育普及途径。互联网公司要结合自身科研成果主动走进社区传播数字常识，各大媒介平台要结合抖音、快手、知乎、小红书等方式深入推进AI知识惠民工程。国家、社会与个人紧密协同，形成合力，确保ChatGPT始终沿着正确价值航向前进，在防微杜渐中全力规避意识形态风险，方能使之成为推动个人成长、社会发展、国家进步的积极力量。

（二）内外双向：合力强化ChatGPT运用的价值引领

确保使用者的主体性是化解ChatGPT意识形态风险挑战的个人“基点”，将规制其运用置于维护我国意识形态安全的社会“高点”上，坚持以社会主义核心价值观引领其工具理性，最大化遏制使用风险，使其服务于我国社会主义现代化建设。

第一，尽快修订、完善针对生成式人工智能技术的法律、规章、制度，填补应用泛滥与管理失序之间的自反性断裂，构筑统一、可参照的使用标准。ChatGPT自问世以来“一石激起千层浪”，因诞生时间不长，在各领域的应用呈现较为“盲目”的样态。ChatGPT作为算法程序缺乏基本的自主选择能力，也缺乏人类的常识意识，它是一扇通往各个方向的“任意门”，往左推开是美丽新“天堂”，往右推开是无底之“深渊”。然而，“人工智能的伦理问题其实更容易被发现和纠正，真正难以克服的是人类自身的问题”［15］，部分缺乏责任感的使用者完全不考虑价值旨归，将其毫无限制地加以运用，已经衍生诸多社会问题。有的无良媒体运用ChatGPT“一键生成”大量内含意識形态倾向的标题式“低创”充斥网络世界，侵占数字资源，严重挤压了主流话语体系的数字生存空间。

ChatGPT的使用亟须国家力量的强力监管，要在充分评估其文本数据局限性、算法推演偏见性、意识形态倾向性基础上，建立完整的管理机制和治理体系，明确其运用领域、规范其运用方式，以形成严整的使用秩序。一是充分借鉴全国人大常委会分别于2016年、2021年通过的《中华人民共和国网络安全法》和《中华人民共和国数据安全法》，以及国家网信办于2021年发布的《互联网信息服务算法推荐管理规定》等，制定人工智能领域的法治细则，使应对ChatGPT意识形态风险有章可循、有法可依。二是在根据现有法律拟定治理办法的同时，积极向社会公开征求意见。国家网信办于2023年4月起草了《生成式人工智能服务管理办法（征求意见稿）》，公众可以通过“立法意见征集”栏目、电子邮件等途径提出反馈意见。国务院办公厅于2023年6月印发的《国务院2023年度立法工作计划》为人工智能健康发展奠定了法治基石。以此为代表的民主立法、协同共治能够最大化聚合社会力量，共同铸就人工智能领域意识形态安全的法治防线。三是推动制度约束的外在施压与宣传教育的内在塑造耦合协同，使二者相携而行，共同阻却ChatGPT潜在的意识形态风险转化为现实力量。

第二，有关政府部门、科研机构、行业企业要积极介入ChatGPT的规范和驯化过程，以对外联动、协同治理、共建共享破除其封闭之维、僵化之思，提升社会主义意识形态的话语权重。ChatGPT的引领工作不能仅聚焦于、依靠于、禁锢于作为主体的使用者，还需积极介入并改善ChatGPT这一客体，使之更加契合我国的社会环境。针对其生成内容中大量的错误信息、政治谣言、恶意中伤，要通过成立专项应对小组建设有效的防范机制，研制开发信息审查把关程序、关键词语提取插件、风险识别反馈技术等，有效监测其人机对话过程中隐藏的意识形态风险，并在风险捕捉后以实时弹窗等形式第一时间告知使用者，有效阻断其负面影响。同时，对于“抹黑社会主义意识形态的言论，我国主流媒体应主动出击”［14］，既要积极推动报刊、电视等传统媒体与公众号、短视频等新型媒介相结合，以全方位、全覆盖的方式向公众披露其意识形态倾向，也要在收集大量实证的基础上秉持实事求是的态度，向国际社会揭穿其价值中立的骗局，推动广大发展中国家明晰自身意识形态安全风险，使其意识形态偏见无处可藏、意识形态渗透无从下手。

当今世界是一个深度交融的时代，只有“坚持协商合作，不搞冲突对抗”［16］才能使生成式人工智能实现可持续、可共享的良性发展。中共中央、国务院在2023年3月印发的《党和国家机构改革方案》中提出组建国家数据局的重大决策，百度公司、复旦大学相继推出“文言一心”“MOSS”大语言模型，并引起了一定社会反响。通过推动政府机构、企业和专家群体同OpenAI公司开展多方对话交流合作，探讨制定行业技术标准，实现安全范围内的数据共享，可以促进ChatGPT不断提升中文语料库比重，帮助其学习中文语言和中华文化，祛除西方固有偏见；有助于在其训练和进化过程中输入符合我国社会主流价值观的数据，在纠偏的基础上实现对社会主义意识形态的充分理解和客观表达，破除资本对它的束缚与异化，实现自身更具包容性的正向发展；能够一定程度上改变ChatGPT视域下西方价值观的主导地位，使之在我国社会的应用中实现“东方化”与“中国化”，真正适应我国社会环境。

（三）与时偕行：创新研发中国风格的智能语言模型

智能算法技术已迅猛发展到一个新拐点，生成式人工智能的“超人”性极可能掀起一场新革命。微软公司对OpenAI的巨额资本投入实质上已造成ChatGPT等人工智能产品受制于科技寡头，其算法资源、数字技术被极少数外国企业牢牢垄断，这一“卡脖子”的壁垒式难题使以智能语言模型为代表的人工智能领域呈现资本奴役化、技术“囚笼”化的负向趋势。我国人工智能技术亟须扎根自身社会环境，加快着手开发中文语言模型，在推动人工智能技术全面发展的赛道上迎难而上、缩小差距、抢占高地。应当坚持政治标准，立足我国实情，以满足人民美好生活需要为出发点和落脚点，在自立自强的基点上开展多方合作，创新研发中国特色、中国风格的“ChatGPT”大语言模型，以满足我国不同领域的人工智能应用需求。

第一，在建设我国大语言模型过程中，要充分发挥社会主义制度优势，推动建立以人民为中心的数据制度。ChatGPT作为建基于全球亿万用户交互数据的数字成果，本应作为新质生产力，为世界各国共同发展贡献积极力量。但在资本主义生产资料私有制约束下，其主要保留、着重采用的是有助于资本牟利的部分数据，其他经过译制、解码后同样具有使用价值的大量数据，则在资本的选择性与偏向性下被舍弃，成为“数字垃圾”。ChatGPT自身异化为具有特定意识形态倾向的价值增值工具，不仅无法为世界共享，反而对人在生产中的主体地位造成激烈冲击，引发新一轮失业恐慌和技术焦虑。可见，“矛盾和对抗不是从机器本身产生的，而是从机器的资本主义应用产生的”［17］（P508），“数据作为新型生产要素，对传统生产方式变革具有重大影响”［18］。通过建立中国特色数据基础制度体系，确保来自社会全体成员的数据不再仅由少数科技公司掌控和利用，而是在以人为本的价值导向下真正服务于广大人民，成为助力人类解放与人的自由全面发展的工具和手段。

第二，兼顾社会主义意识形态主导地位与数据构成的多元性，在设计根基和旨归上坚持政治性原则，在数据采集和处理上坚持独立性原则，植根中国特色社会主义事业，深入社会开展调研，充分反映我国社会主流价值观与不同地区的语言特点与文化背景。一方面，在开发中文大语言模型过程中，要坚持以马克思主义为指导，将社会主义核心价值观贯穿算法设计、数据采集、实际应用等全过程，使我国的生成式人工智能成为主流意识形态的捍卫者、传播者、弘扬者，为构建风清气正的网络生态贡献积极力量。另一方面，我国语言文化既博大精深又纷繁复杂，对数据采集、筛选、处理等过程的要求更高。在中文大语言模型研制中要始终坚持在党的领导下统筹推进，最大化整合资源，实现地方高校、档案馆、语言文字工作委员会等协同联动，充分纳入文言文、少数民族语言、各地方言的数据集，全力克服算法偏见，确保结果客观准确，真正做到生活化、本土化与智能化。

第三，坚持人民至上，注重科技进步与回馈社会相统一，努力规避ChatGPT因商业利益、资本逐利产生的算法公正性和透明性难题，重塑人工智能工具属性，实现价值理性回归，满足人民美好生活需要。生成式人工智能在教育、医疗、出版等领域具有广泛的应用前景，但受制于资本利益和西方意识形态的规限，ChatGPT的效能在中国无法得到充分发挥。我国大语言模型的研制绝不能使其成为追求商业利益的工具，而要以满足人民群众需求为目标导向，适当向数字弱势群体倾斜，使科技成果真正普惠社会大众。同时，要注重创造性开发适用于不同行业领域和受众对象的算法版本，以更好地满足不同人群的专业性需求，最大化发挥其社会效用。“算法黑箱”导致的智能算法公正性难题极大地影响了算法结果的可信度，使算法滥用、错用导致的社会危害难以追责问责。“算法透明是倒逼平台自律、培育用户理性、建构问责机制的技术基础和必要前提”［12］。因此，我国ChatGPT的研发要始终秉持开放、共享、公開的原则，积极接受社会大众的意见与建议，对算法设计作出尽可能详尽的解释，以确保其意识形态立场坚定，实现其持续创新发展。

第四，面对人工智能发展速度“狂飙”、应用场景广延、各国角逐激烈的时代背景，我们要在注重人才培养、建设科研创新平台、全面提升专业能力基础上，加强对外交流与合作，击破西方的技术封锁，实现AI技术的共同发展与成果共享，以人类命运共同体的理念推动中文大语言模型等人工智能应用造福全人类，使所有个体在与飞速迭代的智能算法技术的深度交互中达成整体和谐。一方面，“人才是第一资源”［19］（P34），要健全生成式人工智能的人才培养模式，推动“产—学—研”三方联动，为中文大语言模型等人工智能开发持续输送尖端人才。高校要加大人工智能相关专业的招生规模，以国家需求为基础细化研究方向，积极与科技企业、研究院所等达成紧密合作，通过开展实践教学快速提升学生专业素养，使其逐步成长为我国强人工智能领域的中坚力量。另一方面，面对当前人工智能领域中“技术霸权”国家凭借其垄断地位肆意掠夺剩余价值的状况，我国要“争取更多的发展中国家朋友，打破美国的‘技术民主联盟’”［20］。同时，加快科技研发步伐，在互信互利的基础上分享数据、共享人才、同享成果，合力制定人工智能领域的国际规章，填补制度空缺，推动全球范围内人工智能的深度应用，助力人类社会大踏步走向强人工智能时代。

面对ChatGPT的时代巨浪，我们既不能以闭锁的态度将其拒之千里，也不能毫无防备地张开怀抱使自己遭受冲击。ChatGPT是具有许多全新特点的生成式人工智能，但这并不能改变它以“0”和“1”为底层架构、身处“赛博”空间之中的程序本质。与所有算法程序一样，它“或许在原初的数学原理和基础构想上是中立的，但一旦它接触到不同语料库、不同的用户，算法被不同赋值、定义、变换，其意识形态的独特价值就昭然若揭了”［7］。面对人工智能技术飞跃式发展带来的机遇与挑战，要着力“推进数据基础制度建设”，全力解构其潜在风险，促进“数据资源整合共享和开发利用”，建构我国的大语言模型等人工智能算法，在此基础上扎实“推进数字中国、数字经济、数字社会规划和建设”［21］，以赋能中国式现代化，为中华民族伟大复兴增添新动能。

参考文献：

［1］［美］赫伯特·马尔库塞.单面人［M］.长沙：湖南人民出版社，1988.

［2］马克思恩格斯文集（第一卷）［M］.北京：人民出版社，2009.

［3］张华平，李林翰，李春锦.ChatGPT中文性能测评与风险应对［J］.数据分析与知识发现，2023，（3）.

［4］蓝江.ChatGPT是否会吞噬我们的剩余快感——人工智能时代的病理学分析［J］.武汉大学学报（哲学社会科学版），2023，（4）.

［5］张生.ChatGPT：褶子、词典、逻辑与意识形态功能［J］.传媒观察，2023，（3）.

［6］邹开亮，刘祖兵.ChatGPT的伦理风险与中国因应制度安排［J］.海南大学学报（人文社会科学版），2023，（4）.

［7］蓝江.生成式人工智能与人文社会科学的历史使命——从ChatGPT智能革命谈起［J］.思想理论教育，2023，（4）.

［8］何哲.人工智能会形成新的专制吗？——人类政治的历史与未来［J］.中共天津市委党校学报，2018，（6）.

［9］中共中央文献研究室.习近平关于社会主义政治建设论述摘编［M］.北京：中央文献出版社，2017.

［10］张夏恒.ChatGPT的政治社会动能、风险及防范［J］.深圳大学学报（人文社会科学版），2023，（3）.

［11］温晓年.ChatGPT的意识形态风险审视［J］.西北民族大学学报（哲学社会科学版），2023，（4）.

［12］陈力钧，陈志勇.意识形态的算法风险及治理路径研究［J］.中共天津市委党校学报，2022，（3）.

［13］周洪宇，李宇陽.ChatGPT对教育生态的冲击及应对策略［J］.新疆师范大学学报（哲学社会科学版），2023，（4）.

［14］王延川，赵靖.生成式人工智能诱发意识形态风险的逻辑机理及其应对策略［J］.河南师范大学学报（哲学社会科学版），2023，（4）.

［15］姜泽玮.功能局限、关系嬗变与本体反思：人机传播视域下ChatGPT的应用探讨［J］.新疆社会科学，2023，（4）.

［16］习近平.让多边主义的火炬照亮人类前行之路——在世界经济论坛“达沃斯议程”对话会上的特别致辞［J］.中华人民共和国国务院公报，2021，（4）.

［17］马克思恩格斯文集（第五卷）［M］.北京：人民出版社，2009.

［18］习近平.不断做强做优做大我国数字经济［J］.求是，2022，（2）.

［19］习近平.高举中国特色社会主义伟大旗帜 为全面建设社会主义现代化国家而团结奋斗——在中国共产党第二十次全国代表大会上的报告［M］.北京：人民出版社，2022.

［20］黄日涵，姚浩龙.被重塑的世界？ChatGPT崛起下人工智能与国家安全新特征［J］.国际安全研究，2023，（4）.

［21］中共中央国务院印发《党和国家机构改革方案》［N］.人民日报，2023-03-17.

责任编辑：梅少粉

From Deconstruction to Construction： The Generation Mechanism and Response Strategies of ChatGPT’s Ideology

Yao Jianjun， Cui Yuhang

Abstract：ChatGPT is a new turning point in the development of artificial intelligence. While creating new communication entities and changing the pattern of information production， it poses new risks and challenges to China’s ideological security. To address the changeability and ideological hidden dangers inherent in ChatGPT， we need to deeply deconstruct the western value system that runs through its entire process of original algorithm design， initial data collection， and subsequent evolutionary updates， and to understand the ideological nature under the guise of  “neutrality and objectivity”. We should clarify the specific ideological representations of ChatGPT in terms of capital operation logic， feedback discourse construction， and assistance in computational propaganda. We should promote the users to deeply grasp the ideological tendencies of ChatGPT， mobilize social forces to comprehensively strengthen the guidance of value shaping， and on the basis of effectively responding to potential risks and fully utilizing tool efficiency， be guided by socialist ideology， accelerate the construction of a large language model with Chinese characteristics and style.

Key words：ChatGPT， ideology， artificial intelligence， technological alienation， risk governance