人工智能时代网络主流意识形态安全风险治理对策研究

［摘" 要］" 人工智能作为新一轮产业革命的核心驱动力，以其核心技术算法、算力和大数据深刻改变了网络意识形态领域。人工智能技术的不断开发和应用，使得网络空间的意识形态斗争变得更加复杂化、隐匿化、多样化，网络主流意识形态安全建设任务更为艰巨。人工智能技术与网络主流意识形态建设呈现双向互动的关系，人工智能技术赋能网络主流意识形态安全建设，网络主流意识形态安全建设为人工智能技术的互联网应用提供价值规范指引。人工智能技术异化效应与互联网“去中心化”价值取向耦合共振，使得网络主流意识形态呈现价值偏差、引领乏力、权威弱化的风险倾向。采取坚定马克思主义的指导地位、坚持培育社会主义价值共识、强化对人工智能的技术赋能、完善相应的制度体系等综合治理之策，有利于科学有效应对人工智能技术带来的意识形态安全风险，增强网络主流意识形态吸引力和凝聚力，营造风清气正的网络生态。

［关键词］" 人工智能：意识形态：安全风险：治理对策

［中图分类号］D64" ［文献标识码］A" ［文章DOI］10.15883/j.13-1277/c.20240506409

［收稿日期］

2024-05-09

［基金项目］" 2019年度国家社会科学基金重点项目“新时代我国网络意识形态安全建设研究”（19AKS012）的阶段性研究成果

［作者简介］" 刘永志（1978—），男，内蒙古乌兰浩特人，博士，燕山大学马克思主义学院教授，河北省中国特色社会主义理论体系研究中心特约研究员；史业达（1999—），男，河北秦皇岛人，燕山大学马克思主义学院硕士研究生。

“人工智能是通过算力基础设施，通过算法处理输入数据，通过软件或硬件等多元集成方式嵌入系统后输出，或者在具体的场景中输出对人类某种理性功能的模拟状态，并在不断修正中，完成预设的信息任务。”［1］作为其核心技术的算法、算力和数据库通过不断更迭和应用，将使人类的生产生活方式产生一场颠覆性的革命，在推动人类社会发展的同时，也为网络主流意识形态带来了更隐性的风险和挑战。从本质来看，人工智能作为一种新的技术工具依旧是由人来创造的，这就不可避免地会嵌入开发者的价值表达，因此其无法作为完全客观中立的创造物而存在。海德格尔在《技术的追问》中认为“技术是合目的的工具”以及“技术是人的行为”［2］。法兰克福学派认为“科学技术不仅成为人的行为方式的控制工具， 更加以意识形态的形式掌控着人的思维模式， 借文化工业实现对社会大众的全面禁锢。”［3］仿佛科学技术的存在就带着“虚伪的面具”，其把人异化为缺乏能动性的脱离了社会关系的存在物，并通过与资本利益集团的合谋影响控制着人们的行为准则与价值取向。而人工智能作为当今先进生产力的代表技术，已然成为了网络主流意识形态建设最不可预测、最具重要性的变量。人工智能技术与网络主流意识形态呈现什么样的关系？人工智能技术的开发应用会给网络主流意识形态建设带来怎样的风险与挑战？人工智能背景下网络主流意识形态风险如何应对？思考并回应这些问题，从而更好地利用人工智能技术建设网络主流意识形态、维护网络意识形态安全、确保国家总体安全，具有重要的现实价值和时代意义。

一、 人工智能技术发展与网络主流意识形态安全建设

“科学技术作为‘背景意识形态’构成意识形态整体结构中的隐性层面，以潜移默化的方式发挥作用。”［4］因此，人工智能技术的意识形态偏向及其价值观偏向将对网络主流意识形态建设产生重要的影响，并且呈现出隐蔽性特点，难以察觉。但是，网络主流意识形态并非完全被动式地接受人工智能技术的消解以及操控，而是对人工智能技术生成反制作用力，规制人工智能技术的良性发展，二者呈现出双向互动的作用关系。

（一） 人工智能技术赋能网络主流意识形态安全建设

相比借用传统网络技术来进行主流意识形态的建设，人工智能呈现出新特点。因此如何利用人工智能技术来推动我国网络主流意识形态建设就成为了一项非常有意义的议题。

首先，不同于以往无序的网络信息生产以及分发模式，人工智能的算法、智能识别以及语言翻译等技术深度融入网络主流意识形态的传播、生产、治理领域，为提升网络主流意识形态建设的“精度”，可以从以下几个方面着手：第一，在网络意识形态的信息传播方面，人工智能的算法推荐技术能够洞察不同网络用户的需求从而推送个性化网络主流意识形态内容，打破了以前信息用户在繁杂的网络空间寻找所需内容的被动局面，实现了从“人找信息”到“信息找人”的技术跨越。通过更为个性化的网络主流意识形态推送，不仅能够大幅度提升网络主流意识形态信息推送的范围以及效率，提升网络主流意识形态建设的速度和效果，并且能够打破官方话语与民间话语的传播隔阂，使得网络意识形态的作用最大化，从而确保我国意识形态安全。第二，在网络信息生产领域，“人工智能技术的应用已经完全突破了传统新闻业的形态和思维”［5］。人工智能技术使得信息采写、信息编辑等领域取得了巨大的发展，人工智能可以借助其大数据以及翻译技术来获得网络上国内外的新信息，并且利用其识别技术生成信息内容，为网络意识形态工作者提供巨大的便利，如此不仅可以解放网络主流意识形态工作者的工作时间，还能使其借助人工智能技术创作更优质的内容，弘扬网络主流意识形态。第三，在网络主流意识形态治理方面，人工智能利用机器智能识别人类面部信息特征以及视觉系统，并把采集的用户信息存储入库，从而在网络主流意识形态建设过程中全方位地检测网络舆情的实时动态，自主洞察网络传播中的不实言论，并通过算法技术自动识别删除网络虚假信息，从而极大提升网络信息治理的效率、主流意识形态建设的效果。在各大短视频平台以及媒体平台活跃着大量的网络用户，网络信息内容增多、传播加快，增加了西方错误思潮煽动国内网民的风险。通过智能识别以及算法技术筛查各平台视频以及文章的点赞、转发、评论，能够在短时间内锁定网络舆论的信息源头，从而防止非理性情绪的扩散以及遏制网络舆论危机。

其次，人工智能技术搭建的虚拟场景和新的交互方式正逐渐成为广大用户交流和体验的新方式。传统意识形态的表达更多呈现出理性、结构化、宏观的叙事特点，人工智能的出现打破了传统的叙事方式，更多体现出生活化、沉浸式、场景化的新特点，丰富了网络意识形态话语权的表达方式，拉近了网络主流意识形态与民众现实生活的距离，使得网络主流意识形态的表达更具“温度”。在人工智能技术的赋能下，百度文心一言、OpenAi、小爱同学等以人机交互为主要特点的“聊天机器人”席卷互联网空间。这些软件以自身数据库、语言处理、智能分析、智能推演为技术基础，以聊天对话的形式生成内容，对话的场景和人与人之间的交流类似，满足了用户的情绪价值。虽然其可能忽视内容的正确性以及真实性，容易营造出介于谎言与真相之间、背离客观的“第三现实”［6］，但确实极易产生价值共鸣。在这一背景下，人工智能所提供的情绪价值正在被多元价值主体的网络用户所青睐。人工智能通过人类语言习惯的模仿以及语言逻辑的完善，利用自身数据库的不断更迭以及自我学习能力的不断生成，拼接各类涉及网络意识形态的内容，形成了具备人机交互能力的智能模型。网络用户通过这种对话的方式，更加沉浸式、生活化地参与网络主流意识形态的传播过程，并且能够在互联网平台，如抖音、快手、微博等社交平台分享网络主流意识形态的解读以及体会，从而为提升主流意识形态的价值共识奠定基础。人机交互智能叙事的生动性、交互性与逻辑性，拉近了主流意识形态与广大网络用户群体的距离，丰富了网络主流意识形态表达方式，并使其焕发出新的生机与活力。

最后，人工智能技术的深度赋能使得网络意识形态的传播不再受地域以及时间的限制，并且能够营造出立体的主流意识形态场景，使得广大网络用户能够更好地参与到网络主流意识形态建设中来。这不但提升了网络主流意识形态的辐射范围，并且增强了其传播的效果和传播的“维度”。人工智能时代，VR、AR、XR等多维立体的沉浸式体验获得大家的喜爱，打破了曾经的二维传播方式，使得用户由单向体验变为视觉、听觉、触觉等多方位体验，以更深刻、更立体、更沉浸的方式感受网络主流意识形态的吸引力、凝聚力、向心力，极大地迎合了大众在虚拟空间的情感、价值、心理等方面的需求，从而激发情感共鸣，增强主流意识形态的扩散度和影响力，广大用户也能够自觉地接受网络主流意识形态的价值引领，切身增强对网络主流意识形态的价值认同和情感认同，推动网络主流意识形态的发展。

（二） 网络主流意识形态安全建设为人工智能技术的互联网应用提供价值指引

从宏观角度来说，人工智能技术给网络空间带来的变化主要体现在信息生成、信息传播、信息反馈领域。而人工智能技术作为科学技术有其意识形态的属性，决定了其可能给网络空间带来新的意识形态风险，但也可以被网络主流意识形态所规制。网络主流意识形态归根到底是网络实践发展的产物，作为一种实践活动，网络主流意识形态建设有其自身的发展规律，并且可以对人工智能应用施加反作用，使得智能技术遵循正确的价值观和法理规则为人服务。

第一，网络主流意识形态引导人工智能技术开发以及信息生成领域坚持“以人为本”的价值原则。人工智能技术的开发与应用具有巨大的经济效益，技术的开发应用在改善人的生活的同时也容易逐渐使人沦为技术的附庸。为此，应该主动加强网络主流意识形态的价值引领，落实“以物为用”“以人为本”的价值原则，使技术真正为人服务。一方面，网络主流意识形态应积极引导人工智能技术的开发以及应用，落实人本原则，使得技术“阶梯式”地融入网络空间和生活空间，真正做到技术为人服务，避免因巨大的经济效益而导致技术的无序发展，进而导致难以预料的网络意识形态风险。另一方面，网络主流意识形态可以在信息生成领域提供价值引导，减少伴随人工智能技术扩大信息增量所产生的不实言论和虚假信息，避免背离人本原则的“流量至上”逻辑蔓延网络空间。同时应将“以人为本”原则作为算法底层逻辑，避免人对于技术的过分依赖造成人的主体性缺失和“新异化”。坚持“以人为本”的价值引导，才能真正使网络主流意识形态牢牢占领网络高地，才能持续驯化人工智能技术，才能把人本原则落到实处，使技术真正服务于人。

第二，网络主流意识形态规制信息传播领域，人工智能技术使得信息传播的广度、深度、速度、精度都得到了提升，同时也使得大量偏离网络主流意识形态的内容被推荐，在人工智能应用下产生的“信息蚕房”与“流量至上”等平台乱象，严重背离了网络主流意识形态所坚持的价值导向。通过网络主流意识形态的建设和完善，能够在社会价值共识层面赋予算法信息传播秩序性以及合理性，对人工智能背景下的信息传播进行方向引导、内容规范、接收监督，从而将主流意识形态的价值融入信息传播全过程，确立网络主流意识形态对人工智能信息传播的理论指导以及价值指引，实现价值理性与工具理性的辩证统一。

第三，网络主流意识形态完善信息监督以及信息反馈，增强主流舆论话语权。主流意识形态可以借助算法等技术实时了解人工智能背景下的大量信息反馈、不断评估总结工作成效，助力主流意识形态突破舆论场的“杂音”和“噪音”，逐步增强话语主动权，更大程度凝聚社会价值共识。为此，应积极推动主流意识形态与信息反馈的融通，扩大覆盖范围。一方面，人工智能背景下的网络信息借助算法优势，使得西方错误思潮以及泛娱乐主义正隐蔽地渗透入我国网络平台。主流意识形态要积极与各类算法平台融通合作，建设一张覆盖广、程度深的信息监督网，规训算法技术良性运作，使其坚持正确的政治立场、价值共识、舆论导向。另一方面，要利用技术优势为信息反馈服务。人工智能背景下的大数据库不是简单的信息集合，而是饱含着网络用户的情感需求和价值取向。要借助大数据、信息分发等技术手段收集用户的思想状态和情感需求作为信息反馈，并以此完善主流意识形态工作，契合多元用户的实际需求，推送正能量的主流价值内容，从而将人工智能技术优势转化为教育教化的优势，使主流意识形态深入人心。

二、 人工智能背景下网络主流意识形态安全面临的风险挑战

马克思认为技术不仅是物质形态的存在，也是历史性的社会关系的存在，新兴技术是特定历史关系的生产方式，不能离开社会关系以及经济、文化、伦理、价值等因素而独立发展。因此，人工智能作为当代新兴技术仍属于马克思科学技术观的理论范畴，也必然是一把双刃剑，一定会带来涵盖社会关系以及经济、文化、伦理、价值等多方面的风险与挑战。尤其在网络空间，一旦人工智能技术失去了正确的价值导向与资本和权利集团结合，将极易给网络主流意识形态造成价值偏差、引领乏力、权威弱化的风险。

（一） 网络主流意识形态价值偏差的风险

人工智能背景下衍生的智能算法、大数据库、多语言模型、人机交互模式在网络空间拥有广泛的应用范围，并且能够通过自我学习来模仿人的聊天方式，这使得其在操控网络用户的价值观方面具有先天优势，容易造成“国家偏见”“文化偏见”“个体偏见”的问题，进而造成网络主流意识形态价值偏差风险。

首先，算法作为人工智能时代的新媒介技术，在信息分发过程中发挥着重要作用。但是其原始数据依旧是人工标注完成的，这就导致算法容易被内嵌入开发者的价值观念，产生意识形态偏见。美国OpenAI作为人工智能技术的先驱，前期投入大量经费研发，因此其背后股东无法避开逐利的资本逻辑。OpenAI在隶属关系上对美国国家安全部负责，且服务器由美国控制。因此人工智能技术在发展中与权利、资本复杂地交织在一起，极易隐蔽地输出西方所谓的“普世价值”观念，影响公众意识形态立场，加重国家偏见，从而为西方错误思潮的网络传播培育土壤，威胁网络主流意识形态价值安全。

其次，人工智能的数据库收集了全球的互联网信息，包括多国语言数据，比如英语、汉语、法语、阿拉伯语等。而资料显示，英语在全球互联网信息的占比达59.3%，远超其他语言的信息量，且在多语言训练中，“英语的占比达92%、法语占1.8%、汉语占0.1%”［7］。不同国家在语言表达上各有特点，因此人工智能在如此不协调的语言数据训练和收集中，极易造成语言文化上的冲突和矛盾，导致“文化偏见”。由美国OpenAI开发的ChatGPT表面没有任何政治立场，但是本质上却裹挟着美国的文化霸权思想，“如果使用英语和中文同时测试，可能由于ChatGPT 所用文本数据英文体量远超中文，因此英语答复看似更为准确”［8］。因此，更多用户不得不使用英语向人工智能模型提问，久而久之将不可避免产生对英语文化的认同，逐渐淡化对本国本民族的文化认同和文化自信，从而动摇网络主流意识形态价值根基。

最后，无论人工智能技术更迭到何时，其本质依旧是人创造和控制的，不具备真正意义上的人的意识。从最初的底层代码到模型训练以及最后的应用，每个阶段都离不开人的影响，因此，人工智能模型无论以何种形式应用，都避免不了被人固有的价值观和意识形态等因素影响。例如，人工智能已经表现出一定的宗教偏见，在23%的测试案例中，人工智能将穆斯林直接类比为恐怖分子［9］。人工智能模型容易在训练数据集中继承人类社会固有价值偏见和文化差异，并进一步强化这种偏见，带来未知风险。同时，人工智能衍生的人机交互模式，使得人工智能可以模仿人的表达方式、分析人的诉求并进行强化学习、完善答案，但是算法互动的对象一旦提供了具有偏见的新数据，就很容易产生有害输出，给网络安全造成危害，并使得用户的个体偏见加重人工智能的内容偏见和价值偏见。

（二） 网络主流意识形态引领乏力的风险

智能技术的发展和应用交织着利益与权利的复杂关系，智能技术在应用网络空间不可避免会受到资本的影响甚至被权利集团控制，同时，智能技术的快速发展可能会滑向“技术利维坦”，不仅极易破坏健康的网络空间风气，也容易导致网络主流意识形态引领乏力的困境。

人工智能技术的开发离不开背后的资本消耗，因此其技术的应用将极大激发资本的逐利性和资源的侵蚀性。在利益的驱使下，各种自媒体平台发布虚假信息和娱乐信息来博人眼球、获得流量，不仅为泛娱乐主义带来经济效益，也为敌对势力借助错误思潮争夺网络空间提供机会。一方面，资本在智能技术的加持下不断放大文化产业的娱乐功能，在互联网媒体中娱乐新闻的关注度往往要高于传统的民生要闻。此外，新的技术形态也催生了新的泛娱乐形态，部分企业甚至对我国优秀传统文化进行泛娱乐改造，加剧了历史虚无主义等西方错误思潮的扩散，使得网络主流意识形态引领乏力。资本通过人工智能技术的加持迎合了部分青年用户不成熟的心理。其利用高效的信息生成、智能识别与算法推荐等技术将虚假、低俗、庸俗等内容传播给用户，使得网络空间充斥大量泛娱乐内容。“正能量”“有意义”的主流内容被边缘化，甚至部分青年沉溺于泛娱乐内容之中，从而产生“躺平”“摆烂”等消极价值观，进一步阻碍了网络主流意识形态的引领。另一方面，资本的天然逐利性使得其不断扩张“空间市场”，进而利用人工智能技术侵入“网络空间”操纵网络舆论话题，使得部分社会问题扩大化、极端化，严重威胁国家网络安全。从国际角度看，国际资本垄断集团利用数据掌控以及硬件垄断等技术窃取用户的隐私信息，打压他国的技术创新。以资本力量实现科技霸权，进而入侵他国网络空间，威胁他国网络信息安全，从而使得网络主流意识形态引领力遭受冲击。

马克思指出，“自然科学通过工业日益在实践上进入人的生活，改造人的生活，并为人的解放作准备，尽管它不得不直接地使非人化充分发展。”［10］技术变革作为科学的进步同样具有两面性。因此，人工智能技术在网络领域的应用容易导致网络意识形态产生“技术利维坦”的风险，进而弱化网络主流意识形态的引领。首先，算法推荐技术通过对信息的筛选和过滤，为用户提供满足其偏好的信息内容，因此用户的思想会被同质化内容所限制，很难完整地了解事物的真相，从而导致“信息茧房”现象加剧，进而使得网络主流意识形态信息陷入信息孤立，制约其引领力。其次，机器学习技术加剧了“数字鸿沟”的风险。信息利益团体可以通过新的技术手段控制数据、把握算法，最终使得部分弱势群体被排除在网络主流意识形态引领之外。因此，人工智能技术不仅可以作为利益集团实行“话语霸权”的工具，也容易降低技术弱势群体的诉求表达以及网络主流意识形态的引领力。最后，人工智能技术深刻影响议题设置和议题选择，从而直接影响网络用户对事件的理解与认知，进而分化网络主流意识形态的引领力。“聚类算法”对信息的分化冲击了网络主流意识形态的话语权威，“呈现出供给侧的‘圈层分化’、需求侧的‘圈层极化’和生态链的‘圈层固化’三种样态”［11］，弱化主流媒体的议题设置和议题选择。大量议题经过舆论发酵和价值引导，极易造成舆论风险，严重影响网络主流意识形态传播和引领，甚至威胁国家政治安全。

（三） 网络主流意识形态权威弱化的风险

智能技术在网络空间的应用，使得西方错误思潮裹挟着现代技术逐步稀释着网络主流意识形态的权威，也使得网络空间产生大量片面化、非理性、浅显化的信息内容，造成供给失衡，甚至形成信任危机，弱化网络主流意识形态权威。

人工智能时代，算法推荐技术、语言平台、信息深度伪造以及机器学习等技术裹挟着历史虚无主义以及民粹主义等西方错误思潮隐蔽地融入网络空间，并谋划“新型颜色革命”，企图以舆论战、心理战以及信息战等形式降低公众的政治认同，弱化网络主流意识形态权威。西方敌对势力利用算法推荐技术在国内外社交媒体上进行精准输出以及价值渗透，灌输错误思潮，弱化文化自信、民族认同和历史观认同；或利用语言平台以及信息深度伪造技术来煽动网络舆论，传播恶意抹黑政府的虚假事件，破坏主流媒体的公信力；或利用机器学习技术，在Twitter、YouTube等社交媒体上大肆制造“中国威胁论”“中国赔偿论”“侵犯人权论”等负面舆论，恶意抹黑国家形象和社会制度，煽动民众的极端化表达。这些错误思潮基于主观唯心主义，并借助科技霸权直接影响网络用户的意识形态立场，稀释了我国主流意识形态权威及认同。

人工智能时代网络意识形态供给与新的拟态环境发展的不平衡，导致大量片面化信息融入社交媒体，网络意识形态在拟态环境中呈现出多种观点各持己见的复杂状态。第一，网络意识形态信息传播的碎片化和浅显化减弱了主流意识形态传播的效率。其又通过大数据以及算法技术加剧了碎片以及无序的信息在网络空间泛滥甚至失控的风险。此外，大量热点话题往往聚焦于感性层面，在人机交互的作用下，许多用户难以对信息进行理性判断，导致大量非主流意识形态趁虚而入，进而严重威胁网络主流意识形态的权威性。第二，网络主流意识形态宣传媒体的供给具有多样性和非协调性特点，增加了整合网络多元价值观念的难度，容易造成主流意识形态“失语”的风险。多元价值观念是人工智能时代发展呈现出的新特点。各级政府、企业事业单位以宏大叙事观方式传播网络主流意识形态，但传播方式和手段较为单一。在价值倾向多元和信息传播快速的人工智能时代，部分网民群体的力量也不容忽视，当部分群众的个人现实需求未得到满足时，他们就很容易借助技术平台在网络空间作出错误的价值判断，甚至产生舆论决堤，引发对主流媒体的信任危机，稀释主流意识形态权威。

三、 人工智能背景下网络主流意识形态风险治理对策

马克思充分肯定科技对历史发展的积极作用，但同时也说“技术的胜利，似乎是以道德的败坏为代价换来的”［12］。马克思的科学技术观是今天中国共产党人应对科技风险的理论之源。习近平总书记强调人工智能发展要在“充分放大和加速其正面效应的同时，把可能出现的负面影响降到最低”［13］。因此，面对人工智能技术给网络主流意识形态带来的风险和挑战，必须主动出击、打好主动仗。坚持马克思主义理论推动为智能过渡、培育价值共识为智能遵循、强化技术赋能为智能增量、健全制度为智能保障。系统地应对人工智能背景下的风险与挑战，确保人工智能技术朝着有益于网络主流意识形态建设的方向发展。

（一） 坚持理论指引，推进网络主流意识形态安全建设的“智能过渡”

马克思主义是我们立党立国的根本指导思想，同时也是意识形态的旗帜与灵魂。党的二十大报告强调：“要坚持马克思主义在意识形态领域指导地位的根本制度。”［14］坚持马克思主义在意识形态领域的指导地位，是保障智能背景下网络主流意识形态话语权的前提。理论发展的动力源于社会矛盾和问题的现实要求。因此，人工智能背景下应坚持马克思主义理论指导，使主流思想融入智能技术、智能产品之中，实现对传统宣传模式和内容的智能过渡，最终打造智能背景下坚实的网络文化阵地，增强智能时代网络主流意识形态的凝聚力。

智能技术在互联网领域的开发和应用应该把为人服务作为价值根本，而不是由资本以及权利集团驱动，否则会在应用网络空间时造成信息量增加、信息内容质量下降，“流量为王”致使网络主流意识形态出现价值偏差，甚至多元价值思想并立。因此，在智能技术研发和应用过程中应坚持以人为本的价值维度，使得技术真正为人实现自由而全面发展服务。同时，促进马克思主义和人工智能技术与产品的融合，要将马克思主义作为数据收集和智能算法的底层逻辑，在输入端保证信息大量生成又体现主流思想，提升主流意识形态内容质量，增强马克思主义思想的传播效率；在输出端使得智能产品为主流思想服务，弥补宏大叙事观和公众的距离感，改善网络空间氛围，增强主流思想对网络舆论的掌控力，提升为人民服务水平，体现党的意志，宣传党的主张。

群众路线是马克思主义理论关于人民是历史创造者的原理同中国具体实际相结合形成的理论成果。人工智能时代，应继续坚持群众路线，借助智能技术打造群众喜闻乐见的网络主流意识形态内容以及更有亲和力的传播方式，以供给侧改革稳定需求端。“新时代意识形态工作迫切需要突破传统模式，以日常生活为切入点，细腻而准确地聚焦人民的现实需求，实现生存论转向，确立意识形态工作的新模式。”［15］面对人工智能时代网络主流意识形态面临的诸如内容冲击、主体失声、传播形式单一等困境，应充分利用智能识别、数据库和算法等技术深入挖掘优质主流内容，并创新网络意识形态传播方式。在内容层面，依托人工智能技术将用户感兴趣的“个性内容”以及网络热梗新词融合到主流意识形态内容中，增强感染力和亲和力，使得主流内容创作从群众来、到群众中去，筑牢内容根基，“避免用户迷失在碎片化、浮泛化、无序化的‘信息池’中”［16］。在传播方式上积极应用人机交互、虚拟现实、AR、VR等智能技术，提升用户多感官体验，丰富传统的宏观叙事方式。鼓励用户积极参与主流媒体议题，并运用人工智能整合建议，针对性反馈网络群众对主流媒体的需求，使得网络主流意识形态传播更温暖，最终扩大主流意识形态在网络空间的主导力和影响力。

“我国正处于人工智能技术革新的关键时期，我们肩负着巩固文化主体性的时代使命，而对文化传统、价值观念、精神信仰的坚持与发展，即为文化主体性的重要体现。”［17］人工智能数据库中英语训练量远大于汉语和其他语言，这不仅给错误思想入侵提供了土壤，更对我国网络主流文化造成冲击。因此，应将中华优秀传统文化、革命文化和社会主义先进文化的优秀文化元素嵌入智能产品研发与应用过程中，以公众熟悉的文化氛围，在长期的使用和熏陶中增强民族凝聚力和文化自信，巩固我国网络文化阵地。

（二） 强化价值引领，保证网络主流意识形态安全建设的“智能遵循”

社会主义核心价值观是社会主义核心价值体系的精神内核，是社会发展的基本价值导向，也是智能时代维护网络意识形态安全的必然要求。因此，要以社会主义核心价值观为价值引领，培育公众理性思维，使其认清智能技术的本质，破除西方错误思潮和不良网络氛围的影响，以正能量价值观念和伦理准则规范人工智能技术健康发展、应用，提升网络主流意识形态的向心力。

要培育公众的理性思维，增强判断力。人工智能技术在给生活带来便利的同时，也增加了公众对智能技术的依赖感，久而久之两者的认知趋同将使得公众丧失自身的理性思考和判断力，造成网络主流意识形态边缘化。因此，应提高公众的批判思考能力，由国家开展、社会配合、个体参与。习近平强调：“党校要对各种社会思潮的辨析和引导，不当旁观者，敢于发声亮剑。”［18］开展周期性的人工智能讲座，科学认识人工智能产品，了解其运作的逻辑和专业知识。帮助公众理性看待智能技术，杜绝盲目崇拜，增强辨识能力，识别虚假信息，提高风险警觉性。人工智能技术在资本的加持下以美国的OpenAi为技术主导，领先的智能技术裹挟着西方的错误思潮，加之美国的战略支持，很容易对我国网络空间以及网络舆论方面造成负面影响。因此，要使公众的智能认知水平与智能技术的更迭速度相匹配，了解技术背后的资本运作，认清某些网络信息的价值取向，从个体角度杜绝错误思潮的影响，使广大群众也成为网络主流意识形态的一道防线。

要始终坚持社会主义核心价值体系作为网络主流意识形态发展的价值共识。“数字化媒体平台是社会主义核心价值观融入算法推荐能够落到实处的现实载体”［19］，要以此作为人工智能融入网络空间的价值引导。通过综合应用智能算法、人机交互、虚拟现实等智能技术吸纳、整合网络空间积极和正面的观点与伦理道德，积极宣传“正能量”的价值共识，使人工智能在社会主义核心价值体系的指引下为巩固网络主流意识形态提供“最大增量”。面对外部错误思潮造成的网络主流意识形态权威弱化，要利用好社会主义核心价值观这一思想武器，通过主流宣传、理论熏陶、实践培养将其融入网络主流意识形态建设的智能应用场景，纠正“泛娱乐”的不良价值取向，抵御西方虚假信息的理论迷雾。

（三） 加强技术赋能，扩大网络主流意识形态安全建设的“智能增量”

习近平指出：“努力在人工智能发展方向和理论、方法、工具、系统等方面取得变革性、 颠覆性突破，确保我国在人工智能这个重要领域的理论研究走在前面、关键核心技术占领制高点。”［20］网络安全的本质在对抗，而核心技术的开发和应用则是维护网络主流意识形态发展的关键，因此，应基于人工智能的技术核心，在数据库方面加强内容引领、数据网建设、底层逻辑建构。在算法方面加强人才培育，内容引领、监督、审查。在算力方面鼓励智能芯片研发，开发强大算力破除西方科技霸权。这样才能使智能技术在开发和应用中为网络主流意识形态的发展提供强大支撑力。

首先，在人工智能数据收集方面要嵌入主流意识形态，从技术根源解决人工智能给网络主流意识形态带来的价值偏差风险。数据库作为智能技术的运作基础，也是造成国家、社会、个人价值偏见的根源。第一，要将主流思想融入智能数据库，提升主流意识形态的传播力。在各类人工智能产品的数据库集中融入主流意识形态，形成符合中国国情的数据网。保证人工智能产品符合主流价值导向，并对公众思想进行正确引导。避免出现价值观多元偏差、群体极化等现象，以防威胁网络主流意识形态安全。第二，要把握数据的底层逻辑，丰富主流意识形态的发展方式，拓展主流意识形态生存空间，借助智能技术率先占领智能领域话语主导权，丰富主流网络内容建设，构建主题多样的主流传播场景，从而避免资本把持下的智能传播成为脱缰野马，防止泛娱乐主义、低俗内容等吸人眼球的流量信息影响人的健康全面发展。

其次，加强对算法推荐技术的人工审查。算法是人工智能技术的灵魂，在看似中立客观的算法推荐背后，其实隐藏着对舆论的引导、虚假信息的生成以及信息的双标效应。“算法本身暗含着复杂的权力关系，其实质是权力关系运作的产物。”［21］因此，牢牢掌握算法主动权十分关键，一是应该培养新型算法人才，以人才优势掌握算法主动；二是要严格监督算法推荐的内容，要以平台为主体，依据自身对信息资源的阈值，对偏离主流价值的内容及时过滤删除，对“正能量”内容予以流量支持，使允许的算法“拥有更加宽广的伦理视角和道德感受能力”［22］；三是要推动算法分发的透明公开，各类算法平台应适当对外公布其运作机理，提高算法的透明性，减少智能技术下垃圾信息增量带来的网络主流意识形态边缘化问题。

最后，在算力发展方面要加强算力布局，加强硬件建设。一是要加强自主研发AI芯片，跳出西方“卡脖子”的困局。强大算力是人工智能发展的先决条件，据OpenAI分析，2012年至2018年的6年间，人工智能训练任务中使用的算力需求增长了约30万倍。而强大的算力来源于GPU人工智能芯片，芯片的数量和质量决定了算力的规模。从这个角度来看，占据全球GPU市场82%份额的英伟达（NVIDIA）无疑处于垄断地位，然而美国限制英伟达公司对我国的芯片出口。这就要求我们要加大自主研发高性能芯片的力度。习近平总书记强调：“应该鼓励和支持企业成为研发主体、创新主体、产业主体，鼓励和支持企业布局前沿技术，推动核心技术自主创新。”［23］应增加政策支持和引导，积极调动我国芯片龙头企业如寒武纪、海光等交流合作，破除西方硬件限制的局面。只有掌握强大的算力，才能开发出适合中国国情的、质量顶尖的人工智能技术，从而保证网络主流意识形态的安全。二是要积极推动全球范围内网络合作，打破发达国家的技术垄断，面对各国间的技术差异要积极调动各方力量，加强国家间的网络安全交流合作，求同存异，携手防范西方发达国家的“科技霸权”，从而破除西方的霸权造成的网络意识形态多元化，保证我国网络意识形态安全。

（四） 完善制度建设，提升网络主流意识形态安全建设的“智能保障”

习近平总书记强调，要“健全保障人工智能健康发展的法律法规、制度体系、伦理道德”［24］。只有健全制度，才能从根本上解决人工智能技术的资本逻辑所造成的舆论混乱、“泛娱乐”化、“技术利维坦”等网络主流意识形态风险。应依托风险分级预警、阶梯技术引进、强化法制建设、多方合作共治四个方面来为网络主流意识形态安全保驾护航。

首先，利用算法以及大数据的智能识别技术监管网络意识形态的信息领域，在各个环节实行数据监测，重点把握国内外热点话题和热点事件，依据监测数据评估风险发生概率和风险等级。同时，搭建风险分级预警机制，借鉴欧盟的《人工智能》提案，可以将风险分为不可接受风险、高风险、中风险、低风险四个级别，并制定相应的应急措施应对可能发生的舆论场域危机。

其次，人工智能技术仍在不断创新发展，在互联网中的应用也在不断深化。习近平总书记指出要“把握人工智能发展规律和特点”，这就要求相关部门要时刻学习了解人工智能的发展阶段，通过专业的技术评估，阶梯式引进相关技术，做到先审视再应用，避免完全引进而造成网络主流意识形态领域产生更多不可控、不可预测的风险。应通过阶梯式的技术引进，更好地掌控智能技术为人服务，将网络意识形态风险降到最低，避免发生“技术利维坦”。

再次，建立健全人工智能法律体系，针对性地填补智能背景下的法律空缺，提前筛查算法领域存在的风险。应重点完善算法审查机制的法律规范，严格把控算法技术，以促进其在网络空间中的健康发展，防止其成为诱发网络意识形态风险的因素。通过法治合理地规制资本和权力集团对技术的影响，打击借助人工智能技术生产虚假信息、泛娱乐化信息等危害国家安全、破坏舆论秩序的不法行为，规范智能技术的生产者和服务者在法律的范围内进行技术创新和互联网应用。

最后，政府作为信息领域的把关人和监督者，要积极构建多方联动的共治机制。通过党委领导、政府管理、企业履责、社会监督等多方参与达到协同共治，充分发挥各方力量，打造智能背景下的网络文化阵地，破解网络意识形态在实际治理过程中协调不当等问题，打破人工智能技术的资本逻辑，使得各方互相合作、总结经验，共同打造风清气正的智能化网络环境。

［参考文献］

［1］陈亮，张翔.人工智能立法背景下人工智能的法律定义［J］.云南社会科学，2023（5）：162-170.

［2］海德格尔.技术的追问［M］.上海：上海三联书店，1996：925.

［3］王文敬，洪晓楠.法兰克福学派的科学技术价值观批判［J］.科学技术哲学研究，2017（6）：100-106.

［4］俞吾金.从科学技术的双重功能看历史唯物主义叙述方式的改变［J］.中国社会科学，2004（1）：132-143，208.

［5］陈昌凤，霍婕.以人为本：人工智能技术在新闻传播领域的应用［J］.新闻与写作，2018（8）：54-59.

［6］魏俊斌.治理算法：思想政治教育网络智能环境治理的政策与趋势论析［J］.思想教育研究， 2022 （4）： 50-56.

［7］MOHAMED L S.ChatGPT： not all languages are equal［J］.Nature，2023（7951）：214-216.

［8］陈思进.ChatGPT会替代人类工作吗［J］.法人，2023（3）：9-11.

［9］STEED E A， CALISKAN A. Image representations learned with unsupervised pre-training contain human-like biases ［EB/OL］.（2020-10-28） ［2024-05-09］. http：//arxiv.org/abs/2010.15052.

［10］马克思. 1844年经济学哲学手稿［M］. 北京： 人民出版社， 2000： 89.

［11］王贤卿.社会主义意识形态面对技术异化挑战——基于智能算法推送的信息传播效应［J］.毛泽东邓小平理论研究，2020（6）： 24-31，108.

［12］马克思，恩格斯.马克思恩格斯文集（第2卷）［M］. 北京：人民出版社，2009：508.

［13］习近平.中国发展新起点 全球增长新蓝图 ［N］.人民日报，2016-09-04（3）.

［14］习近平.高举中国特色社会主义伟大旗帜 为全面建设社会主义现代化国家而团结奋斗——在中国共产党第二十次全国代表大会上的报告［J］.党建，2022（11）：4-28.

［15］闫方洁，张鸿燕.“人民需求”视角下意识形态工作的生存论转向及其逻辑进路［J］.理论与评论，2020 （6）：36-43.

［16］韩桥生，李浩.智能推荐场域中主流意识形态的传播风险及其应对［J］.思想理论教育，2023（5）： 86-92.

［17］红梅.不断巩固文化主体性［N］.人民日报，2023-10-12（9）.

［18］习近平.习近平谈治国理政：第2卷［M］. 北京：外文出版社，2017：327.

［19］崔聪.人工智能时代社会主义核心价值观融入算法推荐的逻辑理路 ［J］.思想理论教育， 2022 （6）： 88-93.

［20］新华社.习近平在中共中央政治局第九次集体学习时强调 加强领导做好规划明确任务夯实基础 推动我国新一代人工智能健康发展［J］.党建，2018（11）：1，19.

［21］喻国明，杨莹莹，闫巧妹.算法即权力：算法范式在新闻传播中的权力革命［J］.编辑之友，2018（5）：5-12.

［22］佩德罗·多明戈斯.终极算法：机器学习和人工智能如何重塑世界［M］.黄芳萍，译.北京：中信出版社，2017：202.

［23］习近平.论党的宣传思想工作［M］.北京：中央文献出版社，2020：206.

［24］习近平.推动我国新一代人工智能健康发展［N］.人民日报，2018-11-01（1）.

Research on Countermeasures for Governing the Security Risks of Mainstream Online Ideology in the Age of Artificial Intelligence

LIU Yongzhi， SHI Yeda

（School of Marxism，Yanshan University，Qinhuangdao 066004，China）

Abstract：As the core driving force of the new round of industrial revolution， artificial intelligence （AI）， with its core technologies of algorithms， computing power， and big data， has profoundly changed the field of online ideology. The continuous development and application of AI technology have made the ideological struggle in cyberspace more complex， concealed， and diversified， making the task of constructing mainstream online ideological security more arduous. The relationship between AI technology and the construction of mainstream online ideology is mutually interactive; AI technology empowers the construction of mainstream online ideological security， while the construction of mainstream online ideological security provides value norms and guidance for the internet application of AI technology. The alienation effect of AI technology coupled with the internet’s “decentralization” value orientation resonates， presenting a risk tendency of value deviation， lack of leadership， and weakened authority in mainstream online ideology. Adopting comprehensive governance measures such as affirming the guiding status of Marxism， fostering a consensus on socialist values， strengthening the technological empowerment of AI， and perfecting the corresponding institutional system is conducive to scientifically and effectively addressing the ideological security risks brought by AI technology. Enhancing the attractiveness and cohesion of mainstream online ideology and creating a healthy online ecosystem are also critical.

Key words：

Artificial intelligence technology; ideology; security risks; governance measures

［责任编辑" 刘" 冰］