网络推荐算法中的意识形态安全风险研究

摘要：随着社会信息化的加速推进以及网络技术的深刻变革，网络安全与国家安全和现代化建设产生深刻联系。当前，互联网的意识形态安全面临着全新的挑战和风险，并且互联网在意识形态安全层面走在了工作的前沿。随着我国网络进入全面信息化、智能化时代，网络推荐算法不斷更新和应用，在为人类提供便利的同时也带来了网络意识形态安全风险，可能产生价值分化、技术黑箱、主流意识形态话语权被削弱以及信息茧房等问题。文章研究网络推荐算法中的意识形态安全风险，以推进网络安全与国家安全得到保障。

关键词：意识形态;推荐算法;互联网

中图分类号：G641 文献标识码：A 文章编号：1004-9436（2021）22-00-03

意识形态关乎旗帜，关乎道路，关乎国家政治安全。“在新的历史条件下，互联网已成为舆论斗争的主战场。”[1]习近平总书记多次提到，过不了互联网这一关，就过不了长期执政这一关。据统计，截至2021年初，中国互联网用户的数量接近10亿，每个星期人均使用互联网的时间长达26.2个小时，而移动终端的使用者比例为99.7%，社交平台对全球信息传播具有极为重要的作用[2]。由此可以看出，互联网，特别是移动互联网的快速发展和传播，在人们的生活中起着关键的作用，其快速传播归功于算法推荐的普及和使用。但随着网络推荐算法在移动网络平台的大规模应用，网络意识形态领域也面临着新的风险。

1 基于网络推荐算法的信息推送导致价值分化

在信息化快速推进的网络时代，相当一部分人获取信息的渠道主要是社交媒体，而其中由新闻算法主导的新闻媒体发布的信息受众更为广泛。但是各个行业的垄断者、资本家，能够依靠先进的算法技术促使人们获取的信息更多源于其浏览习惯和兴趣，而很难获取到更加全面、多样的信息。长此以往，受众的思维会受到限制，获取的信息类别也会相对固定，从而导致他们的思维方式单一固定[3]。这部分被束缚在固定信息之中的人，不但思想意识会受到影响，其在群体决策中的思想还会出现极端化的倾向。智能化新闻算法为受众提供的信息展现出的是商业模式下的需求。在以商业利益为主导的形势下，公众更倾向于浏览娱乐信息，其意识经常被一些有意引导的文案左右，而严肃的信息话题往往不受重视。在这种算法定制化模式下，人们的思想会被推荐的信息影响，不利于公共话题的传播和参与，长期下来还会危害到社会秩序。

马克思·韦伯（Max Weber）采用理性二分法将理性分解为价值（合）理性和工具（合）理性两种类别，并使其具有能够解释社会现象的能力。价值理性强调行为不计后果地遵从某些价值信念，如“义务、尊严训示、孝顺，或者某一件‘事’的重要性的信念”;工具理性更关注如何通过更加合理有效的方式取得更大的效用。算法推送的技术核心是快速获取用户的喜好并且为其推荐感兴趣的信息，这种方式能够有效推送能够满足用户喜好的信息。但是因为用户感兴趣的信息各有差异，其信息鉴别能力也有很大差别，尤其是在当前的社会环境下，拜金主义、功利主义等盛行，单单根据用户的喜好推送信息，往往会导致含有负面倾向的信息被大量推送给特定用户。这有可能给用户留下“很多人都有这种价值取向”的印象。

在信息飞速传播的网络时代，个性化的定制信息以及固定类别信息的推送会让有相同喜好、价值观的用户聚合到一起，并且他们的思想和思维方式会越来越统一，最后形成多个不同类别的网络部族。在这些部族中，一些极端的信息会得到前所未有的推崇，这些人也更加认可自己的思想和观念，甚至将一些具有明显负面倾向的信息当作真理。在这种形势下，能够体现正确价值观的信息反而很难进入这类群体之中，这不利于良性社会秩序的维护和建立。而这些拥有算法技术优势的公司大都会开放用户注册权限，从而让用户都可以发布信息。在算法公司和信息发布者的联合作用下，一些特定的价值观会在一定的范围内得到广泛传播。

2 网络推荐算法下的技术黑箱存在意识形态安全隐患

算法推荐技术的进步和应用推动了价值共识的形成。在信息化飞速发展的形势下，网络推荐算法在人们的生活中被广泛运用，且这一技术在各大平台中被普遍使用，具有个性化信息定制、智能信息推荐、信息传播等功能。网络推荐算法的倾向会在一定程度上影响人们的价值观，这是因为算法本身就不是绝对中立的，对算法技术进行操作的程序员会进行相关的控制，并且每条信息都含有发布者的个人主观色彩。程序员在设定网络推荐算法的时候，就在其中融入了主流价值观的内容，因此算法在推荐信息的时候，会持续推送含有主流价值的信息，而用户就会接收和浏览主流价值的信息。根据算法原理，后台会对用户接收信息的情况进行整理和反馈，从而重复推荐具有正向价值观的信息，这能使用户倾向获取的信息始终含有主流价值，避免这一类信息因为推荐机制被屏蔽。另外，随着算法技术的不断进步，再加上平台对信息推荐比例的平衡，用户能够根据自己的喜好获取推荐的信息。含有主流价值的信息数量有所欠缺时，系统就会自动进行补充推荐，这能够有效加强主流价值信息的传播，从而推动正确的社会价值观的形成。

圆形监狱是边沁（Jeremy Bentham）为监管和改造犯人而设计的一种新型监狱，由外围环形建筑和中心瞭望塔两部分组成。这种特殊的建筑结构能让处于中心瞭望塔的狱警将所有犯人所有的行动都收入眼中，所以，在这种建筑中的犯人毫无隐私可言。从这个角度来看，算法推荐技术也与这种圆形建筑有相似的地方，算法可以看作是中心瞭望塔，用户是环形建筑中的囚犯。之所以这么说，是因为如果用户想要获取某个方面的信息，首先就要暴露自身的信息，如年龄、位置、通讯录、朋友关系、阅读兴趣等。系统只有获取这些个人信息之后，才能够对用户的喜好进行精准定位，从而根据其喜好向其推荐需要的信息。

3 网络推荐算法削弱主流意识形态的话语权

在国内外文化思潮的冲击下，社会总体价值观多元化现象加剧，主流价值观在互联网中的话语权和影响力日益弱化，特别是随着移动互联的飞速发展，自媒体、短视频等平台不断推陈出新。现阶段，对于国内互联网舆论场而言，针对热点事件的评议、讨论等多维交流方式日渐替代了以往单一的新闻播报的传播模式。比如当前微信平台的公众号数量接近30万个，而其中与“中国特色社会主义”相关的公众号数量不足10个，数量极少、话语权极弱，成为主流宣传不得不尽快破解的难题。

因为互联网具有开放、共享、隐蔽、即时、动态等属性，其可以融合种类繁多的意识形态观点，让它们在同一个舆论阵地中相互碰撞，导致多样化的意识形态碰撞和摩擦变成不可忽视的现实。同时，各类网络思潮均深刻意识到了互联网中的话语权本身便是一类极为重要的政治資源，因此其把互联网当作宣传自身理念的“跑马场”，并在阵地中展开了极为激烈的、争夺政治人心的“角逐赛”。在此过程中，互联网中意识形态论争的激烈程度、复杂程度日渐提升。因为涉及的参与方、热点内容、表达方式均表现出多样化属性，学术辩论同意识形态论争相互渗透，而某些意图挑起纷争、别有用心的群体以学术讨论为掩盖手段，公然挑衅社会主义意识形态。

参与讨论的群体中不仅有普通的网友、公民，还有很多境外敌对分子及其选择的代理人，这部分群体依托我国开放的互联网舆论场开展各类政治活动。热点的内容范围极广，其中有带有政治色彩的方面，如围绕我国近代史和革命先烈的评价、围绕改革开放以来取得成就的评价、国家大政方针、围绕社会道德层面进行的讨论等，这均为现阶段互联网意识形态领域讨论得极为激烈的内容。而在讨论的形式层面，不仅有从理性层面开展的心平气和的探讨，也有为了发泄情绪进行的谩骂和攻讦，其不仅涉及互联网平台虚拟世界的论争，还发展成线下的“人肉搜索”等网络内外相互渗透的意识形态论争。

在互联网平台中，特别是微博、微信等具备很多匿名使用者的平台中，拥有一定话语权的“意见领袖”可以依托互联网使用者的从众想法，构筑起能够促使自身观念更好地扩散的“沉默的螺旋”。在这种背景下，互联网中的论争时常会构筑起舆论风暴，可以在短时间内聚集起规模巨大的响应者和跟风网友在其中推波助澜，让网络舆论按照其预设和引导的方向推进。

4 网络推荐算法导致信息茧房

现阶段，中国互联网使用者的数量突破了8.5亿，然而部分使用者的网络素养仍然不高。部分网络媒体使用者仍热衷于追逐八卦、谣言，热衷于挖掘和泄露他人信息等。现阶段，部分地区，如乡镇、县级网络媒体的宣传模式、载体以及话题引导水平仍然有较大的提升空间，舆情掌控和处置水平不高。为了能够在较短的时间内得到较多的关注和较高的点击率，部分APP借助智能算法向外界传递大批低级但能够吸引眼球的内容，使用户受困于大量低劣内容形成的信息茧房中。

“信息茧房”最早由美国学者桑斯坦提出，他还对此进行了说明，指出其是“我们只听我们选择的东西和愉悦我们的东西的通信领域”。按照上述解释，处于茧房内的群体无法进行周密和理性的思考，这是由于该群体已经有了先入为主的观点。互联网中根据智能算法为使用者推送的具有针对性的内容，指的便是桑斯坦提出的“我的日报”。该智能算法融合了使用者的历史浏览数据、点击记录等，对相关数据进行汇总、剖析、挖掘、计算，归纳出该使用者的个性化偏好，并为其推送其可能感兴趣的内容，而长时间被这样的内容浸润，会使用户的思想固化、视野狭窄。因此，个性化推荐算法模式如同蚕蛹吐丝，利用不同的过滤机制筛选出固定类型的信息，如同丝线一样把用户包裹其中，最终导致用户被关闭在思想扭曲以及异化的模式之中。当前，大量的新闻类APP内容低劣，其中包含着各类标题党信息，很多内容主观色彩鲜明，甚至还会用低俗的模式编写。

上述情况在心理学中能被纳入“尖叫效应”的范畴。此处所说的“尖叫效应”可以解释为马路上的人群里有一个个体，在安静的环境里突然尖叫，那么这个个体便可以聚焦周围群体的目光。而此概念可以较好地描述纷繁复杂的新媒体传播渠道。现阶段，在移动互联蓬勃发展的环境中，大量自媒体或作者依托剪裁、拼接、夸大、胡编乱造的手段制造大量博人眼球的内容，上述信息可以在短时间内获得较多的关注和较高的点击率。但是用户之所以可以观看到这些内容，智能推荐算法发挥了根本性作用。算法把此类满足“尖叫效应”的内容推送给相应的群体，使得用户时刻被低俗的内容包围。在传统媒体的话语权逐渐被削弱的背景下，用户特别是中老年群体、青少年群体很难明晰信息的真假。在这样的背景下，用户能够依托自身所接触的互联网中的圈子分享内心的想法、表达情绪，也会极为草率地在内心形成倾向性观点[4]。上述问题均为推荐算法影响下的新闻传播带来的不良后果。

互联网平台中舆论的非理性宣泄会造成极大的混乱，同时会产生溢出效应并引发连锁反应，其后果为互联网用户在筛选内容时出于个人喜好，更倾向于选择同内心想法一致的内容，而内嵌智能推荐算法的网站能够按照用户偏好推送个性化内容，由此构成了“回音壁”效果。另外，在浏览的过程中，用户会随着时间推移持续固化内心的观点[5]。本质上，“回音壁”不但将读者困于某个范围内，而且垄断了“事实”和“价值共识”，让读者不断强化对与自身价值观趋同的内容的认同感。

5 结语

网络推荐算法被社交媒体广泛应用，在给人们社会生活带来便利的同时也带来了意识形态安全风险。正确、全面、客观地认识网络推荐算法会引发的意识形态安全风险，有利于我们日后有效规避风险，促使网络推荐算法更加安全、更加科学地被应用。

参考文献：

[1] 习近平新闻思想讲义[M].北京：人民出版社，2018：44.

[2] 第47次《中国互联网络发展状况统计报告》[EB/OL].中国互联网络信息中心，http：//cnnic.cn/gywm/xwzx/rdxw/20172017_7084/202102/t20210203_71364.htm，2021-02-03.

[3] 喻国明，曲慧.“信息茧房”的误读与算法推送的必要：兼论内容分发中社会伦理困境的解决之道[J].新疆师范大学学报（哲学社会科学版），2020（1）：127-133.

[4] 陈昌凤，霍婕.权力迁移与人本精神：算法式新闻分发的技术伦理[J].新闻与写作，2018（1）：63-66.

[5] 尼尔·波兹曼.娱乐至死[M].章艳，译.北京：中信出版社，2015：4.

作者简介：王玉婷（1981—），女，湖北武汉人，博士，副教授，研究方向：高校意识形态安全。

3644501908278