智能算法对意识形态安全的挑战与应对策略

于璇 郭海威

摘  要：人工智能时代，智能算法带来了媒介生态环境的革命性变革，改变了传统的新闻信息生产流程，也对意识形态安全工作提出了新的要求。文章通過对智能算法的价值目标、底层逻辑和现实争议三个维度进行再思考，认为智能算法构建的网络真实、稀释主流媒体的引领功能以及现阶段治理困境给意识形态安全工作带来了多重挑战，并提出重视算法前端管理、加强负面信息链条传播的应对策略。

关键词：智能算法;意识形态安全;对策研究

中图分类号：TP312;G20 文献标识码：A

DOI：10.19881/j.cnki.1006-3676.2020.10.04

The Challenge and Replying Strategy of Intelligent Algorithm to Ideological Security

Yu Xuan1  Guo Haiwei2

（1.Communication University of China Internet Information Research Institute，Beijing，100024;2.Communication University of China Television School，Beijing，100024）

Abstract：In the era of artificial intelligence，intelligent algorithm has brought revolutionary changes in the media ecological environment，changed the traditional news information production process，and put forward the new requirements for ideological security. Through rethinking the value goal，underlying logic and realistic disputes of intelligent algorithm，this paper thinks that the reality constructed by intelligent algorithm，weakened the leading function of traditional media and the Governance Dilemma have brought big challenges to the ideological security，put forward the countermeasure of attaching importance to the front-end management of the intelligent algorithm and strengthening the transmission of negative information chain.

Key words：Intelligent algorithm;Ideological security;Countermeasure

习近平总书记曾旗帜鲜明地指出：“意识形态工作是党的一项极端重要的工作。”以习近平同志为核心的党中央引领中国进入了一个新时代，把党对意识形态工作的重视提高到了一个新的历史高度。用“极端重要”来强调意识形态工作，是精准研判改革开放以来的意识形态形势，尤其是直面意识形态领域存在的一系列挑战、问题和考验而做出的科学判断。

互联网时代，网络空间战略地位日益提升，网络空间已经成为国家或地区安全博弈的新战场。西方政治思潮不断涌入我国，多渠道“内容搬运”，逐渐渗透，西方源源不断地输入价值观，对我国主流意识形态有很强的腐蚀性和破坏力。进入人工智能时代，以智能算法为代表的技术应用进一步改变了现有的媒介生态环境，为意识形态安全带来更多风险与挑战。

一、对智能算法的再思考

人工智能时代的到来，深度学习、神经网络等技术应用均离不开智能算法。所谓智能算法，是在数据资源的基础上，由计算机来模拟某些人的思维和智能，实现和完成某种特定功能的输出，以替代或增强人类实现某些任务的能力[1]。从前景来看，智能算法已经广泛应用在新闻类、直播类、视频类、资讯类App中。大数据作为网络世界客观存在的信息数据，可以被采集，对其进行过滤、处理、加工、应用，则涉及智能算法。智能算法可以被视为现实世界与网络虚拟世界二元世界的转换与连接，是一切网络活动的内部规则，是人工智能时代的本质和基石。

据《第45次中国互联网络发展状况统计报告》显示，截至2020年3月，全国网民规模为9.04亿，互联网普及率达64.5%;手机网民规模为8.97亿，较2018年底增长7992万，我国网民使用手机上网的比例达99.3%，较2018年底提升0.7个百分点[2]。面对如此庞大的网民规模及高比例的手机上网，对当前智能算法进行再梳理、再思考意义重大。

（一）智能算法的价值目标

面对浩如烟海的网络信息，如果离开智能算法，网络用户将会陷入信息的泥淖。从智能算法的分类来看，与网络用户关系最为密切的是算法推荐。算法推荐让过去的“人找信息”变成“信息找人”，推动了信息传播方式的革命性变革[3]。在固定的时间内，网络用户所接受的信息量是有限的，网络平台只有通过智能算法，才能最大限度地占有网络用户的使用时长。基于领域的算法主要包括基于用户的协同过滤算法和基于物品的协同过滤算法两大类[4]。无论是何种商业智能算法，其最终的价值目标都是网络用户。但以“网络用户”为本并非“以人为本”，而是以特定的利益为出发点和落脚点，也为特定的利益而存在[5]。智能算法的价值目标实现了网络流量最大化，网络用户在网络平台获得使用的满足后，用户黏性逐步增加，网络平台收割流量，进而提升其商业价值。

（二）智能算法的底层逻辑

智能算法极大地提升了互联网使用的便捷性，使互联网更具有“一对一”定制化的使用体验。有关智能算法技术异化，如智能算法与网络空间治理、智能算法与网络用户主体意识的关系、对信息的凸显与遮蔽、信息茧房、回声室效应、后真相、过滤气泡效应、马太效应等一直是学界关注的重点。从媒介技术论视角来看，智能算法的算法逻辑是“技术中立”，但分属于不同的商业网络平台，这也就决定了其逐利的底层逻辑。智能算法从学习、训练阶段获得的大数据就是来自网络，大数据的公共性决定了智能算法本身具有公共属性，但公共属性与网络平台逐利往往难以平衡，这带来了一系列有关智能算法价值理性和工具理性的论争。网络平台还可为其赋予不同的价值导向，进而影响意识形态安全。

（三）智能算法的现实争议

智能算法基于网络平台大数据，是一整套有关内容标签化处理、网络用户画像、机器语义分析的逻辑推演，并可以通过机器学习更加智能。但智能算法并不完美，比如，无法更有效地甄别虚假和低俗内容并控制其传播[6]，“把关人”缺位与新闻专业主义的离场[7]，网络平台价值导向错乱，“过滤气泡”效应进一步加剧社群分化与意识形态极化，工具理性与价值理性难以平衡，网络平台受商业价值影响主动公开算法的动力不足，网络用户缺乏对智能算法的基本了解，智能算法模型在数据收集、标签化处理、用户画像方面存在歧视、不公平、不正义等问题。随着智能算法的逐步发展和完善，学界关注重点也从最初的消极视角转变为多维视角。

二、智能算法对意识形态安全带来新挑战

智能算法存在各种现实争议，加之各类智能算法本身具有意识形态和价值导向，因此坚决捍卫主流意识形态安全极为重要。据中国知网文献数据显示，有关智能算法与意识形态的讨论自2018年开始逐年升温，特别是短视频、社交媒体的智能算法对意识形态的影响，是近年来学界研究的重点方向之一。

（一）网络真实对中高龄群体带来的消极影响被长期忽视

现有研究中，学者多关注互联网、智能算法对青少年群体的意识形态冲击，对中高龄群体关注不足。根据《第45次中国互联网络发展状况统计报告》显示，截至2020年3月，我国40—49岁网民占比为17.6%，50岁以上网民群体占比为16.9%，互联网持续向中高龄人群渗透[8]。一方面是中高龄群体成为近年来互联网发展新的增长极，是各大网络平台积极争取的网络流量;另一方面是中高龄群体存在网络使用技能缺乏、文化程度不高以及年龄因素影响等多重困境，普遍缺乏媒介素养。

从传播学“对社会真实的媒介建构”来看，真实包含客观真实、媒介真实以及主观真实。三个层面上的“真实”往往并不一致。互联网世界智能算法建构出的“网络真实”，同样会影响网络用户对“真实”的认知。智能算法的过滤筛选机制会在用户出现某些网络行为后触发相关内容聚合，存在错误意识形态导向的“网络真实”将对中高龄群体产生持续性冲击。中高龄群体虽然在“三观”方面已经固化，但将某类信息通过智能算法“推给”中高龄网络用户时，持续性的网络渗透仍可以不断消解权威、解构历史、蚕食社会认同，使理想信念崩塌。这类信息一旦通过智能算法进入中高龄群体视野，就可能通过跨平台“病毒式”传播，逐步扩大其负面影响。以微信群为例，其即时性和非公开的传播特征使得跨平台二次传播的信息难以被及时监管，潜藏错误意识形态的信息将使主流意识形态面临被消解的危险。

（二）智能算法稀释了主流媒体的引领功能

智能算法带来的媒介生态环境变革，对主流媒体的功能和话语权提出了挑战。智能算法“去中心化”的特征削弱了主流意识形态内容供给的有效性，也稀释了主流媒体的引领功能。在“黑天鹅事件”与“灰犀牛事件”频发的风险社会中，脱离传统精英控制的算法带来了意识形态宣传与舆论引导的不确定性[9]。

从新闻把关理论视角来看，技术变革带来了媒介生态环境的变化，也对新闻信息的把关原则和目标提出了挑战，新闻信息把关从现实中具有一定专业素养的新闻人变为智能算法技术把关为主、人工为辅的把关模式，解构了传统新闻的价值观，新闻专业主义和职业精神受到网络流量的冲击。议程设置理论视域下，算法即权力，网络平台可以通过智能算法来为不同信息做隐性加权处理，影响信息曝光的频次和网络用户心理，从而改变网络用户的某些观念或行为。2018年，一家名为“剑桥分析”的政治咨询公司被爆出从Facebook获取了约五千万用户的私人数据，用于政治营销而干预多国选举。

（三）智能算法的“公开”悖论及治理挑战

智能算法离不开人的驾驭，有些网络平台智能算法为了增加“透明度”，公开其算法，让更多的用户参与到智能算法的修正中来，以期实现公众监督，但这依然难以保证其价值取向及舆论导向。第一，由于智能算法是基于过去式大数据的逻辑推演，是多重要素协同的结果，一些过去没有出现过的新情况，难以被智能算法立即深度学习，因没有“计算到”而出现的价值导向偏差问题，是现阶段技术层面客观存在的问题，也对算法治理提出了时效性要求。第二，智能算法作为网络平台的核心竞争力，是其商业价值的最大保证，舆论倒逼算法公开，其“透明度”依然难以保证。第三，由于一部分网络平台自身并不是内容生产者，其运营逻辑是将内容生产者生产出的内容，通过智能算法投放给精准画像的网络用户。一旦算法全透明，被内容生产者不当利用，对意识形态安全可能带来更大挑战。

由于智能算法分属于不同的网络平台，涉及不同領域，又应用在不同类型的App中，这增加了监管难度。尽管一些网络平台内容推荐中增加了“主旋律算法”“正能量算法”等，但从研究来看，基于网络用户猎奇心理、负面偏好理论，网络用户更加偏好阅读或搜索负面信息。早在2018年，今日头条就在其智能算法改进中增加了“正能量内容池”，但从部分实证研究来看，负面信息引发的传播扩散、网络评论更为活跃。

2019年7月，国内第一款专为青少年定制的搜索引擎“花漾搜索”App正式发布。据媒体报道，该应用可以阻断暴力、色情、赌博等不良信息，为孩子打开美好的网络世界。青少年并非长在温室里的花朵，跳出现有的App格局，为青少年定制专属搜索引擎的初衷固然是好的，但此类定制化App很难与商业搜索引擎竞争，另起炉灶的专属定制智能算法并不是解决当前智能算法现实困境的有效办法。

三、对智能算法的治理对策

通过对中国知网与“算法”“意识形态”有关的82篇文献主题的研究发现，对策研究涉及价值引领、数据伦理、技术逻辑三个方面，所涉主体包含政府、行业组织、网络平台、网络用户等。

（一）重视算法前端内容管理

习近平总书记指出，从全球范围看，媒体智能化进入快速发展阶段。我们要增强紧迫感和使命感，推动关键核心技术自主创新不断实现突破，探索将人工智能运用在新闻采集、生产、分发、接收、反馈中，用主流价值导向驾驭“算法”，全面提高舆论引导能力。由于一部分网络平台并不生产内容，只是通过智能算法将内容推送给网络用户，因此，加强智能算法前端的内容管理十分重要。2020年开始施行的《网络信息内容生态治理规定》，不仅以“算法推荐模型+人工干预+用户自主选择”三者有机结合的解决方案，解决算法推荐带来的种种弊端，还对互联网内容生产提出了明确的方向和要求。此前的一些研究，高估了单一智能算法的影响力，而对内容生产重视不足。网络内容生产主要包括用户生产内容（UGC）、专业生产内容（PGC）以及机构生产内容（AGC）三类。只有对各类型网络内容生产者进行前端管理，在信息源头即展开治理，良性的内容生产才能在智能算法中不断实现正面宣传、营造社会共识、精准传播主流价值观。

（二）加强负面信息全链条传播

由于智能算法改变了传统新闻信息生产的把关链条，碎片化传播叠加智能推荐，“拼盘式新闻”“标题党新闻”“碎片化新闻”在网络舆情事件中不断推波助澜。2020年4月，第十七次全国国民阅读调查显示，数字化阅读方式的接触率为79.3%，我国成年国民人均每天手机接触时长为100.41分钟，我国成年国民网上活动行为中，以阅读新闻、社交和观看视频为主，娱乐化和碎片化特征明显，深度图书阅读行为的占比偏低。娱乐化、碎片化、浅阅读的网络阅读特点一定程度上助推了网络舆情事件“后真相”，出现了舆情事件爆发后负面评论声浪高，舆情处置和事实反转关注度低的现象。这对舆论引导工作、意识形态安全工作都带来了挑战。近年发生的多个“真相反转”网络虚构事件，都系个人利用网络舆论自导自演。虽然当事人事后澄清，但负面影响已经形成，公权力形象受损难以短时修复。当负面信息出现时，如网络用户点击浏览，类似标签的网络信息将在智能算法的引导下大量涌向网络用户，“偏轨”问题一旦发生，算法推荐将助长负面信息的传播[10]。对于此类负面信息，网络平台应提供完整的传播链条，有始有终，不能简单地以碎片化传播一发了事。应在智能算法中对舆情事件负面信息附加完整的信息链条，以信息“区块链”的形式展现事件全貌，这一定程度上可以矫正舆情事件中碎片化传播可能带来的负面影响。

参考文献：

[1] 吴靖.“算法”具有自由意志吗？——算法主导社会行为背后的几个悖论[J].中国出版，2019（2）：7-11.

[2] 中共中央网络安全和信息化委员会办公室，中华人民共和国国家互联网信息办公室，中国互联网信息中心.第45次中国互联网络发展状况统计报告[EB/OL].（2020-04-28）[2020-09-29].http：//www.cac.gov.cn/2020-04/27/c_1589535470378587.htm.

[3] 薛永龙，汝倩倩.遮蔽与解蔽：算法推荐场域中的意识形态危局[J].自然辩证法研究，2020（1）：50-55.

[4] 蒋成贵.算法推荐对网络意识形态建设的挑战及应对[J].思想理论教育，2019（07）：78-82.

[5]  张爱军，李圆.人工智能时代的算法权力：逻辑、风险及规制[J].河海大学学报（哲学社会科学版），2019（6）：18-24，109.

[6]  王源.将算法公开，让算法守法[EB/OL].（2018-01-12）[2020-09-29].http：//guancha.gmw.cn/2018-01/12/content_27337155.htm.

[7] 李钢，唐月卫，刘章仪.推荐算法与网络意识形态风险防范[J].当代传播，2020（03）：110-112.

[8] 中共中央网络安全和信息化委員会办公室，中华人民共和国国家互联网信息办公室，中国互联网信息中心.第45次中国互联网络发展状况统计报告[EB/OL].（2020-04-28）[2020-09-29].http：//www.cac.gov.cn/2020-04/27/c_1589535470378587.htm.

[9] 喻国明，陈艳明，普文越.智能算法与公共性：问题的误读与解题的关键[J].中国编辑，2020（05）：10-17.

[10] 骆郁廷，李勇图.抖出正能量：抖音在大学生思想政治教育中的运用[J].思想理论教育，2019（03）：84-89.