人工智能时代高校意识形态的算法风险与防范机制

倪 黎

(上海交通大学 党委宣传部，上海 200240)

2019年1月，习近平总书记在省部级主要领导干部坚持底线思维着力防范化解重大风险专题研讨班上，深入分析了意识形态领域的重大风险，并对如何防范化解提出明确要求。[1]随着人工智能时代的来临，防范高校意识形态的算法风险是一项新的课题。算法作为一项匹配信息需求的精准化技术范式，在引领大学校园思潮和凝聚大学生价值共识的生成中逐渐占据着重要地位。算法精准化的信息分发范式塑造着数字生活世界全新的信息分发秩序和结构，重塑着意识形态传播的媒介环境，为大学生价值共识的产生打造了全新的信息场域。因此，厘清算法技术对高校意识形态教育造成的场域化转变和情景化风险并提出防范机制，具有值得重视的理论和现实价值。

一、算法的技术逻辑与意识形态的算法霸权

探讨高校意识形态的算法风险必须首先理清算法的技术逻辑和意识形态属性。作为信息传播的精准范式，算法的技术实质及其隐藏的算法权力决定了其具有精准控制的意识形态属性。在国际意识形态斗争中，算法权力的掌握意味着拥有精准渗透意识形态的算法霸权。

(一)精准推送：算法的技术逻辑

算法(Algorithm)是为解决特定问题而输入计算机的代码，经过特定运算、数据处理和自动推理而输出结果，是计算机科学的基础。[2]尽管算法技术更新迭代迅速，各个算法媒体所使用的算法模型不尽一致，但算法技术背后具有相同的技术逻辑，即借助强大算力将数据经过复杂、动态的优化组合而建构信息供需之间的精准匹配。换而言之，算法的技术逻辑就是形成用户画像和信息的标签化而实现信息供需的精准对接。总体上，完整的算法技术体系包括数据收集、数据分析和信息推送三个系统。数据收集系统致力于抓取和保存数字生活世界中的相关数据。数据分析系统致力于精准识别受众的个性化偏好。信息推送系统包括算法排序、算法过滤和算法推送三个子集。在三个系统中，数据收集系统是基础，数据分析系统是支撑，信息推送系统是关键并对算法运作起到关键作用。在丰富多样的信息场景中，单一算法模型难以实现精准推送，因此，算法媒体通常使用多种算法模型并用和交叉的组合式算法来提高对受众的信息推送精准度，例如微博热搜推荐功能。

算法具有复杂程度高、技术性强的特点，不仅强化算法媒体的信息技术壁垒，还促使“去中心化”向围绕算法媒体“再中心化”，甚至“强中心化”的发展态势。数据是算法的基石，算法离开数据如无源之水。算法“指挥”数据的流动，通过搭建自适应交互系统而操纵受众对信息的获取，获得对受众行为的支配力量。算法根据一定价值倾向，对内容进行生产、过滤和推荐。算法借助社交媒体等系统架构收集庞大的半结构或非结构化的用户“剩余数据”，即用户的隐式网络行为痕迹(例如点赞、收藏和订阅等社交手势)。对“剩余数据”进行标签化处理，从中挖掘“交互和社会协商”的信息价值，通过“画像”精准捕捉受众的偏好和兴趣，达成内容推送与受众偏好的精准匹配，持续为其推送相同类型的内容。算法也会根据信息浏览、关注、转发等热度指标的监控实现对受众的全场域热点排序推荐。在算法的协同过滤机制中，算法会全景扫描受众的数字人际社群，深度识别与受众兴趣高相似度矩阵并加以链接实现协同过滤信息推送。同时，算法通过社交媒体等系统架构的内在延展和生发，与不同的交互系统共享数据以对用户进行持续控制。算法是新的信息资源配置机制，是受众应对海量信息的鉴别和筛选所造成的困扰的有力手段。算法极大提升了信息的传播效率，缓解了受众筛选信息的焦虑感并大幅降低了时间成本，同时优化了信息资源配置的精准度。

(二)精准控制：算法的意识形态属性

算法是一种特定运算编码的系统架构，但隐藏于算法技术合理性的背后是算法权力的意识形态属性。正如多梅尔(Luke Dormehl)所说：“算法不能提交不受意识形态影响的结果”。[3]算法对信息进行精准匹配的实质是在行使一种信息分配的权力，即算法权力。与强制性为特点的传统权力不同，算法权力具有商业化、内显化和兴趣化为导向的特点，其权力来源与数字公共领域密切相关。算法权力通过结构性嵌入社会权力运行体系，渗入受众微观生活互动中，对数字公共领域进行无孔不入地持续性精准干预和控制。流量逻辑和利润追求是算法权力的最初动因，算法在追求数字资本增殖最大化的过程中潜移默化地对现有权力结构产生冲击，社会各层次都在所难免地受到算法权力的控制。在“用户黏度”和“流量为王”的运行逻辑下，受众的认知方式和行为习惯在悄无声息中受到算法的精准控制。算法所谓的“价值中立”其实并不成立，表层上“客观中立”的算法个性化精准推荐隐藏着深层次的权力关系，具有明显的意识形态性。

意识形态是通过特定的话语系统所表达的一种制度化的思想体系，从而塑造社会成员的价值观念和行为规范。[4]算法作为一种内嵌式的代码难免预设着意识形态的倾向性。人类活动总有价值立场的指引，算法的研发过程中在所难免地附着算法主体的意识形态倾向，并通过持续的精准推送影响受众的价值立场。技术与价值的理性矛盾，资本与公共的利益竞争一直存在于算法的运行中，尚处于弱人工智能的算法具有明显的人工印迹。掌握算法权力的主体通过对蕴含意义的“剩余数据”进行个体分析获得意义控制权，进而拥有驾驭意识形态领导权和话语权的能力。算法主体会根据预设目标而刻意突显某种价值导向，即算法偏见。算法偏见是一种将算法主体的价值偏见以运算程序的方式演绎出来，而且算法偏见会随着数据量的增加和算法的升级而深化算法主体的价值偏见。算法由多项社会性因素组建而成，其在运行过程中精准控制着受众的价值观，进而重新分配社会意识形态的权力结构。算法不仅是信息匹配技术，更是精准控制社会秩序的“软权力”。“软权力”是由信息、知识、数据等非物质性资源所产生的权力形式，且在社会权力结构中发挥越来越重要的作用。算法的发展提高了算法主体通过数据精准控制物质世界的能力。算法通过对信息的精准匹配，不仅颠覆了信息分发的原有权力构成，而且也改变了意识形态教育原本整体化的环境。

(三)精准渗透：意识形态的算法霸权

在国际意识形态斗争中，算法也催生了霸权主义的新形式即算法霸权，凯西·奥尼尔(Cathy O'Neil)在《算法霸权》一书中，将其称之为“数字杀伤性武器”(Weapons of Math Destruction)[5]，算法制高点的争夺是国际意识形态博弈的新领域。美国在2013年发布的“大数据的研究和发展计划”(Big Data Research and Development Initiative)拉开了算法霸权争夺的序幕，该计划将算法的研发与应用提升到国家安全保障的战略高度。继美国之后，西欧各国和亚洲的日韩等国陆续将算法发展列为国家战略。算法在国际竞争中的战略重要性，不仅是其可以提高情报数据处理能力，而且可以极大提高意识形态渗透的精准度。

算法的商业模式需要依托庞大的数据量才能将算法资源迅速转化成平台优势，因此算法技术基本都垄断于具有算法原发优势的西方互联网巨头，例如Google、Twitter、Facebook、Amazon等。各大西方媒体也积极研发各自的算法分析系统促进内容生产和传播的精准化，例如：纽约时报于2015年9月研发出基于“事件分析学”的Stela算法分析系统，类似的算法分析系统有英国卫报的Ophan、加拿大社交媒体监测平台Hootsuite的Klout等。算法分析系统可以实时监测内容的流量变化，帮助媒介获得流量激增的热点内容，追踪推文带来的会话和导流，分析受众对推送内容的反馈数据，缩短内容的响应时间，精准设置议程。借助算法预先框定了议程设置的价值立场之后，再由互联网内容供应商(Content Farm)以合适的话语符号加以呈现。互联网内容供应商是以“Web2.0为体，Web1.0为用”的内容工厂，借助算法挖掘信息搜索数据，预测对议程设置的内容需求。根据受众的最高内容需求安排生产，通过UGC(User Generated Content，用户生产内容)的“众包”模式和算法编制的机器人记者(Robot Journalism)快速而廉价地进行内容生产，每篇文章经过搜索引擎优化(Search Engine Optimization)标准进行编排。机器人记者只要输入内容创作所需的核心数据就可以实现自动化、高效化、精准化的数据抓取和内容写作。例如：美联社机器人记者Wordsmith每季度写3000多篇稿件，机器人主编Blossom让纽约时报的流量涨了30多倍。这些经过框架预设的文本内容解构了“他者”的文化语境，不纯粹再现事实，而精准渗透着西方的价值立场。同时，这些文本内容会“助推”用户朝着算法主体的价值偏好进行决策，例如：在2018年3月，剑桥分析(Cambridge Analytica)作为一家数据分析企业被曝以不正当手段收集了超过8700万Facebook用户的数据[6]，利用算法向用户精准投放政治营销内容，直接影响青年大学生投票人的政治态度。

二、人工智能时代高校意识形态的算法风险研判

算法权力既改变了信息传播范式，又为高校意识形态的教育和传播提供了全新的信息场域。思政工作者既需有效把握算法对主流意识形态传播的技术优势，又需充分研判其所造成的算法风险。算法把关、算法沉迷、算法过滤所造成的价值失序、价值消融、价值极化进而带来了高校意识形态凝聚力、权威力、认同力的弱化和窄化。

(一)算法把关与价值失序：高校意识形态凝聚力弱化

信息流通承载着构建社会现实的媒介把关功能，并不是简单的信息筛选与进出过程。算法颠覆了意识形态形塑的传统一元主导权力模式，既实现了“信息找人”的精准对接，也重塑了信息把关机制。

首先，算法造成的把关权的多元化，削弱了高校对主流意识形态的议程设置功能。美国学者麦库姆斯(Maxwell McCombs)指出在信息传播与意见表达中，大众媒介可以借助特定议题设置影响人们对特定事件的价值判断，进一步对大众的心理、认知、价值与行动等实施引导。[7]议程设置权的掌控意味着引导舆论走向和塑造观念意识的权力掌控。传统媒体之前处于层级化、中心化的传播权力结构中，既能在传播中对信息的数量、动向和内容进行把控，又能对信息的排序、推送和展现样式进行操控。传统媒体在议程设置的高效性助推了主流意识形态对社会共识的凝聚具有绝对优势。但随着算法技术的盛行，算法赋能造成传播权力的分散化和传播内容的泛娱乐化，消解了传统媒体的议程设置有效性。算法媒体借助算法的技术优势而强势崛起，打破了传统媒体对信息生成和传播的绝对把控地位，重塑了算法媒体和传统媒体之间的传播权力分配，传播把控权逐渐从传统媒体过渡到算法媒体，传播模式逐渐从权威封闭转向市场开放，受众对信息的消费模式从“消费者”转变成“产消者”。算法媒体以“流量为王”为传播利益取向，注重受众的信息偏好，忽视信息的公共属性。无论信息内容的品质如何，只要有流量价值就可以上热搜头条，只要受众不感兴趣就当成没有传播价值，这种传播机制给高校意识形态凝聚力造成弱化风险。

其次，算法的流量迎合推荐造成了传播价值的失序，挤占了主流意识形态的传播空间。为了抢夺流量，增强受众粘性，算法会根据大学生的个性化需求为其精准定制生产和传播信息，媒介与大学生的信息把关关系逐渐从“训示”转化为“迎合”。算法强烈的流量本位导向使得具有公共性的主流意识形态信息的传播范围受限，一些算法媒体热衷于推荐重情感轻真相的信息来吸引大学生的流量。甚至完全虚构一些具有强大情感刺激的“假新闻”借助算法信息的流通而获取大学生的关注流量。

总之，信息把控权力的转变造成流量本位导向的信息生成和分发机制，导致对大学生的思想文化教育产生价值失范，鱼龙混杂的价值喧嚣挤占了高校主流意识形态的教育空间，弱化了其凝聚力。

(二)算法沉迷与价值消融：高校意识形态权威力弱化

权威既不同于强权，也不同于权力，从根本上讲，权威不是一种强制力，而是受众在信服的基础上自愿认同的影响力。高校意识形态权威是引领大学校园思潮和凝聚大学生价值共识的后盾。按照以往的传播权力形势，信息资源和传播权力都由主流媒体牢牢把控，高校意识形态的话语权基本等同于权威，对校园舆论的引导直接而有效。算法的技术赋能改变了“自上而下”的传播格局，算法形塑的沉迷机制和泛娱乐化的内容倾向造成高校意识形态权威力的失落。

首先，算法形塑的沉迷机制消解主流意识形态的价值权威。算法的技术原理和流量本位导向隐含着沉迷机制，算法对大学生偏好图谱的标签化可以清晰勾勒出各种大学生群体的信息偏好，并根据大学生的兴趣偏好和内容反馈为他们编织难以自拔的数字生活世界。以大学生偏好为导向的算法推送原则很大程度上造成了大学生对算法媒体的依赖和沉迷，很多大学生把大量的时间和精力花费在算法信息的消费。算法沉迷机制会跟随时间推移而不断对大学生的自主意识和主体认知进行消磨和侵蚀，使得大学生的思维习惯浅薄化。以至于大学生解构了主流意识形态理论性、抽象性和整体性的话语系统，排斥以普遍化和规范化为特征的意识形态教育。在浅薄化、碎片化的算法传播生态中，个人与权威、感性与理性、碎片与整体的话语冲突会不断侵蚀高校意识形态教育的价值权威。[8]

其次，算法生成机制具有“泛娱乐化”特性，这淡化了主流意识形态的价值意义。在算法沉迷机制和消费主义的联合作用下，“泛娱乐化”正蔓延向数字公共领域。一些大学生沉迷于数字娱乐之中而无法自拔，以娱乐、戏谑的自我释放方式解构意识形态的权威性。流量逻辑正在取代价值逻辑，“有意思”的感性世界逐渐战胜“有意义”的理性世界。在哗闹的“泛娱乐化”氛围中，革命英雄可以被抹黑，历史真相可以被歪曲，这使得意识形态教育的价值意义被消解，面临权威力弱化风险。

(三)算法过滤与价值极化：高校意识形态认同力窄化

算法根据大学生的信息偏好为其精准过滤掉异质信息，精准匹配同质信息，进而让大学生沉浸于单向、封闭且没有多元观点交融的“过滤气泡”中。“先定义后理解”的“过滤气泡”影响着大学生对某一事件的价值判断，麻痹了他们的“准统计感官”，形成对价值判断的“沉默的螺旋”，沉浸于算法剪裁过滤的信息碎片中。算法过滤所造成的“价值气泡”及其产生的认知茧房重塑了大学生价值共识生产的传播格局，高校意识形态认同力面临窄化的风险。

首先，算法形塑的“价值气泡”为凝合大学生价值共识造成情景困境。大学生的价值共识是经过相互交往与深度交流后，形成一致、协调的价值认同。凝合大学生价值共识就是在校园交往中协调多元价值摩擦和整合不同价值观念促成整体认同的经过。总之，凝合大学生价值共识就是经过核心价值体系凝心聚力，寻求主流价值认同的最大化。基于结构主义的视角，大学生价值共识的产生是大众传播体系、社会价值体系和思政教育体系互相作用的结果。以精准匹配信息需求的算法已经是信息传播范畴里的主导技术范式，大众传播体系正逐渐在大学生价值共识的产生过程中发挥重要作用。算法结合大学生的数字人际关系型协同过滤机制，快速让兴趣相同、看法一致的大学生组成数字社群。算法过滤一方面提高了信息适配的精准度，另一方面潜移暗化中窄化了大学生对信息的获取范围。算法过滤加深了同质化信息的聚合，这容易固化大学生的价值偏执，进而导致大学生的价值极化，造成不同的大学生数字社群之间的价值隔阂，高校意识形态教育面临价值共识难以凝聚的风险。

其次，算法过滤导致的认知茧房使得高校意识形态认同力窄化。算法过滤会在不同的大学生数字社群中建构起观点交融和价值融合的隐性屏障，导致大学生数字社群之间出现社群分化。各个数字社群都更侧重于社群内部的交流并逐渐形成“群内同质”效应，而忽视与社群之外的沟通并导致“群际异质”效应，两种效应的不断演化会给大学生造成“认知茧房”，即沉浸于封闭的仅能听到自身回声的回音室。观点自由表达的校园氛围正遭受“认知茧房”的侵蚀，长期的信息间隔容易使大学生将同质性的偏见误认为是真理，排斥异质性的合理意见，这将造成大学生对意识形态的认知极化。值得注意的是，西方势力借助算法的原发优势和算法媒体的垄断地位，凭借算法研发过程中的“黑箱”效应，将西方的价值指向和利益企图隐秘地植入算法模型中，实现对我国大学生的意识形态精准渗透。算法过滤的信息精准匹配颠覆了大学生价值认同的权力场域，大学生的价值指向受到西方意识形态的规训，容易误解主流意识形态，稀释了意识形态话语权，造成认同力窄化的风险。

三、高校意识形态算法风险的防范机制

面对算法造成的传播权力新格局和意识形态的算法风险，高校应该构建防范机制，从被动管控转变成主动规避与前置防范。既要因势而谋，调适算法，又要应势而动，规约算法，还要顺势而为，驾驭算法。借助多种措施协同防范算法风险，塑造算法对于工具与价值的理性平衡，流量逻辑与公共逻辑的有效互动，商业价值与思政价值的深度融合。

(一)调适算法：算法风险规避根本化

调适算法是应对高校意识形态的算法风险的核心环节。算法是信息资源调配的精准工具，具有明显的“两面性”，其在信息传播场域的大规模使用是人工智能技术普及的必然趋势。高校意识形态建设面临算法带来的风险时，可以从技术维度优化和调适算法，通过平衡算法内部的工具理性和价值理性，加以趋利避害，推动算法的主流价值导向升级。

首先，调适算法媒体与大学生之间的信息鸿沟。揭开算法的“黑箱”，让算法的代码与运算过程向大学生公开，减弱算法媒体对大学生的算法权力。算法媒体通过公开用户数据抓取和用户画像的因素，是大学生明晰自己在使用算法媒体时应有的数据隐私和在算法媒体上的自我画像标签。调适算法的商业性和公共性的平衡，调适算法代码的专业性和大学生认知能力的关系。

其次，调适个性化与多元化的信息分发平衡。调适算法过滤机制，拓宽算法对信息的涵盖广度，戳破算法“过滤气泡”。为大学生精准画像的前提下，根据个性化兴趣图谱推送内容的同时增强信息的多元化，提高主流意识形态内容的推送比例。尝试推送一些反向兴趣图谱但需要关注的主流意识形态内容。重构算法对不同标签内容的推送比例，提升大学生应该关注的主流价值内容的推送权重，从而纠偏算法单纯以大学生的兴趣偏好为取向的商业性。

再次，调适流量逻辑与公共逻辑的指标平衡。虽然流量逻辑是算法实现精准推送的重要指征，但不应是算法研发的唯一指标。价值理性、公共责任、伦理道德等都是算法升级和更迭应该纳入的意识形态安全的系统性指标。算法设计和研发过程中要注重发挥思想政治工作者的主体性，完善人机协同的信息传播方式，以核心价值观的价值理性来调适算法的工具理性，科学融入主流价值观因子。[9]不管是根据内容推荐或协同过滤的算法，必须先对海量内容做标签化归类，并注入预推荐的“内容池”，再从中根据大学生的“个性化”需求精准推送。因此，“内容池”作为算法推荐的信息源头，必须把高校意识形态教育内容深度嵌入算法推荐的“内容池”，调适算法推荐内容中意识形态教育内容配比。

(二)规约算法：算法风险防范保障化

规约是应对高校意识形态的算法风险的保障环节。规约高校意识形态的算法风险，需要顺应人工智能时代的新传播形势，紧跟算法技术的新发展，不断提高对算法风险的规约能力，探索构建算法风险防控保障体系。依据《网络安全法》等相关法规，将主流意识形态嵌入制定规约算法研发和应用的指导性文件，为主流价值导向和规约算法提供制度保障。

首先，主流意识形态要规约算法的价值性，夯实算法的价值根柢，培育算法媒体的自我规约性。在算法研发时，思想政治工作者可与算法研发人员进行算法伦理规范的交流和主流价值宣传，明确自身价值对算法研发、算法把关甚至受众的价值影响。引导他们的价值理性意识，自觉接受主流意识形态的价值纠偏，提高识别价值偏离内容的精准度，自愿地建立自我规约意识。算法媒体的自我规约机制强调自身的内在规制，以丰富的媒体行业自我规制机制带动算法的规约。

其次，构建风清气正的算法价值文化氛围，有效发挥主流意识形态对算法的引导和凝聚，建立在法治基础上的算法监管规约机制。建立和完善与算法发展相对应的法律监管体系，提高算法规约的法治意识，依靠法律法规来化解和防范高校意识形态的算法风险。改变过去“问题倒逼”式的立法机制，加强算法规约立法的前置性和防范性。强化配套规章制度的制定和高校与司法部门的协同，提升算法规约立法的可操作性和指向性。

再次，在算法中嵌入主流意识形态的规约机制，为容易生产沉迷感的算法媒体加入提醒等规约机制，实现意识形态导向与算法更迭的高度融合。比如，“以主流意识形态算法”为运作逻辑的人民日报算法媒体平台“人民号”。“人工审查”对于算法的技术规约具有十分重要的作用，因此在研发和应用主流意识形态算法的过程中，必须把主流价值的信息“人工审查”和算法推荐融合起来。通过平台融合和技术规约，聚合和盘活高质量的内容并加以精准分发，营造内容鲜活创新和主流意识形态相聚合的算法生态。

(三)驾驭算法：算法风险管控主导化

驾驭算法是应对高校意识形态的算法风险的主导环节。在人工智能时代，算法权力对社会文化和个人生活的信息流通具有绝对的支配作用。要驾驭算法，让算法助推高校意识形态教育发挥引导大学生思想观念、凝聚思想共识的功能。这就需要一方面提升思想政治教育主客体的“算法素养”；另一方面将高校意识形态教育与算法技术深度相嵌，依托算法的精准化优势调适教育内容的信息结构和实践逻辑。

首先，思想政治工作者需要提升“算法素养”。一方面，思想政治工作者要积极融入大学生的数字生活世界，应当依托小数据的算法分析精准勾勒大学生的全面、立体、系统的画像，精准把握大学生的思想、知识、价值等多方面诉求和漏洞。[10]同时，也要杜绝完全依赖数据分析的工具理性思维，应该在与大学生的交流互动中把握他们的思想实质，提高思政教育效度。另一方面，要利用算法开展议题设置，纠偏算法媒体上泛娱乐化议题的泛滥，主动设置意识形态教育议题，利用大数据分析凝练体现国家意志的重大议题，及时抓住社会热点积聚事件，因势而谋、顺势而为地策划相关议题，驾驭数字舆论的主导权。同时做好议题引导工作，当监测到算法媒体对一些社会议题的讨论存在价值极化的风险时，思想政治工作者要快速介入议题的讨论，阻止议题的价值失序蔓延，恢复数字生活的价值秩序。

其次，培养大学生使用算法的能力和素养。要为大学生揭开算法具有流量逻辑的权力本质，解读算法的运作机理和潜在风险，使其懂得自身的数字行为与算法的动态关系，形成自觉摆脱算法支配的心智技能。提高大学生鉴别西方意识形态的内容，谨慎点击“流量标题”，增强利用算法对优质内容的“产消力”，以生动有趣的符号、图像、视频等形式生产主流意识形态解读性、分享式的副内容。将主流意识形态抽象性、严肃性的内容表述变成形象化、生动化的网络语体。“助推”主流意识形态成为热门搜索，上头条新闻，扩大传播力。

其次，推动意识形态教育载体的智能升级。一方面，主流媒体作为意识形态教育的主渠道，要做好自身智能转型的基础上与算法媒体相互融合。通过信息供给精准化和界面更新动态化优化用户体验，提高用户黏度。同时，依托算法媒体的平台优势融入意识形态教育的内容版块和超链接，增强对数字舆论的导向力。另一方面，利用人工智能的传播优势，探索意识形态教育话语创新，增强亲和力。在坚守意识形态教育内涵的前提下，借助表情、萌化语、vlog等轻松愉悦的数字话语形式表达出高尚价值、深刻意义的教育内容，从而构筑意识形态教育的价值根柢。