算法“舒适圈”及其破茧

2023-05-29张爱军贾璐

党政研究 2023年3期

张爱军　贾璐

〔摘要〕算法并不是单一、静态的，而是动态、优化中的应用，其作为大数据、云计算的結合体，属于人工智能时代的个性化与智能化的产物。算法推荐系统所产生的“舒适圈”一方面将受众潜在的惰性与人性真实地展现在社会公共层面，另一方面它也顺应了时代潮流，为经济发展的科技转型提供可选择进路。而算法技术借助被人类所信赖的数据信息进一步与人类的生活和工作融合、互通，并在有意识或无意识状态下将算法推荐信息嵌入人类的选择偏好中，并通过迎合受众喜好来建构可以束缚受众思维的“舒适圈”，对受众的社会共识、价值选择、认知建构产生影响。算法技术是不断发展着的应用型科学，如ChatGPT的出现。然而新算法体系的出现必将会对受众的生产生活带来一定冲击，因此，只有通过创建公开且透明的算法体制、遵循客观且简洁的推荐准则、打造开放且和谐的算法平台以及培养受众理性而独立的判断思维来削弱算法“舒适圈”对受众的消极影响，促使算法工具成为受众自我发展与认知世界的物质性介质。

〔关键词〕算法；信息茧房；舒适圈；破茧；ChatGPT

〔中图分类号〕D63-39〔文献标识码〕A〔文章编号〕2095-8048-（2023）03-0022-12

随着人工智能狂潮的兴起，算法技术在商业资本的推动下应运而生，其借助一套独特且有效的计算体系成功促进科技发展由局部创新向整个智能化社会转型。算法通常指在执行计算或者解决问题时所需要遵循一组包含离散步骤或规则的过程。算法技术的出现促使世界政治、经济、文化、社会等各方面发展与科技贴合得更加紧密，同时算法推荐机制也开始成为学术界讨论的热点话题。算法推荐系统作为算法技术的重要组成部分之一，学术界对其讨论多集中在算法推荐系统本身的讨论，即算法推荐系统的生成、危害以及风险规避，也有部分学者对算法推荐系统的操纵主体、发展方向进行研判，分析算法推荐机制的革新与发展。然而，学界在对于算法推荐系统所产生的现象分析上还有一定的讨论余地，本文将算法推荐系统所产生的算法“舒适圈”现象作为问题切入口，对算法“舒适圈”所产生的成因、表征、后果以及“破圈”进行详细论述。去冬今春在全球火起来的Chat GPT，是否给受众在心理、认知、价值等方面产生“舒适圈”也是本文探讨的重要内容。

面对社会中可能出现的复杂问题，算法通常会采用一套基本的运算逻辑，即以数字运算的方式将输入问题进行量化处理，并参考执行人的思想观念进行符合执行人的预期输出。算法这种参杂受众情感的简单化问题处理方式，在一定程度上也可以被视为是自动化执行人类意志的计算工具〔1〕。而一旦受众对算法类的使用性工具产生依赖，且在时间效果的加持下受众自身的自主性与独立性意识将会在算法系统的规训下逐渐削弱，甚至消亡，将自身困在算法建构的“舒适圈”内，成为资本盈利系统中的庞大基数之一。

一、算法“舒适圈”成因

算法并不是单一、静态的，而是动态、优化中的应用，其作为大数据、云计算的结合体，属于人工智能时代的个性化与智能化的产物〔2〕。算法的出现颠覆了传统意义上的信息生成模式与舆论构成逻辑，受众也由多元价值观的信息接触逐步演变成一元化的信息接收，然而长时间、重复化的信息接收就促使受众被困在由相似价值观打造的信息堡垒中，使得算法在受众无意识的状态下被引入其建构的“舒适圈”中，进而影响受众对政治、经济、社会的认知与判断。其中算法“舒适圈”的产生并不是由单一因素促成的，它的形成是主客观因素的结合，是社会与个人共同作用的结果。

（一）算法“舒适圈”形成的客观成因

第一，算法技术的生成逻辑。在数字科技蓬勃发展的今天，人工智能系统与人类的生活息息相关，并在实践运用中不断深入融合。算法系统在实际操作中通过排列、整合、协调被当成基础信息值的数据、算法、算力、场景四个单元要素，试图实现将人工智能与云计算、大数据和物联网结合以智能整个物理社会，发挥智能便利特性为人类搭建出算法“舒适圈”。依托技术所生成的算法“舒适圈”主要遵循两种算法建构模式，一是算法技术运行的内在逻辑，即算法的数字运行规律。算法系统作为人工智能体系中的核心部分，其以技术性表达为主，在运算中遵循推理方程式本身的逻辑和规则，同时以其特有的导出机制将决策问题输入系统参照历史实例进行对比，在此基础上生成决策规则或分类器，并对以此为参照实例作用于后续的问题〔3〕。其中算法推荐技术在算法“舒适圈”的形成中具有不可忽视的作用。算法推荐技术，是一种通过人工智能分析和过滤机制对海量数据进行深度分析、完成信息内容与用户精准匹配的技术〔4〕。受众在算法推荐技术的干扰下可能对某类信息由最初的模糊印象逐渐加深，进而在内容依赖与需求惯性中建构成舒适圈。二是算法技术运行的外在逻辑，即技术赋权中的算法控制。错综复杂、普遍链接的互联网延伸了现实社会权力的行使与操纵范围，当网络成为大多数受众的第一接触渠道时，技术赋权于算法本身，使得算法过滤系统成为权力挑选的把关人，被认同的社会性信息参杂政治观念被投入社会整体的信息网中，并在受众间不断传递，发挥其算法中所蕴藏的政治本身的权力，实现统一、有效的社会治理功能，借助算法大数据，发挥算法传播优势以外部权力控制的形式打造整个社会看似稳定、和谐的舒适环境。

第二，算法类型的现实应用。算法是以计算实现其功能的，我们解释、预测、处理或者解决问题都是通过算法进行计算来实现的。所以从目的论角度来看，计算功能的实现情况也规定着算法的特质，而算法“舒适圈”的形成也与算法特质与分类相关。依据算法的本质与特质可将算法分为：有限性算法与递归性算法。有限性算法指从计算功能的角度对算法的约束，即该算法必须在有限的步骤内解决问题。在算法运用中这需要两个前提条件：一是可计算，这是对计算对象的性质，意指计算对象原则上可由算法描述。二是能计算，这是算法本身的性质，意指该算法保证在有限的步骤甚至是特定的步骤完成对对象的计算，确定最终结果〔5〕。在实际运用中有限性算法多在于行政类算法、侦查类算法以及商业数据算法中体现。具体地说，行政类算法通常是作为政府的算法治理，即算法行政，以算法技术为新型政府治理术，将政府治理导入数字领域，生成基于现实社会的数字社会，进而产生新的权力机制，通过政府数据的收集与储存、数据挖掘、概率预测，使得“权力不再作为社会和个人的外在的力量，而是逐渐内化到社会与个人之中”〔6〕。正如算法概念从有限域拓展到了包含有限和无限或者无论有限和无限的全域，这样的算法回归了其本质“确定性递归”。即当算法不被要求一定要在有限步骤内完成则被称为递归性算法。这也促成了递归性算法的外在特性，发生以下几种结果：一是算法可能在有限步骤内产生结果，即在运算过程中转换为有限算法。二是在运算中无限递归，没有结果。三是计算过程时候停止不可判定〔7〕。然而无论是有限性算法也好，还是无限性算法也罢，其本质上都必然会遵循算法运行的既定规则。而长时间、多次数地按照一个既定规则运转的算法模式，必将会将重复性的价值观念、选择偏好、思维模式向社会、政府、受众持续输入，进而在算法的不断使用中加固已有“舒适圈”的边界壁垒。

（二）算法“舒适圈”形成的主观原因

第一，人的本性。作为物理世界主体的人，在科技发展过程中也逐步实现着人发展的自我延伸与自身意义。人作为算法技术在社会应用中推广的主要目标，其设计构思需与人性相符，可在使用中满足人的本性。需要注意的是人性与人的本性并不能混为一谈。人性是人的本然本质，这包含与宇宙万物相通或相同的共享本质，人的本性则是人类的本然本质之中的独特本质，即人类个体作为一个物种区别于其他任何种类个体的独特性〔8〕。关于人的本性主要表现为以下几大特点：一是理性。这个观点最早起源于苏格拉底。人是不同于物理世界其他种类的高级动物，有其独特的思维模式与思考惯性，可根据现实情况不同比较做出相对正确的选择。算法作为数据建构、集成的新型判断工具，以科学、严谨的数字计算为基底，搭建起逻辑严密、计算科学的数学逻辑，对其生成的结果人类不可避免地对其生成信任，于此，在时间的积淀下依赖算法的“舒适圈”便形成了。二是趋乐避苦。智能技术出现并快速被人类所熟悉、应用，帮助人类解决日常生活中力所能及的事情，满足人内在的自我惰性。网络时代，各类网络信息冗余、堆杂地呈现在人接触信息的移动端。智能算法的出现，对所有信息进行筛选、过滤、把关，提取人类迫切需要的、保留人类可能需要的并推断人类将会需要的信息，这满足了人类内在的享乐本质。殊不知在算法的编码阶段，内置算法改变了人原有获取和预处理信息的方式。虽然译码算法模仿人逻辑推理和思辨过程，却在实践中仍改变了原有传播的信息方式，使人在信息接收中陷入“类似”的怪圈。三是利己。人的本性本就是人所呈现出的多层次、多维度的独特本质与共享本质的有机统一。算法技术推荐的内容多为利于人自身发展的二次选择内容，与个人利己主义的本质相符合。四是社会性。人作为群居性动物，社会性是人生存与发展中不能脱离社会而孤立生存的根本属性。映射在算法中，即是算法的社会性，是算法依托技术逻辑而形成的制度延展或文化实践〔9〕。正因为如此，人将算法推荐内容作为自己选择和信赖的依据时，也是再次与人发展的本质相呼应，这是人陷入算法“舒适圈”的本质因素。

第二，人的认同。人所具有的社会性本质要求人在社会中寻找并满足自我认同与他人认同的精神需求。“认同”意指个体向比自己地位或成就高的人的认同，以消除个体在现实生活中因无法获得成功或满足时，而产生的挫折所带来的焦虑。人的认同不仅来源于自我的肯定，还来源于社会中他人的肯定。智能算法在运行中按照固有程序将纷杂的信息整合、归纳，最终生产出受众所需信息，并推送给受众。这种经过历史数据、人类行为训练的算法，在实践中都将会吸纳历史惯性思维和文化习俗并嵌入和编码于算法系统之中，同时算法项目人员在实际操作中又为融合算法设计者的偏见和数据采集者偏见的数据内容赋予标签，并融合中又不可避免地将自己的社会和认知偏见体现在选择标注词与删除相关数据过程中。经此操作的算法推荐内容是将多方意见和观点融合，与社会大环境的公共认同相似。当受众观点与算法推荐内容的观点相契合，受众易沉浸在算法推荐的与自身相似价值所建构的信息茧房中，并试图在此获得自身所需的自我认同与他人认同。然而算法系统中既定的传播内容和分发的趋同化在既定的议题中严重削弱了人应有的认知能力、创新能力和思辨能力，再次加剧了马尔库塞所说的单向度的人与单向度的社会趋势〔10〕。当受众长时间接触由算法自动推送搭建起信息茧房，受众将会被普遍自我认同与他人认同假象遮蔽双眼，削弱对客观事物认知的思辨能力，沉溺在算法建构的“舒适圈”对有着相似认同表象的内容推送无法自拔，从而忽视了实时变化着的客观现实与价值印象。

第三，人的安全。人的安全是指人在生产生活中免于饥饿、疾病、压迫等长期威胁，在工作、家庭和社区等任何日常生活场所免于危害性和突发性的干扰。而从价值层面理性分析，可将人的安全视为政治策略层面的和平红利，主要是强调现代社会中人对安全意义的理解和需求的多样性〔11〕。与传统媒体时代不同，数字时代下人的安全范围跨越了既定的概念，开始注重“人性”与“需求”。这主要是从本体论所指的物质性即不安全性的视角出发来判定安全与人性的问题。算法推荐内容以数字信息的形式将社会热议事件推送到受众面前，在人固有的群体性心理与好奇心的驱使下受众对算法推荐内容开始由被动向主动转变。这种积极行为的产生是人尝试以接触社会信息的方式来获取来自于社会的安全感，确保受众自身仍是与群体、圈层、时代密切相关的。且在受众在不断对算法推荐信息的理性接触中完成自身思想与观点的升华，可归为批判理性的需求认知路径。人的安全遵循客观的需求或心理的畏惧，需求能否被满足是人们产生安全感的基础，反之，安全感的匮乏来源于需求的匱乏性或无法缓解的匮乏性威胁。受众通过接触多观点的算法推荐内容进行自我观点的刷选，以此来满足自身的信息需求，找准自身的在互联网的圈层定位，谋求心理上的舒适与感知上的安全。这主要与人对安全认知的已知性相关。当算法推荐内容满足了受众所需的信息安全时，就使得人从意识形态层面上对算法推荐内容定义为安全性信息，并依据被定义的安全性信息生成安全符号，以安全符号的形式建构出算法传播的智能供给关系，将受众自身置于三维的算法关系安全网络中，并试图依靠算法推荐内容搭建的“舒适圈”获取长久性的安全。

二、算法“舒适圈”表现形式

通过对算法推荐内容所形成“舒适圈”的主客观原因进行分析，进而我们判断受算法“舒适圈”影响的受众将会表现出以下特征，目前炙手可热的ChatGPT也莫不如此。

第一，心理舒适。正如李普曼提出：“公众的观念来自于传媒所营造的虚拟环境与先入为主的成见或刻板印象”〔12〕，在算法所建构的数字环境中，大众心理的生成逻辑也将受到算法推荐、大数据筛选、云计算存储等新型数字形态的干扰，最终呈现出“排斥-疑惑-信任”的心理逻辑，并在算法所带来的便捷中逐步消解自身作为独立政治个体的主体性，沉浸算法所建构的“舒适圈”中无法自拔。由于算法是依据海量数字信息与强大的数字计算能力为其运行与落地的基础。所以算法内部结构的细致步骤并不易被广大受众所悉知。受众对算法的初步认识阶段，通常对其抱有戒备心理，更甚者会有不少受众群体依据网络中与算法相关的负面信息，从而产生一种恐惧心理，对网络中填写、收集各类个人信息、个人喜好的相关问题表现出排斥状态。人作为群居性动物，社会性是人发展的本质属性。当受众所处舆论环境逐步呈现出一边倒的倾向，尤其是在周边其他受众有意识或无意识的群体暗示、引导下，原本对其排斥的受众在好奇心的驱使下开始由排斥转变成想要初步了解，此时受众对算法的态度处于支持或反对的边界。算法推荐系统至少包括数据系统、分析系统、推荐系统三个子系统。三个子系统中，推荐系统居于核心地位，是实现个性化推荐必不可少的重要环节〔13〕。在对算法的多次使用后，算法以受众的个人的喜爱与偏好为模型，刻画出个人偏好画像，对受众需要进行预判，给予受众选择便利与价值舒适，使得受众在频繁使用中更加依赖与信任算法推荐内容，以致受众忽视了算法推荐内容外的意识观点、价值态度，仅将注意力目光投入在可获得心理舒适的算法推荐内容上。

第二，认知舒适。认知是指个体信息获取、存储、提取和应用的心理过程，具体包括个体思考抽象事物的能力和解决实际问题的能力，即个体信息加工的过程和能力〔14〕。在智媒时代，受众的认知随着接触到的社交媒体中信息内容的变化而不断改变。当受众所接触到的媒体信息内容与本体意识相符时，可判定为构成情景的存在物与受众的潜意识相同，双方在相契合的状态下形成受众视角的认知统一，各认知系统的组成部分保持在一个平衡、稳定、和谐的状态中。算法推荐系统的介入使得受众原先的认知形成过程变得更加简洁与精确。一般来说，受众对某一概念的认知过程存在两个阶段，第一阶段为认知图式形成阶段。这一阶段强调受众在对新内容完成认知程序时要经过接收、对比、选择、理解、接受五个步骤，而受众在面对算法推荐内容时通常会直接接收、理解、接受。这主要是由于算法推荐内容的信息是依据受众以往的价值偏好进行提前选择的内容，推荐内容就会与受众的价值观和态度相符。第二阶段受众会依据某一概念或知识形成的认知图式为判断外部信息的标准，当再次接触到同一认知刺激后会驱动意识引导行为做出反应。在算法推荐系统借助技术手段简化了受众对新事物的认知程序，以价值观相似的信息为受众建构了一个认知舒适圈，并将数字信息的生动性以音视频+动画的形式体现出来，这比“苍白或者抽象的信息更容易影响人的判断”〔15〕。如受众在与ChatGPT的对话、谈话过程更像是与拥有相同自然语言的“同类”进行交流，ChatGPT算法内部强大的算力与通用性是受众从算法本身获得精神认知舒适性的又一感受。这种有算法建构的认知舒适圈会促使受众在舒适圈内停留，也就意味着算法系统推荐内容与已展示出的内容是被受众所熟知的某类事物，在认知中形成同一节奏、同一模式的认知圈层，从而使受众在这种熟知的内容中获得安全感与舒适感，进而抵消面对未知事物所产生的无助、畏难、退缩的心态。

第三，价值舒适。“人的价值”不同于“物的价值”。人首先显现为个体性，这与人独立性与个体性的精神价值息息相关，同时人的价值也作为社会关系的体现。“人的价值”是索取与贡献的统一体，其中的自我价值表征的是任何“人的个体”，既是价值客体也是价值主体。人唯有通过行动满足自身需要，才能实现其自我价值。〔16〕“核心价值观”应是多种价值观的“交集”，即是“叠加共识”。人从出生初步接触到社会，并随着时间不断积累促成了原生价值观。然而现如今，随着智媒技术的迭代升级，人类原先拥有的学习能力、语言能力、行为能力甚至是价值判断都开始被智能技术所模仿，并通过算法推荐的方式传输到受众面前。且技术本身就承载着人类的价值，即机器则是被赋予价值观。当算法技术开始拥有价值观，智能化信息传播技术毋庸置疑也承载着价值并引导着受众的价值行为〔17〕。这种被技术所模仿所生成的价值观开始成为社会总体价值观的一部分，使得与受众价值观相同的基数被成倍扩展，大幅度增加了受众接受来自算法推荐内容过程中与自身价值观相符的概率。由此，受众在算法推荐内容的相似价值观中停留，甚至将自身意识观点借助算法推荐系统进行传播，其会将自身视为社会总体价值观的大多数部分，并在算法推荐内容中感受到来自价值观认同层面的满足，获得来自心灵上的慰藉，最终实现以自身为传播节点向社会传达自身的观点态度，完成思想上的分享与吸收，实现人生发展的社会价值与自我价值，拥有价值层面的舒适感。尤其是ChatGPT的出现，其内在强大的自主学习生成系统会通过人类反馈完成对自身内部数据库的微调，且在使用ChatGPT获得价值舒适过程中受众可不受ChatGPT算法推荐内容所产生的价值歧视、价值偏向等问题的困扰。这主要是由于ChatGPT算法内部设置的道德自我修正系统，ChatGPT作为大型语言模型会在实际运行中遵从道德指令，对接触到的消极道德进行拒答与自我修正。

第四，共同体舒适。亚里士多德认为，“人类生来就有合群的性情”，独居的原子个人不可能存在，“凡隔离而自外于城邦的人……他如果不是一只野獸，那么就是一位神祇”。〔18〕共同体的形成有各种纽带与模式，相对松散的社区、稳定的社群、圈子、族群都是共同体的表现形式。人作为群体性动物，会在本能的驱使下自觉地回归群体、靠近群体、融入群体。在网络中也是一样，受算法推荐技术的影响，拥有着相同价值观、相同立场、相同态度的群体会在无意识状态下不断汇集，以此获得报团取暖、相互支持的可能，最终以某一相同点为载体，相互连接形成共同体。在算法推荐作用的影响下，受众被框定在固有的群体价值观内，并重复地、高频率地接受算法推荐价值观的冲击，在一定程度上加固着不同共同体之间存在的“墙”。算法对某些共同体边界的维护，是算法赋权的一种表现。由于算法权力的运用，才将受众对网络信息的选择权限定在固有的范围内，使得原本像气态分子一样在不断运动着的受众寻找到合适自己的位置，就如同温度层效应一般，相似的气态分子向同一“高度”聚集，并在具体讨论、活动中感受由群体产生的归属感与舒适感。但是值得一提的是，同温层是一种流动的、想象的心理共同体，在不同话题、不同时期都会有不同的同温层，而在算法推荐的作用下受众可以随时、随地寻找到属于自己的同温层〔19〕。实践中的ChatGPT作为社会公共价值的汇集地，其是通过分析社会公共价值进而形成观点并对受众传输。因此，某种程度上类似于ChatGPT的“云端”的软件机器人，在价值层面更接近人，更接近于社会共同体，其使用海量的语料库来生成与共同体价值相似的反应，并通过有效场景的数据采集、大数据的储存、清洗和标注以及数据的质量检测三大基础步骤建构出ChatGPT的“大脑”，这个“大脑”的构成正是社会共同体的缩影与综合。

三、算法“舒适圈”后果

受算法“舒适圈”的影响，受众将会陷入“舒适圈”带来的心理舒适、价值舒适、认知舒适以及共同体舒适中无法自拔。当受众逐渐成为算法“舒适圈”所规训的一员，其原有的主体性与独立性将会被算法所消磨，致使受众在对事物的基本判断环节产生心理障碍、认知窄化、价值固化以及共同体封闭化等一系列消极后果。

第一，心理障碍。算法“舒适圈”不仅是受众个体发展的阻力，更会成为追求更高层次目标道路上的一种“心理阻碍”。算法嵌入受众生活的各方面，促使受众形成一种超越印刷时代的数字思维。数字思维主要基于数据和算法，并由此来实现对问题的求解，对行为的理解或更清晰具体的任务目标。数字思维帮助受众以更便捷的方法与更科学的思考视角解决问题，同时也容易使受众思维陷入“数字怪圈”，以相同的思维模式不停地在固定的轨道回旋。就如洞穴寓言中的篝火，其作为一种工具，投射的是可感事物的影像，从而给“囚徒”带来了认知假象与心理焦虑〔20〕。在算法所生成的场域中，社交机器人也是算法基础数据的重要组成部分。以网络为连接介质，社交机器人与人类受众、机器人本身以及资本操纵者建立着多方关系，以建构拟态环境的形式，模糊了受众对真实事件的认知。拟态环境是指大众传播活动形成的信息环境，是大众传播媒介通过对新闻和信息的选择、加工和报道，重新加以结构化再向人们所提供的环境。当一定数量的社交机器人与受众在舆论场内表达自身政治诉求、阐述政治意见时，算法便会基于整个舆论环境为背景对特定受众进行对比分析，以常用数据分析路径与偏好为运行轨道，挑选出最普遍认同的意见观点并推荐给受众。这种真假信息混合而成的观点可能与受众亲身了解到的信息不尽相同或者相反，影响受众对真实信息的正确判断，受众被困在算法生成的思维舒适圈，即使此时受众已经认识到选择可能存在偏差，而行为却无法及时做出挽救措施。其中观点与行为的不统一是受众产生心理障碍的主要原因。

第二，认知窄化。算法舒适圈通常在“信息茧房”边界固化中趋向稳定，在网络的无限空间内每个“信息茧房”的个体都可能“共享编码与解码”的过程，同时又在各自的相关网络组织之间游移，重新形成某个独特信息特征的“信息茧房”，并以惊人的速度吸引、聚合、黏着同类信息需求的人群，汇集成一定基数建构出新型算法舒适圈，在时间推移下成为受众认知发展的“可怕的梦魇”，形成受众认知拓展的“锁扣”〔21〕。与此同时，受众所接受到的算法推荐信息也并不是全权由受众的个人偏好锁决定，算法操纵者原始的算法偏向也会使得受众所能接触到的信息停留在某个圈子中。算法偏向是指算法在生成结果中系统性的、可重复出现的不同对象有不同的输出结果，或者是相同、相似对象输出了相异结果的现象，是算法在决策过程中对特定偏好、信念或价值观的一贯和反复表达〔22〕。而算法偏向的形成又与算法偏见息息相关，其形成根植于社会制度、算法实践和采集者态度之中。当数据集本身出现偏见时，由此衍生出的结果一定存在某种偏见〔23〕。当算法推荐信息成为受众认知世界的“枷锁”，而数据爆炸却又冲击着受众个人的信息储存内容，使得受众个人认知内的信息超载，促使受众对算法推荐系统产生依赖，企图在算法推荐内容中获取自我赞同与自我价值。而在这个过程中受众却忽略了算法推荐内容对整个社会信息的过滤作用，算法偏向与算法偏见可能阻碍异质性的信息消费与多元化观点间的信息交流，导致受众处于算法打造的“无菌环境”或者一個个性化的“过滤气泡”中，这显露出个性化信息推荐系统服务所产生的“信息偏食”现象，将会造成受众认知窄化并对其观念与行为产生影响〔24〕。因此，从安全认知角度，我们要警惕ChatGPT形成“信息茧房”。

第三，价值固化。算法作为人类社会实践与经验的反应，其并不是多个简单的技术的堆砌，而是一套复杂的社会系统〔25〕。算法可通过历史数据生成干扰受众的决策系统，搭借媒体传播的便利特质建构镜像社会。当镜像社会成为受众信息来源的重要参照物，受众对算法内容形成参考性依赖，将会触发受众内在的上瘾模型，形成算法式的价值固化。上瘾模型由四个阶段组成：触发、行动、多变的酬赏、投入，其最初被应用在商业改革中，旨在为企业打造一款与受众密切相关的习惯养成类产品〔26〕。数字时代的算法推荐机制也同样借助了上瘾模型理论与受众建立习惯性的联系。在触发阶段，算法推荐系统会自动捕捉受众偶然间的某种举动，从内部和外部两种触发路径为其量身定制一套算法推荐程序，引导受众进入下一上瘾阶段，即引发受众行动。行动是受众在使用产品过程中期待酬赏的直接反应。想让受众行动起来需要充分的行为动机、完成这件事的现实工具与能力以及促使受众付诸行动的出发点。当算法推荐内容、观点、态度在不断接触中被受众所接受，为获取更多相关的信息，受众将会尝试主动获取这类信息以满足自身需求。简单、短暂的兴趣点不足以成为长时间支撑受众保持热爱的条件，这时酬赏的作用就被显现出来了。酬赏作为受众使用产品的行为目的，保持酬赏的多变性能够从多维度刺激受众，让他们对产品保持长期兴趣。在多变、叠加的酬赏效果下，即便受众感知到算法推荐内容的相似性也不愿从算法舒适圈的场域中跳脱出来。酬赏效果可被判断为受众陷入算法推荐系统，重复接触相似信息，形成价值固化的主要因素，这并不是受众不自知的无痕行为，而是受众被算法酬赏吸引后的自主选择。在这种情况下，受众因受所获得的酬赏影响，便会加大对算法推荐系统功能的时间投入、金钱投入，并在投入阶段再次遇到与受众观点相似的触发机制，诱使受众重新进入信息上瘾模型，使受众的思维价值持续固化。

第四，共同体封闭化。算法技术对社会关系的建构是对社会关系的重置，这种关系的重置可能表现为对原有社会关系的强化、消解甚至是颠覆〔27〕。同一圈层内相同信息的重复传递，会促使受众自主性消解对新问题的思考，将自己密封在感知共同体的封闭圈层。自主性消解是指在独立自主选择的维度上，算法权力主体对公众的“微控制”消解了公众的自主意识。算法权力的“微控制”指算法权力主体能够将任意的决定施加他人，这些决定对个人而言微乎其微，但日积月累便对他们的生活产生重大影响〔28〕。群体是由个体组成的，个体不能脱离群体而存在，并受到群体的制约。尤其是在政治生活中，受众在对媒体信息的选择性接触上也会受到来自群体政治态度与立场的干扰。在沉默的螺旋作用下，与受众自身需求相关的相关圈层在为其带来精简信息的同时，也会被圈层内的算法“微控制”所干扰，使得少数观点的用户很可能会在圈层环境压力中被迫改变自身原有的意见，依附于较多数量的圈层意见，这可能改变受众将要形成的或已有的政治立场，是由于受众在议题圈层中得到了来自他人对自身政治态度、价值、观点的肯定。这就暴露出了在数字技术时代，算法推荐系统所建构的“舒适圈”可能引发的“政治腹语”问题，其影响正常的政治秩序运行，形塑了背后操纵者所期望的政治格局，使受众逐步在信息“舒适圈”中迷失自我，社会共识建构困难，易造成政治极化与圈层共同体封闭化的现象。

四、算法“舒适圈”破茧

算法作为一种求解逻辑，被应用在社会生活的方方面面。互联网运行的建构逻辑是将人、物、事等分别当作不同性质的链接节点，把符号化、数字化的社会事件看作绳索，从而编织成为信息网络，在具体的社会事件中完成人与人、人与物、物与物之间的有效链接。而算法技术借助被人类所信赖的数据信息进一步与人类的生活、工作融合、互通，并在有意识或无意识状态下将算法推荐信息嵌入人类的选择偏好中。在多次尝试下，算法最终成为人类发展过程中认识世界与实现自我价值的基础工具。也正是因为受众对算法技术的信任与依赖，从而诱发了一系列由算法技术引起的社会风险与偏激，使得算法治理成为国际社会共同关注的热点话题。

第一，创建公开且透明的算法体制，打破“算法黑箱”。算法在科技发展中不断自我革新，逐步成为人工智能项目的核心技术，强大的数据处理和预测分析能力而成为国家发展、政府管理、社会治理中的重要决策性工具。受众被困在算法推荐系统所建构的“舒适圈”内不断接受相似与固定的内容，这与算法缺少公开、透明的算法机制有密切关联。算法推荐系统的运行逻辑是依据算法设计的内在程序而定的，并不是无目的的盲目推荐。而算法推荐的体制则是受到算法设计者自身的理念干扰。算法设计者大都来自社会资本方，其企图以收集受众注意力的方式来获取的更大经济利益，因此由资本主导下的算法设计者会将资本目的与受众数据共同混入算法推荐系统，给予资本在算法推荐系统内部进行暗箱操作，促使算法偏见、歧视、操纵等风险成为算法系统内部机制的主要问题。正是因为算法运行逻辑的隐蔽性、机密性以及机器学习，特别是神经网络技术特性导致的透明性与可解释性不足等问题的出现，算法社会也被视为“黑箱社会”〔29〕。

为创建公开且透明的算法体制，需从算法黑箱“内部”与“外部”双重维度进行规制。优化算法技术是打破算法“黑箱”程序的内部手段。算法是有众多受众关系节点与网络系统连接而成，其以庞大的基础系统为传播基础，虽实现了将节点性传播在世界范围内无限扩大，却也加剧了可能发生的技术故障与黑客犯罪频率，使得遍布全国的算法推荐系统成为暗箱操作的灰色地带。只有不断完善算法推荐系统内部的技术规则，优化技术在算法推荐系统使用效能，建构以技术为主的算法安全壁垒，充当好受众接收信息过程的“数字看门人”角色，才能厘清算法内部的规则问题。同时从算法运行的外部施压，即在一定范围内依靠社会舆论、社会法制来规制算法“黑箱”对受众推荐信息的全权操控，将智能化的检测预防手段与实时性的安全制止手段结合，督促算法推荐系统公开、公正、客观地发展，打造出一个具有真实度、可信度、透明度的算法体制。例如，ChatGPT在自身的程序设定中已经阻止了数百个参与者滥用GPT-3，并建立了数据过滤程序，在与受众进行自然语言对话时可过滤掉其中最恶劣的输出、屏蔽掉有違伦理的输入。尽管ChatGPT 生成的文本是对已有或现有知识的重构，一定程度上是将系统所认同的合理的答案向受众传递，可以说，ChatGPT生成的答案是以整个社会为基础进而综合性判断的结果。

第二，塑造理性而独立的判断思维，培养“理性算民”。当数字技术不断嵌入受众的日常生活，算法推荐内容也将会随着互联网的应用与普及而成为受众了解社会信息的第一选择平台。受众在受多次算法推荐内容的影响中形成具有自身特色且被自身认可的价值观，并将算法推荐系统当成寻找相同或相似价值观群体的连接介质。当受众成为价值群体中的一员后，便开始频繁与群体成员分享自身的观点，以寻求圈层内部的认同，而在群体意见不断汇集，直至一定规模，被情感驱使的群体极化便出现了。这时受众情感选择超出理智的信息判断，使其面对与其自身意见相左的观点时出现愤恨心理，无法对实时变化的信息进行理智判断，只能在算法推荐相似价值观的信息舒适圈内徘徊。这主要由于情感是一种道德能量和社会资源，由于信息公开渠道和社会参与渠道还不够畅通，导致部分公众在无法获取真相的前提下，转而使用情感化叙事手段来进行社会动员，从而产生“舆论倒逼”效应。

以公开公共信息场域为前提，通过培养理性算民的方式来消解算法带来的圈层禁锢。要想引导受众理性而独立的社会政治参与行为，就要为受众提供透明化的社会舆论场域与信息选择场域。“公共信息”是具有一定公共性特征的信息，它应当是公开的、涉及社会成员普遍利益的，有关公共信息的传播和讨论是社会成员普遍参与的〔30〕。ChatGPT在基础模型GPT-3.5上进行了两次微调，分别以人工标注的对话数据和人类反馈的强化学习步骤进行微调，即使每次微调的数据仅是海量数据的微小部分，其也会在人类的互动中展示出强大的通用能力。尤其是在对公共事件的判断上，数据语料库的微调在一定程度上是对社会舆论事件细节的补充，是公众了解真实、全面、客观社会舆论事件的前提。且无论ChatGPT是根据受众自身意见更改其表达还是对ChatGPT对话内容做出存疑，ChatGPT都可以快速、准确地捕捉到受众所表达出的修改意图，并且会依据所修改的部分再次做出与受众价值认同更贴合的正确解释。模型的指令微调过程是一个用人类意图来激发语言模型潜能的过程，但是人工构建指令微调数据的过程可能会受到各种主观因素的影响。因此，可以将ChatGPT内部微调系统的自我否定性，看作是人工智能进行政治参与的一种表现形式，这种政治参与的外在表现者虽是拥有政治权利的一般舆论主体，但从深层次分析发现公众实则是人工智能系统所表达意见的执行者，人工智能将集体意见中和产出其独特的观点、意见再借人的行为、话语、意识展现出来，这实际上就是主观态度向公共舆论的情感转化过程，并在公众与ChatGPT交流中完成公共情感表达的“二次转化”。正因为数字时代发展中所具有的开放性、包容性，社会意识形态才会存在分殊和异构性，使得各类与主流意识形态不相同的观念借助新媒体平台或人工智能技术系统扩散传播。因此，要利用好社交媒体平台中纷杂多元的社会信息赋予受众更多的信息选择权，提高自身对数字化信息的辨别能力，做好数字工具仅提供信息的参考性定位，打破算法推荐系统信息输送的垄断权，保护受众基本的自主选择权，引导受众理性而独立的判断，使得被算法覆盖的媒介也可以成为理性算民自由表达的交流平台。

第三，遵循客观且简洁的推荐准则，打开“信息茧房”。“物以类聚、人以群分”形成的圈子是人类社群关系的一种基本常态。受众通过血缘关系、地缘关系建立相对稳定的社会关系，并以某种联系为介质发展成固定的圈层传播。而互联网的出现打破了传统意义上的社会圈层。圈层结构演变成互联网用户的一种基本构成方式，信息在群体之间传递〔31〕。算法推荐系统以网络现有圈层为深度嵌入环境，与受众日常化的信息获取、知识体系建构交织在一起，由于不同受众的个人偏好、观念差异和群体认同都不尽相同，当受众信息沟通中的“知识沟”向“信念沟”过渡，社交媒体传播就转变为一种基于价值观的传播，受众之間关系也在互联网圈层中被重构，所建构的互联网新圈层化给社会成员带来了新的社会生存方式，这同时也造成了离散与沟通层面的圈层阻隔，使得网络“巴尔干化”的生成，圈层间的交流壁垒在算法推荐系统的偏向内容发布中持续加厚，形成层层包裹的信息茧房，促使受众中只关注自己选择的内容、使自己能够安慰和愉悦的传播世界〔32〕。但这也表明了受众的信息获取过程中可能会发生的信息选择行为被省略，显露出由算法推荐系统所导致的信息的选择性趋近或回避现象〔33〕。

以剃刀定律为算法运行准则，削弱信息茧房建构的交流壁垒。奥卡姆剃刀定律又称“奥康的剃刀”，它是由14世纪英格兰的逻辑学家、圣方济各会修士奥卡姆的威廉提出的。这个原理称为“如无必要，勿增实体”，即“简单有效原理”。智能算法分发的根本动因是应对“超载”危机，这种“信息超载”的状况，本质上是传统信息处理范式的危机〔34〕。但由于资本注入算法系统后，算法分发的内在动因被改变，商业资本的需要超过信息超载的危机，成为算法分发的直接动因。算法系统对信息的推荐并不是遵循剃刀定律去选择对受众最有效、最简洁的内容进行推荐，其推荐内容并不能为受众提供直接有效的答案，更多是相似甚至重复的选择。因此，算法推荐内容过程中遵循客观而简洁的运行准则，是打破算法所建构的信息茧房最为有效的方法。

第四，打造开放且和谐的算法平台，推进“法治建设”。信息环境作为受众信息来源的基础场域，决定着受众获取信息的方式、日常的社交渠道以及传播信息行业的结构变化〔35〕。互联网和社交媒体等新媒体传播形式的出现，结束了受众从固定来源与单一内容中选择性接触媒体信息的时代。新媒体传播所具有的开放性与平等性特质，为受众依据自身偏好、自由地进行选择性接触提供了契机。然而算法推荐系统的便利性再次将受众的注意力目光吸引，模板化、娱乐化、趣味化甚至低俗化的算法推荐内容将受众的自主选择行为的热情浇灭，受众被开放的算法系统牵引，逐步迷失在泛娱乐化的推荐内容中。尤其是当ChatGPT与元宇宙虚拟技术相结合，这种数字科技“强强融合”的机制，会进一步使算法内部运行规律与运行轨迹复杂化，其可能存在的可操作性与系统漏洞加剧了算法偏见所产生的非理性表达，是建构透明算法体系、打造规范化算法平台的又一难题。

精准把控算法治理节点，打造健康、和谐的算法环境。算法治理的节点选择主要分为两种，即过程治理与结果治理〔36〕。过程治理主要是侧重在算法运行中的规制与约束。然而算法作为由代码连接且结构化的一系列问题和求解模型的集合，是对现实问题与复杂代码之间的形式换算，在无形中加剧了算法运算的复杂性，而算法的复杂性也致使算法自身始终处于迭代之中。同时需要注意的是，算法不仅是与算法交互，也与人类行为或事物的发展变化交互。这种持续革新与多重交互的动态算法运行逻辑加剧了算法过程治理的难度。由于算法作为人类行为的产出，其并不具有主体性意识，因此算法治理的有效行径还需考虑从人类生产算法的结果入手。结果治理主要是从算法运算所产生的社会结果入手。即在运算后，以法治法规或其他手段对算法进行规制与约束。其与过程治理相比所花费的社会成本较小，这也是目前国际社会偏好的算法治理选择。与此同时，坚持和发展“党管媒体”原则也是算法治理的一项重要举措，将马克思主义新闻观贯穿始终，坚持以人民为中心加强党的领导，坚持党性与人民性相统一，建立和完善传媒法律法规体系，推进媒介治理能力和治理体系现代化，形成符合新时代发展的“党管媒体”策略原则〔37〕。

五、结论

算法的出现颠覆了传统意义上的信息生成模式与舆论构成逻辑，使得算法在受众无意识的状态下被引入其建构的“舒适圈”中，成为资本眼中的廉价数字劳工与政治视角下的权力基础。本文针对算法所产生的“舒适圈”现象，以算法自身运算机制和使用者本身为切入口，通过对算法推荐内容所形成“舒适圈”的主客观原因进行分析，从算法的生成逻辑与类型的现实应用两个视角阐述了单纯的机械技术如何成为算法“舒适圈”建构的框架，从人的视角参悟算法“舒适圈”对人性的吸引点，并对受众陷入“舒适圈”所显示出来的心理、认知、价值表征进行深度解析，研判算法“舒适圈”可能产生的一系列消极后果，有针对性地对算法“舒适圈”提出破圈的可行性进路，促使算法推荐系统成为真正意义上的受众认知工具。为更好地适应将科学技术发展与社会发展相结合，只有通过创建公开且透明的算法体制、遵循客观且简洁的推荐准则、打造开放且和谐的算法平台以及塑造受众理性而独立的判断思维来削弱算法“舒适圈”对受众的消极影响。同时，也要认识到算法技术作为不断迭代升级中的数字技术，每一代技术的出现必将会掀起一场科技浪潮，成为受众自我发展与认知世界的物质性介质。就如2022年底美国人工智能实验室OpenAI所推出的ChatGPT，上线5天时间注册数量就突破百万，其在算法系统运算中以自然语言交互的通用语言处理系统完成了对传统算法系统与社交机器人的“奇点性超越”，尤其是经过训练和修复更新之后的GPT-4，在实践应用中不仅可达到一个相对稳定的状态，还拥有强大的识图能力、图文输入与输出以及自动对相关语料的正确性进行研判，借助令人惊艳的通用性来解决受众提出的各种复杂问题，并在与受众互动中对内部数据进行微调，完成人类反馈强化学习指令，以适应受众不断更新的认知系统与语言习惯。此外，目前所呈现出强技术性的GPT-4版本并不是人工智能机器人的终结模式，其是在时间与科技发展中持续保持活力的物质性技术。ChatGPT发布后的快速普及应用，促使其代替原先的搜索引擎成为受众探索未知事物获得答案的物理性工具，随着ChatGPT技术的迭代升级，人工智能与算法技术所迎来的技术范式革命也必将影响社会公共信息的来源与评判标准，对社会公共舆论发展产生颠覆性影响。因此，我们要对发展中的数字科技与算法技术形成正确的认知，把握好应用的边界与限度，使得算法平台真正成为受众自我发展中的理性认知工具。

〔参考文献〕

〔1〕〔3〕〔22〕〔26〕陈昌凤.社会和技术属性与算法偏向〔J〕.人民论坛·学术前沿，2022，（17）.

〔2〕〔20〕许加彪，王军峰.算法安全：伪舆论的隐形机制与风险治理〔J〕.现代传播（中国传媒大学学报），2022，（8）.

〔4〕姜圣瑜.沉浸式信息流投喂：重塑技术与价值的内在逻辑〔J〕.当代传播，2021，（3）.

〔5〕〔7〕張本祥.算法视域下人工智能的分类与哲学思考的进路〔J〕.自然辩证法研究，2020，（4）.

〔6〕陈禹衡，陈洪兵.反思与完善：算法行政背景下健康码的适用风险探析〔J〕.电子政务，2020，（8）.

〔8〕江畅.人的自我实现——人性、人格与人生〔J〕.求索，2019，（4）.

〔9〕孙萍.算法化生存：技术、人与主体性〔J〕.探索与争鸣，2021，（3）.

〔10〕兰帅辉，尹素伟.数据、算力和算法：智能传播的多维特征、问题表征及应对〔J〕.当代传播，2022，（5）.

〔11〕亓光.面向政治安全：超越“人的安全”与重释安全〔J〕.探索，2015，（4）.

〔12〕胡翼青.大众传播学抑或大众心理学：对美国传播学主导范式的再书写〔J〕.国际新闻界，2019，（8）.

〔13〕王华华，王永益.局限及其规避：智能算法在铸牢中华民族共同体意识中的运用〔J〕.中南民族大学学报（人文社会科学版），2023，（2）.