大数据时代算法偏见与数字魔咒*——兼谈“信息茧房”的破局

□文│范红霞 孙金波

当前，大数据技术在新闻传播领域的应用催生了算法新闻。算法技术不仅越来越多地贯穿于新闻和信息生产与分发过程中，并在用户认知和价值理性层面也日益凸显其建构作用。但是算法技术也造成了一个悖论：一方面，它有助于推进数据开放运动，形成“鱼缸效应”，降低了人们获取信息的成本，加快建设透明型政府、透明型社会的进程；但另一方面，因为算法收集、筛选和过滤机制的运用，也有可能形成 “信息茧房”效应，最终与我们所希冀的开放、包容、分享、融合的信息化初衷背道而驰，进而成为阻碍民主、钳制理性、丧失互信的渊薮。本文试图就这一悖论现象进行深度剖析，并寻求“破茧”之道。

一、“信息茧房”的伦理风险和社会反思

“信息茧房”概念的提出，其理论依据就是公众个体的信息选择以及据此进行的信息推荐和“信息定制”，在主客观两个方面造成了用户自身的信息封闭。再把目光放到更加宏观的层面，“信息茧房”效应，可能会走向崇尚开放、互动、多元的互联网精神的反面——即信息封闭、信息偏见和算法专制。

首先，对个人与社会两方面的影响。对个人而言，“信息茧房”虽然迎合了用户的需求，但是，它将用户的注意力与时间局限于虚拟空间，使其沉溺于个人趣味和信息选择，以至于出现更多“孤独的自我”。这可能会加深用户固有的偏见，导致个人的自我认知偏差和非理性的膨胀，以至于容易形成偏激与极端的观点、言论或行为。对社会而言，“信息茧房”在满足个人信息需求的同时，也限制了公众的交往理性，甚至容易制造群体极化现象。公民虚高的自我认同度降低了其对于不同观点的包容度，也在一定程度上堵塞了社会信息流通，不利于社会和谐和稳定。”[1］此外，它也不利于推进集体协商和社会协作体系的形成，由此加深了社会的分裂而非实现社会整合。

其次，搜索引擎催生新的社会规范。我们依靠它提供事实——却从不怀疑为什么是这些事实而不是那些事实。2016年魏则西事件，后来虽然归结为百度搜索的竞价排名规则的恶果，但是这也从另外一方面说明算法对我们的判断所施加的影响。“过滤气泡”的搜索算法，一方面取悦于我们的个人主义观念，另一方面也加强我们对某些问题的“既有看法”；排斥那些与我们“格格不入”的观点和问题，最终加深了社会中隐蔽的歧视行为。而且，算法专制也使我们无法摆脱算法设定中的各种偏见和意识形态的影响。“正如议程设置带有浓厚的政治意味和意识形态色彩一样，新闻挖掘和分析算法在回答特定问题时，也会带有某种偏见。当我们搜索某个人的信息时，如果算法提供不友善的搜索项后，本来对他不了解的用户在搜索他的信息时可能会被引到某个特定方向。因此，算法不仅仅是在预测，还有助于控制用户的行为。”[2］它将特定选项呈现于用户面前，用户只能从中做出选择，从而影响到其决策行为和后果。

最后，算法还能够被赋予舆论引导的作用。伴随传播权的下放和公众参与程度的提高、网络社群的聚集、信息体量的巨量增长、社会化媒体的高度市场化等原因，以往深受大众媒体新闻选择原则所影响的议程环境，不仅其主导权受到制衡，而且将受到更多复杂因素的干扰。比如，社交媒体的话题和热搜榜取代了传统的议程设置。舆论中心由媒体转移到了社交平台上，话题的引爆和引流，其“开关”操纵在算法的程序设定里，而非用户想当然地自主“投票”。如新浪微博基于单向投票的排序算法，优点在于充分释放用户的传播权，信息的价值高度依赖于用户的态度和行为来塑造，提高了用户的主动性和自组织性；但单项投票机制的弊端也同样明显，即反对者的态度和意见在单向投票的排序机制中难以体现和表达。导致微博上明星八卦、娱乐类信息、各类段子长期占据热门排行榜，甚至“标题党”横行以博取用户眼球。

二、数字圆形监狱与算法魔咒

另一个值得关注的问题，即算法专制可能形成的“数字圆形监狱”。圆形监狱由英国哲学家杰里米·本瑟姆（Bentham，也译作边沁）于1785年提出，他认为这种建筑构想可以为实现权力提供一种简单而有效的手段。[3］而在福柯看来，到19世纪中期，圆形监狱机制扩散到整个社会，社会中遍布“圆形监狱”，整个社会成了某种程度的监狱社会。福柯曾把新闻界的作用描述为“观看的政治”。[4］在监狱社会中，所有人都落入了规训的技术网络不可自拔，所有人都不可避免地成为现代监狱社会的一部分。

媒介技术沦为社会监控的工具。比如有线电视或闭路电视，以及卫星定位手段等，都可以让我们体验到那种控制与监督的关系。随着互联网和大数据技术的广泛运用，圆形监狱模型或隐喻体现在更多方面，如无处不在的监控探头、麦克风、GPS、LBS、传感器设备、手机镜头、针孔摄像机等，将我们的一举一动尽收眼底，甚至包括我们在浴室和卧室里的私密情形；只要我们使用网络和智能手机，后台设定的数据收集技术，可以不经过我们允许，在我们毫不知情或者有意降低风险性而让我们乐意配合的情况下，收集我们的地理地位、IP地址、浏览习惯和历史记录，等等，甚至能准确定位，预测我们的购物清单和生活事件，对我们的恋爱和婚姻、包括孩子的长相、血型等进行速配和分析，其结果也往往准确得可怕。我们身陷于数字化网络，受到严密监控而不自知，也可以说无能为力；我们的个人信息和隐私在监控者眼中一览无余，毫无秘密可言……种种情形，我们可以称之为“数字圆形监狱”。我们被算法支配和统治，作为用户的知识兴趣、网页浏览习惯和历史记录、购物数据、社交网络、情绪喜好等数据，都在后台被记录、收集和分析，并用于政治和商业化目的。每个用户都会不知不觉间落入“规训”的技术网络，可能面临隐私泄露和信息攻击的风险，个人自由、信息权利和社会秩序将受到严重冲击。

“信息茧房”“圆形监狱”等名词，代表着一种空间政治的隐喻。事实上，空间也是一种权力形式，而上述这些“想象的空间”更是实施权力的一种途径和模式。借用福柯的说法，它们表达了“权力与知识之间的关系。而知识权力在具体运作中，可以借助空间技术加以支配和实现。“信息茧房”和“圆形监狱”表达了一种隐喻：即信息传播技术加强了对个人的控制，个人主义的崛起导致社会的碎片化；与此同时，资本和权力借助技术手段强化了少数人对多数人的监视，个体已经丧失了个人隐私和个人自由（比如说信息选择的自由）。而且权力的实现只需要花费最小代价，只需要“一种监视的目光，每一个人都在这种目光的压力之下，都会逐渐自觉地变成自己的监视者，这样就可以实现自我监禁”。[5］技术强权带来的封闭与专制，对于我们所倡导建立公民自治的开放型社会来说会造成极大破坏。

三、茧房突围——精准匹配、深度学习与自我的重塑

“信息茧房”的困境是由算法技术造成的，而其“突围”也要从技术结构本身来进行突破。比如“在线新闻”强调信息的精准匹配，“深度学习”的概念不仅适用于人工智能，也同样适用于个人，在“连接一切”的互联网精神指引下突破窠臼、实现创新。

1.下一代新闻：匹配比供给重要

在信息爆炸的时代，碎片化的时间和被割裂的注意力，以及对于速度和效率的极致追求，如何在最短时间内获得自身需要的信息，不仅仅是个人能力的体现，更是未来媒体的使命。仇勇提出了“在线时代的新闻”这一概念，并据此给出“在线新闻”的定义：“在线时代，新闻是你看到的、与你相关的被传播事实的呈现。”[6］在这个定义里，突出和强调的是“你”——也就是受众所关注到的、所认知的事实。而且，这一事实也颠覆了所谓新闻“客观性”的原则，因为受众关注到的，仅仅是“事实的呈现”而已，它可以是文字、图像、声音，甚至是虚拟场景或者一串密码等。如此一来，新闻可能不一定要由记者编辑来报道，个人也能成为新闻/信息的发布者。这就使得个人间的信息交换与共享变得十分方便和快捷，并且成本低廉，而信息价值则随着“个性化新闻”潮流兴起而实现增值。另外，随着信息公开程度与执法透明度不断增加，过去由政府部门和大众媒介所垄断的信息资源/权力逐渐贬值。当新闻由垄断走向开放，对于个人的意义而言，信息的匹配性在重要性程度上远远超过了信息的供给。

最重要的是，新闻“与你相关”。随着个性化新闻潮流的出现，互联网重新让新闻变得与每个人相关。我们更倾向于选择与自己相关的那些信息。因此，在崇尚个性化和精确匹配的算法时代，我们对于新闻的需求和判断标准，正在走向“匹配比供给更重要”。与其说我们担心“信息茧房”对个人造成的封闭，毋宁说，今天的受众，更需要与自己兴趣和需求相匹配的新闻信息，而主动过滤掉与己无关、占据精力和时间的无效信息，从而大大提高获取信息的效率。

2.深度学习和“连接一切”

在笔者看来，关于“信息茧房”的预言，仅仅说明了“信息定制”的一种可能性后果，而它可能忽略了人作为“社会行动者”的主动性。这种主动性至少体现在三个方面：①个人主义的抬头，以及社会流动性增加带来的多样化兴趣。今天，我们更多地强调“跨界”这个词语。所谓跨界，就是不断打破自己的“舒适区”，去探索未知领域，寻找新的兴趣、知识、工作机会、人脉资源和事业空间。而要做到这一点，必须要打破信息封闭，以开放心态拥抱外部世界，以海纳百川的精神，以及深度学习、终身学习的理念，不断强化和丰富个人的知识储备和信息仓库。②“连接一切”的互联网精神旨在打破封闭，扩大个体参与，也有助于实现“自我的重塑”。吉登斯认为，现代社会对个体自我认同造成的两难困境之一就是“统一与破碎”，但是他也乐观地指出，“在后传统秩序中，无限多的可能性不仅体现了行为选择的多样性，而且也体现了世界对于个体的‘开放性’”。[7］这种开放性正好处于封闭的对立面。互联网的本质是“连接一切”，在技术上实现万物连接，同时实现信息在最大范围上的流通与交互。这种网络关系与现实生活中人们的社会关系以及社会行动也会彼此投射，个体会积极投身于社会变化，通过努力学习和行为调适以适应环境，实现“自我的重塑”。③互动场景多元化和社会分工3.0模式出现，造就个体多元的身份认同和身兼数职、实时协作的“斜杠青年”潮流。伯杰强调过现代社会的一个突出特征是“互动场景的多元化”。“在许多现代情境中，个体会卷入各种不同的困境和环境中，而每一种具体的环境都会要求有不同的‘得体行为’与之相适应。”[8］数字化时代赋予人们不同的数字身份，而场景的多元化则有可能促进“自我的整合”，即为了消除差异和适应环境变化的需要，人们更有可能发挥个人的积极性和主动性，从不同场景中获取信息、知识和力量，利用这种多元化创造独特的自我身份认同——即“斜杠青年”的兴起。

所谓“斜杠青年”，是指在以互联网为代表的信息技术推动下，过去的专业化分工现在可以通过众建、众包、众创等方式完成，其中，个人的职业身份由过去的固定和单一的契约化身份，逐渐叠加了更多身份，一个人可以身兼数职，拥有多种身份和职业，如程序员/钢琴师/健身教练/创业讲师，等等，我们形象化地称之为“斜杠青年”。[9］互联网让人和组织的关系变得更加自由而灵活，个人获得了极大的自由和时间自主权，个体也能够成为新的、独立的经济单元。这就是社会分工3.0范式。它的本质是去雇佣化，旨在建立更加平等和自由的关系模式。如此一来，出于社会分工和职业需要，人们会更加主动地寻求新信息、新知识，学习新技能，重塑新观念，如此一来，就更不可能将自我封闭在狭隘的“茧房”中。

3.技术结构不等于社会系统

麦克卢汉认为，“媒介即信息”。在他看来，能够改变世界和观念方式，是媒介的形式而不是传播的内容。从本质上来说，这也是“技术决定论”的表现之一。此外，技术决定论的线性思维，不仅仅体现在技术乐观主义者身上，也同样体现在技术悲观论者的论调中。无论是过分溢美技术带来的变革和进步，还是忧心于技术给社会秩序和传统文化、观念造成的颠覆与破坏，它们都只看到了技术的单面作用。事实上，社会变化（进步或倒退）都是各种复杂因素和过程叠加的后果，包括社会的整体环境、政治与经济生活。一个单独的技术不能创造或破坏社会，而是取决于技术的使用者如何利用技术，以适应社会与时代的需要。“媒介提供了一个信息传播的技术条件，但不能决定什么信息是应该被传播的。媒介本身并不能禁锢人的思想或者使社会文化自动走向民主，而是整个社会、政治和经济生态中的一部分。技术工具和社会应用的关系是一个适应关系，体现了社会和政治的选择。”[10］互联网、社交网络和算法技术的推广普及，让信息生产、筛选、共享和推荐变得方便快捷，它们为人们提供了一个数字化、即时性、多元交互和精准匹配的信息交流平台，所有人都潜在地与所有人产生联系，跨越时空和身份的无限连接，使个人的身体、心智、想象力和行动力在连续延伸中产生了一种新的社会中介。互联网正是提供了这种“连接一切”的工具，成为打通各个领域的信息平台，蜂拥而至的信息资源和个性化、共享式的用户经济，其目的和效果是解放人、增加个人的选择，而不是减少或限制用户选择。每一位个体从技术革新和社会系统中吸收养分，反过来又给系统输送养分，从而在个人-社会之间形成一个以社会关系网络为特征的循环系统。如此一来，在这个系统内外，信息和资源都处于流动、交换和循环的状态之中，所谓的“信息茧房”也就不攻自破了。

未来在大数据样本不断累积的情况下，人工智能在新闻生产以及分发推送中会扮演更加重要的角色，给用户的画像也会更加精准。与此同时，为克服机器学习过程中的过分机械、单一和信息推送的高度同质化，在媒体内部的数字新闻中心和各个内容平台都在努力探索和改进人工智能深度学习的开发框架，同时辅之以人工干预，由人工进行内容审查、内容过滤和信息核查，力求在“传统新闻价值观”与“算法推送”之间加以矫正和平衡，以降低算法专制的风险。而在新的经济关系中，“社会分工3.0模式能够激活每一位个体，使其自身成为一个具有价值转换能力的专业生产单位，更多地参与到越来越细化的社会分工中去。”[11］它让人与人之间的联系变得更加紧密，互动更为频繁，那种画地为牢、自我隔离的局面是不太可能出现的。因此，无论是从技术理念上还是它造成的实际结果来看，算法偏见、信息茧房和数字化监狱有可能造成的“创新性破坏”，都可以在人工干预和自主调整的情况下得到改观和规避，我们也不必为此过于忧心，以至于矫枉过正。