算法权力下新闻伦理失范问题探析

【内容提要】智能技术的发展和应用改变了互联网信息传播生态，算法新闻日益占据公众生活成为其获取信息的主流。然而，算法嵌入人们社会生活的同时其潜存的权力也会引发一系列的伦理问题。本文通过剖析算法权力的实质及其产生的根源，结合现阶段算法权力之下产生的新闻伦理失范问题，从行业内部自律和社会联合治理两个方面出发，提出了在新媒体时代对算法新闻进行规制的可能。

【关键词】算法权力  新闻伦理  人机协同

智能算法的出现助推了诸多领域的变革，也给予了新闻生产传播革新的机遇。不同于传统的人工选题、策划和编辑，算法新闻依托传感器和大数据等技术实现了智能化的全方位信息抓取、处理和分析，缩减人力成本的同时提高了新闻生产和传播的效率。在这一过程中，传播内容以受众需求为核心，信息传播发生了由传者本位向受众本位的转移，受众的地位进一步上升。然而，这种权力的转变看似是向受众倾斜，实则在潜移默化中弱化了受众的主动权。算法的推送将信息精准传递给受众，使web1.0时代受众主动搜索的能动性和自主性降低，将受众拉回到了传统大众传播时代被动接收信息的状态。①因此，算法的存在从某种意义上来说是传播者权力的体现，这些算法权力不可避免地会造成新闻伦理的失范，是目前新闻传播行业亟需关注并予以解决的问题。

一、算法新闻与算法权力

在信息传播过程中，算法可以基于用户的基本信息和检索、浏览等行为信息进行用户画像构建，继而实现数据与用户的精准匹配和推送。算法新闻则是在此基础上利用人工智能、大数据等技术实现新闻的文字及部分视觉内容的直接自动生成，是一种基于智能算法的新型新闻生产模式。②

迈克尔·曼在《社会权力的来源》一书中指出，权力是通过支配人们的环境以追逐和达到目标的能力。算法则是通过对社会数据资源的掌握、整合和分析，将其所要传递的信息精准投放给用户，潜移默化中为用户营造了一个算法世界下的拟态环境，以此塑造着人们对于周围环境的认知和态度，继而控制着其对于真实世界的看法和主张。③

二、算法权力之下的新闻伦理失范现象

算法所暗含的权力实质是现实社会权力关系运作的产物，通过对算法参数及其程序的不断调整来实现自身对于社会的控制，而这种控制贯穿于新闻传播的信息获取、写作编辑、事实核查以及分发等各个环节。

（一）算法黑箱：算法技术的局限性偏差

算法权力首先体现于其自身的程序设计和价值偏向，通过对算法参数和程序的操控进行社会资源的抓取、差异化分析和推送来实现其目的。

1.算法技术本身引发的伦理失范问题

基于算法技术的伦理失范主要基于算法运行初期设定的程序问题，表现在原始数据搜集和算法预测两个方面。

首先在进行原始数据搜集時，算法所获取的数据是一个全样本，涵盖了现下社会中的全部数据集，但往往这些数据本身就缺乏一定的代表性，不能客观反映真实的现实情况。互联网中的各项数据为了采集和计算的便利性，数据通常会偏向那些主流和大多数的群体，不可避免地会出现种族、地域等层面的数据偏差，也就将现实社会的各种偏见带入到了数据之中，算法从而习得了这种社会偏见，使得其生产和发布的新闻带有了主观色彩，引发失范问题。

其次在用户接触信息初期，算法并未掌握足够多的用户数据，不了解用户的基本特征和偏好，为了吸引其稀缺的注意力，通常会默认推送一些低俗信息，激发用户的观看兴趣和欲望，让其花费更多的时间使用平台，从而通过点击、浏览等行为收集充足的用户数据。通常算法初期给用户推送的内容刺激的都是其原始的欲望，极易把用户裹挟进不相干的信息流之中，④造成新闻伦理的失范。

2.算法价值偏向引发的伦理失范问题

除了算法本身的技术程序设定问题，算法在进行用户数据的收集、分析和个性化推荐之时也会引发潜在的伦理问题。

首先算法在初期进行用户画像描绘时，会要求用户同意访问通讯录、地理位置等条款，甚至在用户不知情的情况下直接抓取其隐私数据。另外算法在对用户数据进行整理分析时会存在一定的群体偏向，即会带有社会偏见地将用户简单归类为某类群体，并向其推送相关群体感兴趣的内容。如算法若根据某一用户的基本数据和地理位置等特征将其归类为农民工，便会为其推送相关群体的内容，并不会推荐其他领域高精尖的知识信息。

其次不同于传统的新闻把关机制，个性化推荐将把关的权力让位于算法，使得传统新闻生产模式受到冲击的同时还引发了用户信息窄化、解构社会共识、阶级固化等问题。“一点资讯”等平台依靠算法技术为用户推送的个性化新闻信息看似满足了用户需求，实质上却是算法对用户选择性心理的一种强化，这种心理机制会窄化用户的信息接触面，消解其信息选择权和知情权。此外，在社交媒体时代，碎片化阅读成为人们生活的常态，这种浅层次需求的长期累积必然会导致新闻生产的转变。尤其在算法主导的新闻传播过程中，深度报道内容的缺乏更容易强化用户简单、碎片的思维，使其逐渐丧失独立思考和判断的能力，变成马尔库塞式“单向度的人”。随着这些同质化信息不断入侵并占据受众的生活，不同群体间的信息沟会逐渐扩大，甚至形成无法弥补的数字鸿沟，导致阶层固化。同时重大社会议题也无法通过媒体的传播得到公众的关注和重视，极易造成主流社会共识的瓦解，阻碍社会进步与发展。

（二）人机共谋：权力裹挟下的算法偏见

技术中性论认为技术本身并无善恶之分，它只是一种工具和手段。技术产生什么影响、服务于什么目的，取决于创造和使用技术的人。⑤虽然算法因其自身技术设计的问题存在一定的不可预测性，但不可否认的是，算法背后的政治和资本权力仍旧有着巨大的影响力，可以利用算法所具有的自动化信息生产和推送特性，做到让特定的群体看到或者看不到某些特定的内容。尤其在一些涉及阶层利益冲突的议题讨论当中，利益相关方的资本力量会通过算法将其他娱乐新闻等不相关的信息推送给用户，不断弱化其对于原始议题的感知与讨论，维护和巩固自身所在阶层的权益。

三、算法新闻伦理失范的规制路径探析

综上所述，算法基于自身潜在的技术程序设计和背后政治、资本等权利的加持，无可避免地会引发新闻伦理失范问题。而现阶段的人工智能技术和社会环境还无法为算法创造一个自我纠偏以及中性合理化发展的空间，对于算法新闻的优化管理、规制以及引导尤为重要。

（一）行业自律：算法新闻的自我纠偏与人机共生

新闻伦理失范问题的避免和规制离不开行业的自律，尤其是媒介从业者应当加强对新闻内容的把控，對新闻质量负责。

第一，坚持内容为王，完成检测环境职能。新闻的首要职能就是环境监测，尤其是在碎片化的社交媒体时代，算法为新闻提供了一种全新、高效的生产和传播方式，媒介从业者更应遵守行业标准，以高质量的内容高效满足用户的实时信息需求。

第二，优化算法模型，保证信息多元。算法的个性化推荐一方面禁锢了用户的思想和信息圈的扩大，但另一方面也为用户接收多元信息提供了可能。算法可以在程序设定之初加入纠偏机制，在优化过滤一些虚假信息的同时减少过多同质化内容的推送，依据时下社会公共事件的热度和重大新闻的价值为用户进行全方位、多元化的信息传递。

第三，后台前置，将新闻透明性纳入算法程序。在传统的新闻传播活动中，媒体占据着绝对的信息来源优势，受众很难看到其内容的生产过程。因此，在算法新闻制作的过程中，应当打破新闻生产的前后台界限，通过超链接等新媒体形式向用户全方位展示新闻的来源、原始信息、采编流程等，保障用户知情权。

第四，强调“人机共生”，注重正确价值观的引导。受技术限制，目前算法无法进行智能化的信息审核和自我纠偏，其所分发的内容存在一定的局限性。媒介机构应主动承担社会责任，加大人工审核的力度，将记者、编辑等传统的把关人加入到算法新闻的筛选和分发过程中，从专业新闻从业者的价值判断出发进行正确价值观的引导。

（二）他律绳之：社会系统对媒介系统的制约与完善

我国现下的各类媒体自负盈亏，必须通过商业经营活动以维持自身生存发展，这就要求媒介机构在进行信息生产时尽可能地满足各色社会需求，争取最大范围的受众市场。因此，媒体在发展的过程中不可避免的会因自身局限性而存在失范现象，这时就需要外部的力量对其进行监控和规制。

第一，完善法律和监管体系，制约算法权力。我国对于算法技术的监管和规制并不完善，近年来针对今日头条等各大媒介机构所引发的算法乱象，相关监管部门只能采取约谈、整改等方式进行规制，难以从根源上对其进行遏制。随着技术的不断更新和发展，相关部门应逐步完善法律和监管体系，通过立法明确和完善算法决策的监管主体、监管对象和监管方式，⑥从源头上对算法权力进行制约。

第二，设立专家评估机制，不断完善算法体系。算法新闻是集算法技术与新闻传播于一体的一种新型新闻生产分发模式，二者之间因专业性的不同存在一定的壁垒，使得算法新闻难以形成统一的标准。因此，平台需要邀请技术专家对算法进行评估和检验，同时联合新闻行业权威对新闻进行审核，以期发现其中存在的偏差，并及时进行修正。

第三，建立健全社会化评议机制。针对算法新闻的评估，除了专家的检验外，还需要多种社会力量对算法的运作过程及其结果进行测试和反馈，从而为用户提供更好的服务。

四、结语

拉扎斯菲尔德和默顿曾言，“大众传媒既可以为善服务，也可以为恶服务。但总的来说，若不加以控制，它为恶服务的可能性则更大”。算法亦是如此，作为新闻信息生产和发布的深度参与者，算法平台应注重个性化推送与人性化推荐的融合，增加用户的信息接触面，充分满足其多样化的新闻信息需求。同时，用户应当发挥主观能动性，积极提高参与、使用媒介和解读、批判信息的能力，主动“破茧而出”，全面提升媒介素养，共建风清气正的网络空间。

注释：

①刘燕南.从“受众”到“后受众”：媒介演进与受众变迁[J].新闻与写作，2019（03）：5-11.

②常江.生成新闻，自动化新闻时代编辑群体心态考察[J].编辑之友，2018（04）：76-82.

③喻国明，杨莹莹，闫巧妹.算法即权力：算法范式在新闻传播中的权力革命[J].编辑之友，2018（05）：5-12.

④毛湛文，孙曌闻.从“算法神话”到“算法调节”：新闻透明性原则在算法分发平台的实践限度研究[J].国际新闻界，2020，42（07）：6-25.

⑤郭庆光.传播学教程[M].北京：中国人民大学出版社，2011：117.

⑥肖冬梅.“后真相”背后的算法权力及其公法规制路径[J].行政法学研究，2020（04）：3-17.

作者简介：刘玥，成都理工大学传播科学与艺术学院传播学硕士研究生

编辑：王洪越