网络时代虚假信息生产与传播的政治经济学分析：以网红为中心的考察

[摘 要] 在网络时代，网红生产传播虚假信息已成为亟待治理的社会问题。这一现象有其经济根源和技术基础，是数字技术产业过度资本化的结果。从政治经济学视角看，网红在互联网经济体系中扮演着特殊角色。由于资本积累的需要，网红成为一份新兴职业，相对丰厚的收入与职业期待使网红行业的内部竞争不断加大。在利益驱使和创作焦虑中，编造虚假信息成为引流的一种手段。在技术层面，平台算法对流量的控制也推动网红追求新奇、怪异的创作导向，而数字技术的资本化与数字内容监管之间存在冲突，单靠技术升级无法解决这一矛盾。政策制定者在提高个人及企业的违规成本，督导数字企业创新技术监管手段的同时，应将防止数字技术过度资本化纳入国家网络治理的顶层设计之中。只有从经济、法律、技术等多方面入手才能有效解决网络虚假信息泛滥的问题。

[关键词] 网红；虚假信息；资本积累；数字技术资本化；网络治理

[DOI编号] 10.14180/j.cnki.1004-0544.2024.08.012

[中图分类号] F49 [文献标识码] A [文章编号] 1004-0544（2024）08-0105-11

基金项目：2023年度福建省社科研究基地重大项目“习近平新时代中国特色社会主义思想的方法论研究”（FJ2023JDZ002）。

作者简介：郑涵（1997—），男，清华大学马克思主义学院博士研究生。

作为人类生产生活的“第二空间”，网络空间在持续带来全新发展机遇的同时，也浮现出众多治理问题。习近平总书记在多个场合强调了网络空间治理、建设网络文明的重要性。例如，2016年4月，习近平总书记在网络安全和信息化工作座谈会上指出：“网络空间是亿万民众共同的精神家园。网络空间天朗气清、生态良好，符合人民利益。网络空间乌烟瘴气、生态恶化，不符合人民利益。”12021年，在致首届中国网络文明大会的贺信中，习近平总书记再次强调，“网络文明是新形势下社会文明的重要内容，是建设网络强国的重要领域”2。这些重要论断准确概括了网络空间、精神文明和人民文化生活的紧密联系。近十年来，随着技术的迅速迭代与传播媒介的不断更新，虚假信息生产与传播的速度、频度、迷惑性和隐蔽性都达到了前所未有的程度，已成为威胁网络空间健康发展的一大症结。社交媒体等数字平台上充斥着谣言、假新闻、杜撰帖文、虚假宣传及造假视频，这些虚假信息威胁着人们的消费权益、生产生活、公共秩序及社会稳定。一些研究已经着重从技术、法律、安全等角度分析了网络虚假信息的生产及危害1，但从传播主体角度进行研究的较少。本文试图以网红这一传播主体为切入口，剖析虚假信息生产传播的经济原因和技术基础，阐明仅靠人工智能技术无法解决虚假信息泛滥的社会问题，并揭示数字技术资本化与数字内容监管之间的内在矛盾。

一、网红与虚假信息

在网络时代，虚假信息的生产与传播已经成为一个全球性的社会问题。益普索（Ipsos）公司针对16个国家的调查结果显示，85%的受访者担心受到网络虚假信息的影响2；美国2020年的数据显示，至少38.2%的社交媒体用户曾在不知情的情况下分享过假新闻或错误信息3。尽管人人都有可能生产与传播虚假信息，但拥有一定粉丝基础、较易受到关注的网红群体扮演的角色尤为突出：一次转发就可能在短时间内获得数万甚至数十万的点击量。2024年2月，全网拥有近4000万粉丝的网红“Thurman猫一杯”（下文简称“猫一杯”）发布“在巴黎拾到小学生秦朗丢失的作业本”视频，仅四天时间全网点赞量就超500万，转发量超200万，引发社会舆论的巨大反响。事后证明，这则视频是依照剧本摆拍编造的虚假信息。“猫一杯”由此受到严厉惩罚，相关账号被全部封杀，旗下服饰品牌也宣布闭店。实际上，网红制造和传播虚假信息造成重大社会影响并非个例。路透社新闻研究所（Reuters Institute for the Study of Journalism）一项研究发现，2020年1月—3月各类名人关于冠状病毒的误导性文案占社交媒体总参与度的69%4；2023年，抖音发布的《治理不实信息年度总结》显示，1.9万多个发布不实信息的账号受到了全面封禁等处置，240多万条视频被清理5。这些数据表明，社交媒体上的网红已成为生产和传播虚假信息的重要主体。

“网红”是“网络红人”的简称，最早用来形容在互联网上有一定知名度的人物，他们往往因自己的外貌、言论和行为等受到关注。区别于依靠电视、电影、广播、报刊等传统媒介打造形象的名人，网红获取关注的主要途径是互联网。在英语语境中，网红（Internet celebrity）有不同界定，例如：特纳（Turner）把在互联网上发布自制内容的网红称为“DIY名人”（DIY celebrity）6，森芙特（Senft）形容利用数字媒体技术和平台进行表演、互动来获得人气的网络达人为“微名人”（microcelebrity）7。其中，有特定商业目的的网红被统称为“影响者”（influencer），指通过使用互联网和社交媒体而出名，利用名气来宣传特定产品、品牌，以引起消费者兴趣并实现盈利的人1。在我国语境中，网红泛指在互联网上拥有一定粉丝基础的群体，包括网络主播、视频博主等。这一群体受到广泛关注，一开始就和其潜在的巨大经济价值有关。2016年，《人民日报》专门发文论及“网红经济”，指出围绕网红生发的商业链条和盈利模式已经成为移动互联网时代的重要社会现象2。

早期网红的产生具有偶然性，商业气息较弱。在2010年前后，技术和经济环境发生的一系列变化推动网红经历了商业化、职业化转型。以2007年第一代iPhone的发售为标志，移动互联网时代加速到来，移动智能设备的普及增强了大众利用互联网的便捷性。2010年至2019年，全球网民数量翻番，从20亿增长至45亿3。网购和线上支付系统的完善为互联网用户提供了便利的消费方式和交易工具。不断提升的网络传输速度与容量，则让数字社交媒体的即时性、互动性成为可能4。特别是伴随直播、短视频等新兴社交媒体的兴起，以及打赏、广告、带货等盈利机制的出现，职业网红可以借助媒介技术打造人设，在社交媒体上进行内容创作以获取关注、吸引流量并赚取收益。在这一过程中，网红也成为互联网上最受大众关注的群体之一。

那么，为什么一些网红不充分利用媒体平台创作优质数字内容，却要编造传播虚假信息呢？有分析已经注意到，这与互联网现有的盈利机制有关：网红试图借博眼球的内容快速吸粉引流，进而带货变现。不过，现有研究对网红面临的市场环境及其变化缺少分析，而这正是理解网红甘于冒风险编造传播虚假信息的重要背景。与此同时，网红并非虚假信息生产传播产业链条上的唯一环节，这提醒我们，须完整审视上下游企业如广告商、品牌方和经纪公司的作用，尤其不能忽视社交媒体等数字平台所扮演的角色。

我国的执法部门曾多次开展整治网络谣言、打击编造传播虚假信息行为的行动。这些行动在一定程度上有效遏制了虚假信息传播的势头和范围。然而时至今日，一些网红屡屡以身试法，虚假信息生产传播的产业链及商业网络仍未得到根除。这表明，当下的整治行动并未铲除产生虚假信息的根源。为了实现针对性治理，营造良好网络生态，一些理论问题值得进一步讨论。比如：为什么网红要通过生产或传播虚假信息来获取流量？在虚假信息的传播过程中，由资本巨头控制的社交媒体发挥着什么样的作用？人工智能技术可以彻底解决虚假信息泛滥的问题吗？更重要的是，我们又该如何从根本上解决这一问题？要回答这些问题，我们需要引入政治经济学视角，深入剖析虚假信息生产传播背后的经济社会根源。只有这样，才能为制定更加有效的治理政策提供理论依据，从而引导和培育积极健康、向上向善的网络文化。

二、网红生产虚假信息的经济原因

资本给予网红高度关注与扶持，但这并不意味着职业网红可以轻易过上“躺平”的生活。为了引流或达到特定商业目的，不同细分领域的网红都要拿出“十八般武艺”。在激烈竞争中，为了迅速吸引眼球，一些网红不惜冒着被处罚、封号甚至违法的风险编造虚假信息，其中不乏拥有很大粉丝基数的网红。分析这一现象，不能仅从个人素质或法律意识不足的角度解释，必须要看到网红在经济体系中的角色，以及整个网红经济的结构性特征。

（一）资本积累与职业网红数量急速膨胀

网红能够在经济领域发挥作用，最主要的动力来自资本积累的需要。首先，工商业资本敏锐地意识到网络时代品牌和产品营销发生的重大变化。一方面，大众对移动应用特别是数字社交媒体的使用时长持续增加。以我国为例，截至2022年12月，网络视听用户规模达10.4亿，其中短视频人均单日使用时长超过2.5个小时，网络视听网民规模、使用率和使用时长持续增长1。另一方面，大众消费场景逐渐从线下转向线上，消费决策、品牌认同愈发受到网络信息的影响，而网红的影响力尤受瞩目。晨间咨询（Morning Consult）的调查显示，超过半数的千禧一代和Z世代社交媒体用户表示信任社交媒体上的网红2。因此，在工商业资本眼中，网红与传统明星偶像类似，可以发挥符号功能，起到营销和宣传品牌、产品的作用，提升资本积累的规模和效率3。事实证明，网红的推介效果远超预期。以TikTok（泰国）数据为例，约有78%的用户在看到TikTok创作者推荐的产品后购买了该产品4。这种营销效果对任何商家都是巨大的诱惑，商家愿意将一部分利润分给营销者以加速资本周转。在网络时代，营销者的角色很大程度上由网红承担起来了。

其次，对于社交媒体等数字平台来说，网红作为数字内容的生产者是维持平台粉丝黏性的支柱。社交媒体的收入主要包括会员费、打赏抽成和广告收入，这些都与用户基数、用户活跃度高度相关。许多用户使用社交媒体，除了用于自己发布内容之外，很大程度上是想从喜爱的网红那里获取信息，或是满足自己放松、解压的需求5。因此，平台营收有赖于网红持续生产高质量内容。这也就不难理解，为什么平台乐于培育隶属于自己的网红，或者以高价竞争签约其他平台的头部网红6。与此同时，网红与数字平台间模糊的劳动关系也为资本积累提供了有利条件。客观上，网红的数字劳动为平台吸引和维持了大量粉丝，帮助平台赚取利润。但是，网红与数字平台间往往不存在雇佣关系：网红作为用户，平台无须向其支付劳动报酬，或仅需提供少量的创作激励。也就是说，平台以极低的成本占有了网红产出的数字内容，作为自身快速积累的原料。

在网红受到各类资本青睐的背景下，网红经济成为全球市场增长最为迅猛的领域之一。美国联合市场研究公司（Allied Market Research）的一份报告显示，2022年全球网红营销市场收入高达165亿美元，并预计将在2032年飙升至1996亿美元，预测的复合年增长率高达28.6%1。作为数字经济规模世界第二大国，中国网红经济的增长势头尤为强劲。最新数据显示，2022年中国网红经济市场规模已突破1.3万亿元，同比增长26.9%2。网红经济的巨大经济效益为职业网红带来了相对丰厚的收入与较高的职业期待，持续吸引着新的加入者。凯勒咨询（Keller Advisory Group）的统计数据显示，截至2023年7月，美国已有2700万通过生产数字内容赚取收入的互联网用户，这一数字接近美国总人口的十分之一3。《中国网络表演（直播与短视频）行业发展报告（2022—2023）》指出，该行业已拥有超过1.5亿的网络直播账号和超过10亿的内容创作者账号。而根据2023年12月的最新数据，全网短视频账号总数已突破15.5亿个，职业主播数量也激增至1508万人4。

（二）竞争白热化与创作焦虑

规模庞大的网红群体要争夺的却是有限的注意力资源，如何在众多的竞争者中脱颖而出成为网红们的焦虑之源。全球媒体监测机构融文（Meltwater）和社交化营销创意机构维奥斯社（We are Social）联合发布的调查报告显示，全球社交媒体活跃用户数量已经突破50亿，相当于世界总人口的62.3%5。尽管移动互联网的渗透率不断提高，社交媒体等数字平台的使用时间也在持续增加，但每个人在直播、短视频等娱乐形式上的时间投入是有限的。随着数字内容的爆炸式增长，大众注意力变得更加分散。如果考虑到非职业账号运营者和潜在网红生产的数字内容，争夺注意力时间的竞争程度要比数据呈现出来的更为激烈。对于竞争网红们有着最切身的感受，正如拥有750万TikTok粉丝的汉克·格林（Hank Green）在美国洛杉矶的一次行业峰会上所指出的那样，“互联网是贪得无厌的，每个人都可以被取代……据我所知，22岁的年轻人数量无穷无尽”6。

可以预见的是，在未来很长一段时间内网红间的竞争仍将保持激烈态势。这种竞争不仅源于经济收益的吸引，还受到一系列社会和技术因素的推动。首先，在零工经济和灵活用工的背景下，不稳定的收入状况和相对自由的闲暇时间使得越来越多的人意识到通过网络平台赚取额外收入的必要性和可能性。其次，细分市场的兴起几乎为所有人提供了成为网红的机会。无论是学历、职业还是年龄，都不再是限制人们成为网红的障碍。而高学历化、年轻化的网红群体本身也使得竞争强度和竞争层次都达到前所未有的高度。再次，简易化、步骤化的剪辑平台和直播平台使制作优质视频、进行实时直播的技术门槛大幅降低。最后，专业的网红经纪组织MCN（Multi-Channel Network）机构通过成批次签约和培育网红，抢占不同细分领域市场，进一步加剧了行业内部竞争。一份报告数据表明，2023年中国MCN机构的注册公司数量已经超2.54万家1。从长期来看，网红经济也重塑着整个社会的意识形态，网红职业不再边缘，而成为大众特别是年轻人眼中的一份体面职业。例如有报告指出，网红是54%的95后向往的新兴职业2。

在网红后备军的压力之外，收入压力给职业网红的创作再添一重焦虑。不可否认，部分头部网红数百万乃至上千万的粉丝体量令人咋舌，庞大的收益也使人瞠目，然而对于大多数全职网红而言，工作与生活并不如想象那般轻松。特别是在收入方面，头部效应明显。专注于网络创作者的公司链接树（Linktree）对9500名参与者进行了一项调查，结果显示只有12%的全职网络创作者的年收入超过50000美元，而46%的创作者年收入不足1000美元3。艾媒咨询统计结果显示，2020年中国2.2%的头部主播占据近80%的带货份额4。《中国网络表演（直播与短视频）行业发展报告（2022—2023）》也记录了巨大的收入差距，在以直播为主要收入来源的主播中，月收入5000元以下的主播占比九成以上，月收入10万元以上的头部主播仅占0.4%5。由此，怎样快速增加流量、提升收入成为网红职业生涯需要考虑的关键事项。

（三）低成本创作与编造虚假信息

在日益加剧的群体内部竞争和每日海量数字内容不断产出的网络环境中，迅速获得关注成为职业网红个人发展的关键。特别是对于众多尾部或新晋网红而言，他们不仅要与同等水平的网红竞争，还要与已经拥有大量粉丝和流量积累的头部网红争夺大众注意力。这也就导向了网红们不同的行动策略。一种常见的策略是模仿热门文案、视频和直播的特点，同时在创作过程中依据粉丝需求调整或重塑个人风格。这种策略的创意投入成本和风险相对较低，但缺点是容易陷入同质化窠臼，导致粉丝审美疲劳6。另一种策略则是追求独特、少见的形象或信息展示，这与早期网红扮丑、演傻有一定相似性。这样一种打造所谓“爆款”的思想，其极端表现就是编造各种类型的虚假信息。虚假信息的类型与形式多种多样，包括恶意摆拍、捏造事实、编造新闻、放大矛盾等，但共同特点是利用戏剧化情节、过度夸张和情绪化等手段迅速吸引眼球，制造热点。更为重要的是，编造虚假信息的难度和成本远远低于精心准备一个可能不会有什么流量推荐的文案或视频，这对刚入行的新晋网红尤其具有吸引力。

创作焦虑同样困扰着头部网红。在数字内容膨胀且网红数量不断增加的情况下，头部网红如果不能持续产出受人关注的信息，粉丝和流量就有可能被其他头部甚至新生力量抢走。创作者指南Passionfruit的总编辑德鲁·格兰特（Drew Grant）写道，“网络创作者可以在六个月内完成他们职业生涯的整个生命周期”，“内容的胃仍然需要喂养，没有假期，如果你没有按计划制作新素材，你就是在拿你的整个生计进行赌博”1。特别是在当下全球经济疲软和大众消费愈发谨慎的环境中，网红后备军的不断增长让产品及品牌方有了更多选择，使其在规划营销费用时较网红经济刚开始兴盛的那几年更加审慎。这一变化透过广告市场可以看出端倪：2022年中国互联网广告市场规模约为5088亿元，较2021年下降6.38%，是自2017年连续增长五年后首次出现的负增长2。相较于那些需要投入大量资金、精力的高质量数字内容，虚假信息只要能做到抓人眼球，头部网红就可以利用自己的粉丝基础实现快速传播。因此，为了维持自身热度、创造新的流量，一些头部网红也试图以团队力量编造更加完美、真实的虚假信息，企图收割流量。

《资本论》中有一条特别著名的注释：“一旦有适当的利润，资本就胆大起来。如果有10%的利润，它就保证到处被使用；有20%的利润，它就活跃起来；有50%的利润，它就铤而走险；为了100%的利润，它就敢践踏一切人间法律；有300%的利润，它就敢犯任何罪行，甚至冒绞首的危险。”3同样，在网红市场，按部就班实现一夜爆火的几率实在太小，在接连不断的流量奖励、广告费、营销佣金的“泼天富贵”的诱惑下，编造传播虚假信息便成为网红吸引流量的选择。尤其在许多国家缺乏针对网络谣言、虚假信息的监管与惩戒手段的情况下，网红的违法违规成本十分低廉4，而这往往要以社会公众的利益为代价。

三、网红传播虚假信息的技术基础

网红显然不是传播虚假信息的唯一责任人，尽管他们可以自主生产数字内容，但内容发布却离不开社交媒体等数字平台。有研究发现，在社交媒体上假新闻不仅传播速度比真实报道快10倍，影响范围也更广5。这提醒我们应关注以社交媒体为载体的数字技术在虚假信息扩散中的作用。

（一）流量为王：网红受推荐算法的控制

网红的创作导向不仅受利益驱动，很大程度上也由数字技术形塑。各大社交媒体平台为了竞争用户和流量，采用不同推荐算法精准地将数字内容推荐给目标用户，从而增加用户的停留时间和使用时长。这些推荐算法大致可以分为三种类型：一是定向型算法，它根据用户标签、兴趣、关注对象以及日常使用习惯等，为用户推荐最符合其喜好的内容。二是竞逐型算法，它主要通过对比同类型、同题材内容点赞、转发和搜索指数等数据指标，置顶或者将流量优先分发给更受用户喜爱的内容。三是流量池型算法，这一算法类似于闯关升级。平台首先会给每个作品分发少量流量，比如推荐给500名用户，只有达到相应指标才能获得下一阶段更多的流量推荐，比如2000名用户。否则，作品就会因丧失流量推荐而失去曝光机会，就此沉寂。衡量标准是综合指标，包括完播率、点赞率、留言率、转发率、收藏率和转粉率等多项内容。要特别指出的是，定向型算法由于关联爱好相近的群体，圈层扩展有限。网红如果要突破圈层，扩大粉丝规模，就必须经过第二类和第三类算法推荐。

由此可见，社交媒体的算法掌握着网红的流量命脉。网红发布的数字内容能否获得足够关注，与是否满足推荐算法的计数指标紧密相关。如果不能在短时间内引起注意，就得不到平台的流量支持。有研究表明，相较主流媒体，经社交媒体算法筛选和推荐的内容更具有猎奇性1。南加州大学的一项研究同样发现，经常发布和分享的用户，尤其是发布耸人听闻、引人注目的信息的用户，更容易引起关注2。这一技术特点被网红觉察后，反过来又强化了网红求快、求异的创作导向。该导向的直接结果就是低质量内容的泛滥，以及网红刻意捏造信息、激起是非。头部网红面临着相似的创作逻辑，如果不能维持自己的热度，流量就会转向其他更有潜力的竞争者。于是，所有网红都逃脱不了每日的算法审判：要么不断创新内容，要么剑走偏锋，编造虚假信息以博眼球。与此同时，网红们的劳动过程也被算法规训。一方面，为了维持流量，网红必须长期自觉、主动地保持高频度、高质量的内容更新。例如，曾有视频创作者以“我像‘生产队的驴’一样拍视频”来调侃自己的工作状态3。另一方面，网红们需要根据实时热点调整内容，以迎合推荐算法的机制，确保自己不被潮流淘汰。

（二）审核失效：数字技术资本化的悖论

数字平台不仅在内容筛选和推荐机制上具有偏向，其审核机制也存在缺陷。实际上，海量的数字内容在正式发布前都会经历一个审核过程。那么，为什么许多虚假信息没有在第一时间就被识别出来呢？如前文所述，争夺注意力或者说争夺用户时间的竞争，不仅存在于网红之间，也存在于各大社交媒体之间。哪一个平台可以提供最及时、最有效、最有趣的内容，就能收获更多的忠实用户。而审核这一步骤既会延滞信息的发布时间，也会减少信息的发布量。一般来说，审核分为人工审核和算法审核，人工审核准确度高但速度较慢，主要用于重点群体、重点内容的筛查，以及可疑内容的复审。针对海量数字内容，平台往往采用效率更高的算法评估与检测。也就是说，审核算法在设计和应用时，都需要在审核速度和审核质量之间作出权衡。

平台背后的数字资本面临着私人利益与社会责任的两难抉择。为了赚取更多收益，必须持续即时推荐流量大、热度高的信息，这就需要降低审核标准，缩短审核时间。如果进行多重、长时间验证核对，就需要提高审核成本，还可能会限制信息热度，压减平台流量进而影响利润。数字技术资本化应用的矛盾由此体现出来。此外，即使是已经被确定为虚假信息的内容，平台的处理速度也非常滞后。路透社新闻研究所关于冠状病毒错误信息的研究表明，Twitter超过半数被评定为虚假信息的帖子仍然存在；YouTube上，这一比例为27%；Facebook上，24%含有错误信息的内容仍然可见，且没有警告标签4。毫无疑问，这并不能用技术不足来解释，而是与平台本身的经营战略有关。数字技术促进了信息的传播和分享，但是在这个过程中，技术的设计与应用会依据目标的不同而呈现很大差异。算法规则是优先满足大众需要，还是满足平台企业资本积累、攫取利润的需要，往往取决于技术的所有权归属。

（三）人工智能技术难以杜绝虚假信息

最后，有必要回应的是技术改进能否解决网络虚假信息泛滥的问题。当下，最受瞩目的人工智能技术与虚假信息的关系广受讨论。一方认为，人工智能为虚假信息的生产和伪装提供了便利，特别是生成式人工智能使虚假内容的创造更容易、更隐蔽，识别与监管也变得更加困难。2022年7月，美国兰德公司发布报告《人工智能、深度伪造和虚假信息》，重点关注了深度伪造（deepfake）背后的人工智能技术，指出深度伪造的图片、视频、语音和文本将给公共安全等造成威胁1。另一种更为积极的观点主要来自技术公司，他们认为可以着力研究和利用人工智能技术来识别、限制虚假信息。比如，欧洲科技公司Logically的数据科学研究负责人阿尼尔·班达卡威（Anil Bandhakavi）指出，更大规模的数据采集、更强大的学习能力和更具针对性的算法模型有助于判断信息源的真实性2。

然而，我们必须认识到，人工智能技术本身也是一套算法，其运作也有边界。尽管快速性、准确性都将得到大幅度提升，但在应对虚假信息的过程中，人工智能仍会面临两个问题。一是所有权问题。正如马克思在分析机器与大工业时所说：“科学、巨大的自然力、社会的群众性劳动都体现在机器体系中，并同机器体系一道构成‘主人’的权力。”3人工智能技术如果仍旧被科技公司、数字资本所垄断，其算法设计和运行就仍要面对商业利益和公共利益的权衡取舍，继续深陷利润目标和社会责任的冲突。二是人工智能并不能解决虚假信息的生产问题。虚假信息泛滥的土壤是繁荣的互联网经济和以流量为导向的盈利机制，在这种模式下，逐利动机和激烈的市场竞争将继续推动大量致力于扩大流量的个人和企业创制各种吸引眼球的内容。更何况，人工智能技术本身并不完美，其数据获取、训练过程和模型系统都存在人为操纵的风险，并不能保证识别和监测符合最多数人的利益4。因此，网络虚假信息泛滥这一社会问题不能仅仅依赖于技术的升级，还需要引入外部的监督力量，动员用户参与舆论环境的治理与维护，并在此基础上不断调整互联网经济的利益结构以使其满足公共需要。

四、遏止虚假信息生产传播的政策建议

网红只是虚假信息生产传播链条上的一环，其他诸如MCN公司、社交媒体和广告商等也扮演着不可忽视的角色。因此，遏止虚假信息需要一套针对不同主体的综合性治理方案。此外，鉴于数字技术资本化是虚假信息得以传播的基本经济条件，政策制定者须高度关注如何引导数字技术产业服务公共利益。

（一）完善惩戒机制，提高生产传播虚假信息的个人及企业成本

虚假信息的传播具有极大危害性，不仅可能引发社会恐慌，加剧人与人之间的不信任感，还可能给经济社会的平稳发展造成潜在威胁。为了遏制虚假信息的生产及传播，监管部门最直接的手段是严厉处罚编造传播虚假信息的个人及企业，并设立黑名单制度，封禁其相关账号，限制其从业权限，以此提升违法违规成本。与此同时，社交媒体等数字平台也承担着重要的监管责任。有关部门应制定处罚标准，对不能及时限制虚假信息传播的平台给予警告、罚款、停服整顿等不同程度的惩戒，督促平台做好监管审核工作。近年来，我国已出台一系列新规并多次开展集中整治行动，取得良好效果。例如，2023年7月，中央网信办发布《关于加强“自媒体”管理的通知》，就明确要求加强信息真实性管理，对制作发布谣言，蹭炒社会热点事件或矩阵式发布传播违法和不良信息的自媒体进行严厉打击，处罚手段包括但不限于关闭账户，纳入平台黑名单账号数据库并上报网信部门等1。执法部门也对编造传播虚假信息以“造热点”“蹭热点”“带节奏”的网红大V，以及借机进行造谣引流牟利的“网络水军”团伙依法进行了严厉打击，采取了包括针对性警示、禁言和封号等措施2。

（二）强化市场监管，督导数字企业提升技术治理水平

2018年，习近平总书记在全国网络安全和信息化工作会议上强调，“要压实互联网企业的主体责任，决不能让互联网成为传播有害信息、造谣生事的平台”3。以社交媒体为代表的数字平台企业负有审核信息的责任，落实这一责任除了要求调整经营战略，还需督导企业进行技术改造。具体来说，改造方向至少包括以下几点：一是优化推荐机制的评判标准，建立一套更为全面和科学的推荐机制，避免仅凭内容的热度进行推荐，转而更加注重信息质量和真实性。对于短时间内热度快速上升的信息，平台应进行针对性的审核和确认。二是加强监测和标识功能，及时标识真实性存疑或有偏差的信息。例如，我国陆续出台的《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等针对合成图片、视频应该如何标识都作出了相应规定4。三是通过技术手段激励用户养成分享真实内容的习惯。例如，设立奖励机制，表彰奖励分享真实、有价值内容的用户等。四是建立引入群众监督和执法部门监管的技术渠道，允许用户对可疑内容进行标记、举报，并加强与执法部门的合作，及时处理违法违规行为。在此基础上，平台公司应聘用足够的专业审核人员，加强对审核人员的培训和教育，提高他们的专业素养和道德水平，并限制工作时长、保障福利待遇，以确保审核工作的质量和效率。

（三）节制数字资本，引导数字技术产业服务公共利益

数字技术为网红经济、共享经济等新型经济形态提供了条件，不仅给消费者带来了更多选择和便利，也为经济循环注入了新动能。鉴于此，政府应当继续鼓励和支持数字技术的积极应用，进一步激发各类型数字经济的潜力。然而，我们必须认识到，部分企业一度凭借垄断地位和技术优势无偿占有大量数据，肆意攫取利润、操纵市场。特别是社交媒体公司，通过复杂且带有偏向性的推荐算法深刻影响着流量的分配和走向，为网红“吸粉—引流—带货—变现”的盈利机制提供了基础。这种流量至上的创作逻辑不仅污染了创作生态，还持续扭曲着社会价值观。

对此，政府必须节制互联网市场的资本力量。第一，规范网红市场和网红商业行为，明确红线与底线，打击任何以技术手段操纵流量市场的行为，限制资本对网红的过度宣传。第二，要求企业与网红签订规范的劳动合同，完善收入分配机制和劳动保障，调节过高收入，保障基本收入，避免网红陷入收入和流量焦虑。第三，政府应鼓励和支持生产优质数字内容、积极传播正能量的网红。可以考虑由政府设立网红品牌或认证机制，对符合要求的网红给予资源支持，引导网红为经济循环健康发展、民族优秀文化传播作出贡献。第四，鉴于数字技术产业对数字基础设施和用户数据的高度依赖，政府应明确数据所有权，建立官方数据保存设施，制定数据使用规则，确保数据资源的公平分配和合理使用。这不仅有助于防止企业通过数据和算法垄断获取不正当利益，也有利于政府督促企业服务于公共利益。

五、结语

在2018年的全国网络安全和信息化工作会议上，习近平总书记强调：“打赢网络意识形态斗争，必须提高网络综合治理能力，形成党委领导、政府管理、企业履责、社会监督、网民自律等多主体参与，经济、法律、技术等多种手段相结合的综合治网格xbQiIWAPKUP/ufxCnKuEPhl9bscmEUOIcLv7bsMRMC4=局。”①这一重要论断精准阐明了网络空间治理涉及多个主体，需要从不同维度对症施策的道理。网红深嵌于市场竞争与数字平台的技术结构之中，其生产传播虚假信息的社会现象并非单纯因为个体的素质低下或道德败坏，还有其经济原因和技术基础。一方面，网红扮演着网络时代促进资本积累的重要角色，获得包括工商业资本、数字资本在内的不同类型资本的青睐，巨大的收益和广阔的职业前景不断吸引着新的从业者，职业网红群体的内部竞争持续加大，加剧了网红的创作焦虑。于是，编造虚假信息这样较低成本的引流手段成为一些尾部网红的选择，部分顶流网红也试图铤而走险，收割更多流量。另一方面，现有的流量推荐和审核机制往往以平台企业资本积累作为首要目标，为虚假信息的快速传播和审核滞后提供了条件。而人工智能技术如果不能调整应用方向，同样无法解决虚假信息的生产传播难题。这也警示我们，数字技术并非理想化的完全中立，而是根据所有者的目标有所偏向。

就我国的经验而言，有关部门针对虚假信息的监管和惩处力度在持续加大，企业也在按照国家监管要求进行技术调整，在遏制虚假信息的生产传播上取得了突出成果。2023年11月，联合国教科文组织公布了一项由134个国家广泛磋商而成的社交媒体监管行动计划，旨在将政府、监管机构、社会民间力量和平台纳入合作框架中，以遏制虚假信息和仇恨言论的传播②。这一计划表明当前各国都已经意识到要防止虚假信息的生产传播，监管数字技术和社交媒体是重中之重。对于政策制定者和监管者而言，既要及时、有力地对编造传播虚假信息的不法分子和行径予以最坚决的处罚；也要警惕数字技术的过度资本化，以国家力量积极引导数字技术产业服务公共利益，为建设天朗气清的网络空间奠定良好的技术架构，为互联网促进经济社会长期健康发展、营造文明网络生态提供坚实的制度保障。

责任编辑 倪子雯