数字化时代算法潜在的社会风险及其应对

程睿文

一、 引言与研究综述

在现代生活中，算法的应用早已无处不在。在物质产品生产领域，算法通过节约生产过程中所需要的劳动力、改善管理水平、增强对产品质量的控制等方式，不断提升物质产品的生产效率，最终形成了规模庞大的平台企业和数字劳动者。在精神产品生产领域，算法支撑下的文化产品批量化生产与分发业已成为当前新闻生产的趋势。在教育科研领域，关于算法本体的研究方兴未艾。在社会治理领域，算法与人工智能不断嵌入社会治理领域。抗击新冠肺炎疫情的重要武器“健康码”“行程卡”背后离不开算法与人工智能的支撑，基于算法提供的数据、信息、判定成为当前社会治理的重要工具。

毋庸置疑，基于算法的现代社会生产方式带来了许多问题。第一，算法在资本的掌控下沦为剥削与控制劳动者的手段，加强了在劳动过程中对劳动者的剥削程度。第二，资本对生产资料的掌握与控制决定了算法带来的生产力水平进步，使得劳动者的地位不仅得不到改善，甚至有可能落入更深层次的被剥削。第三，算法作为新兴事物，其性质、运行规则和产生的影响尚未完全得到揭示，对其应用的监管存在滞后效应，使得一些公司滥用算法、攫取巨量剩余价值，对社会成员和社会生活运行带来了严重的负面影响。

当前学界对算法与劳动者之间的研究主要集中在以下两个方向。第一，算法与具体劳动过程。学界通过研究平台经济雇佣数字劳动者的劳动过程，揭示劳动者在劳动过程中与算法之间的对抗与矛盾，主要的分析对象是依托于平台的“新零工劳动者”。孙萍描述了基于平台“零工经济”环境下劳动者的劳动情况，指出平台经济的主要矛盾是“人的逻辑”和“算法逻辑”的糅合与对抗，数字劳动的“内旋化”现象不应该被忽视，算法深刻影响了劳动关系，需要被重新审视①；谢增毅指出当前数字劳动者缺乏保护，解决该问题的关键是认定其劳动者的身份②；林建武剖析了基于算法的平台经济对劳动者剥削的手段和掩盖剥削的方式，指出资本方通过否认劳动关系、弹性化工作时间、将剥削领域从劳动扩展到私有数据等方式，说明劳动者在算法的宰制下不可能实现“自由劳动”。③

第二，算法与资本控制。一些学者认为，数字化时代资本的扩张与控制是资本发展的新形态，资本借助算法的扩张过程值得警惕。周晨曦分析了互联网平台形成垄断的特殊机制，提出数据是平台垄断的基础资源、算法是平台垄断的关键能力、资本是平台垄断的内在线索的观点，说明了资本如何控制算法实现自己的垄断地位④；王利利认为，算法对劳动者的剥削实质上还是人对人的剥削，依托于算法和大数据的网约平台劳动模式的出现和发展，塑造了新的劳动模式，但也使网约劳动遭受着更严重的异化，其背后仍然是资本的力量在操纵一切⑤；徐圣龙认为，当前资本底层逻辑逐渐从“野蛮”逻辑、“客观”逻辑逐渐走向21 世纪的“智慧”逻辑，在最大程度上实现了资本的扩张和支配。面对资本底层逻辑在新时代的变迁，需要充分关注、积极应对，加以批判并最终矫正资本底层逻辑演进的链条。⑥

综上所述，学术界认为，算法在资本的控制下重塑劳动关系、创造了全新的生产方式，同时也加剧了劳动异化。但是算法为什么可以隐秘控制社会成员？算法如何通过掌控消费来掌控劳动？目前学术界还缺乏解答上述问题的研究成果，本文就此试作初步的探索。

二、 异化消费： 资本利用算法进行的消费控制

在资本循环链条中，生产的地位逐渐让步于消费，消费处于主导地位。消费作为资本循环中的最后一环，发挥着让生产者将产品卖出、收回货币、实现资本增值的作用。市场经济的重要特征是“商品的庞大堆积”，早期资本主义时期生产力水平比较低，如何让工人生产出更多的产品是资本的首要目标。但是在近现代社会，机械化、工业化、智能化催生了强大的社会生产力，在充分竞争的市场环境中，尽快地将商品在市场中出售是资本的主要目标。塑造“景观”，制造“伪需求”，是资本对这个问题的解决方案。

（一） 资本利用算法塑造景观眩惑消费者

“景观”由法国学者居伊·恩斯特·德波提出，在其代表作《景观社会》的开篇第一段写道：“在现代生产条件占统治地位的各个社会中，整个社会生活显示为一种巨大的景观的积聚。直接经历过的一切都已经离我们而去，进入了一种表现。”⑦德波所述“景观”具体为何意？在现代社会中体现在何处场景？张一兵在《居伊·德波景观批判理论的历史生成线索》中这样阐释：“景观在今天资产阶级世界中的作用，不再局限于经济活动中的消费控制，还包括流行的生活方式、虚假的知识传递，甚至欺诈的政治交往，景观已经成为资产阶级世界人们所有主观构境和客观场境存在中相互关联的‘支配性模式’”。⑧“景观”在现代社会中无处不在，我们生活中所看到的广告、社交平台上展示的生活方式、个人获得的荣誉与褒奖甚至是批评与贬斥，都是抽象意义上被有意塑造的“景观”。“景观”不能被理解为一种由大众传播技术制造的视觉欺骗，而是常常呈现为一种甜蜜的无意识的控制。生产生活中的场景与图像是客观存在的，并不是所有的场景都是“景观”。德波指出，在现代社会，物质生产的决定性结构正在转向影像生产，“景观”实质上是一种以影像为中介的人与人之间的社会关系。因此，在资本主义社会，如果资产阶级想要维持自己的统治，就必须构建出足以维护统治的“景观”。

“伪需求”是区别于人类真实需求的概念，指的是并非出自于自身需要的需求，而是受到外部力量驯化、渲染而产生的需求。“伪需求”的唯一用处就是满足资本家卖出产品的需要。在资本的推动下“伪需求”充斥着现代生活，24 小时不停歇的商品广告告诉我们应当买什么，各种网红打卡、小资情调成为了许多人追求的生活目标。广告炫示的生活方式将阶级地位与消费能力挂钩，消费能力强的人是高等阶级的人，评判一个人的能力与地位看的是他能花多少钱，而不是他能够掌握多少生产资料，创造多少财富。“景观”成功地颠倒了社会关系的本质——生产方式决定生活方式，在私有制条件下决定地位的是占有生产资料的多寡而不是消费意愿的强弱。各种炫目的广告的唯一目的就是让消费者乖乖掏出手中的货币，让其沉沦在对美好生活的臆想之中。

在“景观”的构建过程中，算法起到了相当重要且关键的作用。随着互联网技术的发展和互联网商业公司的不断下沉与渗透，信息传播的主要手段与渠道从中心化的纸质媒介转变为去中心化的互联网平台分发，信息的流转与传递速度远超从前，中国已有十亿网民利用互联网了解信息。当前利用算法个性化推荐信息流是最主要的传播方式，大多数用户在浏览互联网上信息的时候会表露出偏好，其偏好被信息服务公司收集后投入算法，进而推荐给用户更多符合其喜好的信息。这种推广有两个方向，一是清除负面信息，算法通过其高效和自我进化的特征，对商品的负面评价与消息进行收集，利用大数据精准锁定负面舆情，使用各种手段消灭负面评论。二是掩盖负面信息，算法如果不能够通过各种手段消灭负面信息，就会采用大量“机器人/网军”等工具刷评，用大量信息冲刷负面评论。在以上两种主要手段作用下，算法达到了控制商品评价的效果，让商品页面始终展现出来的是诱人、光鲜、亮丽、完美的一面。⑨因此可以看到，算法控制下的商品信息流呈现“拒斥对话”的特征，这种特征是“景观”统治社会的主要手段，即将自身表现为一种不容争辩和不可接近的事物，只有符合资本利益的东西才能够被显现出来。资本利用算法塑造的景观通过对表象的垄断达到对本真与实质的遮蔽，掩饰商品本身的真实属性，实现对消费者的控制。

（二） 资本利用算法占据劳动者的非劳动时间

实践是人的存在方式，按照实践方式的不同，时间有劳动时间和非劳动时间的区分。人不是劳动的机器，需要时间休养和娱乐，因此一部分非劳动时间转化成了休息娱乐时间。但是人的需要不局限于此，人们也有自我发展和自我实现的需要，因此一部分时间会转化为学习的时间，这就是自由时间。自由时间是人的自我发展本质的体现，是人类能够发展进步的核心动力，同时，自由时间带来的个人发展能够更好地提高个人的劳动生产力，获得更多的自由时间。⑩对于资本来说，劳动者的自由时间增加，将提升其个人在劳资双方的博弈地位，增强其在面对资本时的议价权，削弱了资本对劳动者的控制能力。时间在物理长度上对每个人来说具有均等性，只是不同实践方式决定了不同时间的性质，自由时间多，那么劳动时间就少；劳动时间多，自由时间就少。

时间性质由实践性质所决定，资本如果不想让劳动者有更多的自由时间，那么会从休闲时间着手。一方面，资本塑造“景观”侵蚀休闲时间，将休闲时间异化成为劳动时间的附属。资本将劳动者的休闲时间用大量的广告和筛选过的信息充满，在心理上为劳动者创造虚假的生活方式，使劳动者错误认为休闲时间中的一些活动能够给自己带来效用，从而塑造一个“景观”，让消费者心甘情愿为了获取这个“景观”而选择投入更多的劳动时间，使资本家能够更好地榨取劳动者的剩余劳动。另一方面，资本利用算法实现对用户兴趣的精确捕捉，利用个性化推荐技术吸引劳动者的注意力，通过提供具有吸引力的娱乐项目来诱惑劳动者，使劳动者沉迷在浅薄的文化商品之中，将大量的非劳动时间用作休闲娱乐，而非自我发展与提升，更好地控制劳动者。

除此之外，资本直接利用算法侵入生活，利用消费者的劳动为其改进生产工具。数字劳动，按照广义的定义可以认定为整个过程依靠线上数据的劳动。以信息技术企业为例，在当前条件下，每个用户在使用信息技术公司所提供的服务的时候，会产生大量的“元数据”，如购买记录、地理位置信息、对某些信息的偏好与评论等。这些信息经过数据公司的收集整理成为了其算法的基础。在这个意义上，消费者的行为创造了数据，其数据对信息技术公司具有使用价值，消费者在不知情的情况下付出了劳动帮助信息技术企业升级了其所有的“生产工具”，但是消费者并未取得相应的报酬。也就是说，消费者在不知情的情况下为信息技术公司付出了无偿的劳动，其创造的价值的一部分不仅仅被信息技术公司无偿地占有，还被公司用于提升算法这一生产工具的技术水平，消费者在不知不觉中将自己的非劳动时间转化成为了劳动时间。

三、 信息霸权——资本利用算法进行的思想控制

资本控制下的算法通过三种途径控制消费者，一是控制媒体与信息传播途径，二是精准筛选信息，三是构建信息茧房。

（一） 控制媒体传播渠道， 掌控信息来源

“景观”是如何渗透进社会成员的意识领域从而达到控制的目的呢？答案是通过对信息展示播放权力的垄断而实现的。当前，利用算法个性化推荐信息流是最主要的传播方式，消费者虽然表面上有无数条观看和收集信息的渠道，但实际上其无论在什么平台，都会面临同样的境遇，获取信息的主动权始终被信息服务公司掌握，消费者只有在这家或者哪一家被“景观”炫示的自由，而没有拒绝炫示的自由。一旦个人将信息获取的权限交给了资本，资本就可以利用对信息的垄断，实现多种途径的控制。

（二） 审查筛选信息， “饲养” 社会成员

在信息传播过程中，资本利用算法工具筛选信息，针对性控制信息的性质与数量，在意识与精神领域“饲养”社会成员，进而完成对社会成员的分化与控制。

首先，算法巧妙的安排了什么将要发生、什么不会发生、什么从未发生过，对已经发生了的事情选择性地播报，将仅仅有利于自己的信息传递出去。在互联网信息爆炸的时代，人对信息的接受能力和注意力是有限的，资本利用大量的信息流冲刷时间线，让大量的其他信息充斥消费者的视野，真正有意义有价值的信息会被刻意隐藏。在资本构筑的信息平台中，无论是多么惊爆的信息，只要有一段时间在视野中缺席，都将无声无息地消失。

其次，筛选信息，“景观”通过肯定性的表象，将人们锚定于资本在生产与消费中已做出的选择。换言之，“景观”通过不断地向社会成员展示肯定性的判断来误导人们做出不真实的选择，形成这种结构的重要手段是对信息的筛选。算法通过计算机信息系统，对信息的收集、分析、筛选推送具有极其强大的能力，资本利用算法将其愿意展示的图景高频推送给受众，从而强化所要传达给社会的信息。此外，资本对不想传播的信息进行清洗，因其控制了信息传播平台，其利用算法的强大能力赋予了资本信息霸权，从而实现“不好的信息就是不存在的信息”这一目的。

（三） 标签人群， 构建信息茧房

算法通过“用户画像”技术，为社会成员编制了一间间信息茧房，通过对信息的单向灌输，让用户在消费文化商品过程中无意识地将自己关进“信息茧房”，信息茧房的存在会阻碍突发事件信息的流动，给社会治理带来不利影响。资本利用算法将社会成员的思想推向极端化，遮蔽其个人的本真，以达到割裂社会的目的。现行的主流软件利用用户操作过程中产生的数据作为原料，实现对用户比较精准的画像。“信息茧房”是由用户和算法共同构成的，每一个人都喜欢接收偏好的信息，在浏览信息的时候就会做出筛选。用户在信息服务软件上耗费的时间越多，其对资本能够带来的商业价值也就越大。在激烈的市场竞争条件下，资本会想尽办法提升用户在自己平台的驻留时间，这一方面能够为其带来直接的利润，一方面能够侵蚀劳动者的自由时间。因此资本争先恐后地提升算法的精准性，更好地满足用户的需求。在资本的主导和算法的推动下，每个用户对信息的获取途径越来越狭窄，信息茧房由此构建。当个人处在信息茧房中，信息获取方式的单一会导致其被相似的观点不断地冲刷，强化对某一种思想观念的认知，使其思想逐渐单一化。

算法作为一种新技术，有效地推动了社会生产方式的变革，促进了社会生产力水平的提升，将部分劳动者从繁杂的劳动过程中解放出来，改善了一些人的生活水平。一项先进技术的产生是一段时间社会生产经验的积累与科学研究发展的产物，具有客观实在性，其并不具备善恶的性质，即“技术中立”。但是中立仅仅指的是“技术本身”的中立，而不是“技术使用行为”的中立。一项新技术的使用者与推动者终归是掌握技术的人，算法也是如此。算法被合理地应用能够促进社会的进步，提升社会的总财富，但是在资本的无序利用下却不是这样，其应用过程带来了劳动异化、贫富差距过大、攫夺社会治理权限等问题。因此，要发挥算法改善人民生活、促进共同富裕的积极作用，对算法的监管与规制必须被纳入政策考量。

四、 防范算法风险的路径

巿场主体在遵从法律和市场规则的前提下，根据市场价格信号，通过技术进步、劳动者素质提高、管理创新，在公平的市场竞争中求生存和求发展，这是比较理想的市场发展状态。实际上，巿场机制也会由于其自发性、盲目性带来市场失灵，需要政府这只“有形之手”来发挥作用，加强市场监管，保障公平竞争，促进共同富裕，弥补市场失灵。社会主义市场经济体制本身具有的体制和制度优势，要求在市场发挥资源配置中的决定性作用的同时，要更好发挥政府作用，从促进市场充分竞争、促进技术进步等高度，防止资本等要素利用算法无序扩张，防止出现资本垄断与市场垄断问题。

（一） 管控资本的无序扩张

由于信息、数据以及技术的垄断性背后具有潜在的巨额垄断利润，往往会诱导和吸引资本无序扩张，不仅导致资本市场和相关生产要素的资源错配，更导致赢者通吃、加剧贫富两极分化的不利局面，不利于实现共同富裕。限制资本的无序扩张已经成为影响中国经济可持续发展的重要问题。要建立健全平台经济治理体系，明确规则，划清底线，加强市场监管，规范市场秩序，促进公平竞争，反对资本垄断，防止资本野蛮生长。

（二） 规范算法应用范围

科学技术的进步是现代社会生存发展的基础，对科学技术进步的追求几乎成为每个人心中的信仰。但是我们也看到，任何新技术的发展给人们带来的影响都具有两面性，人工智能、算法等新技术在经济社会发展中被广泛应用，既提高了生产效率、促进了社会生产力的发展，也给普通劳动者带来了失业风险，降低了普通劳动者的收入水平。算法对于大部分人来说是不可见的，如果被少数群体不受限制地使用，大部分群体就会成为被剥夺的对象，比如证券交易或彩票。算法等新技术既然没有办法被大部分人平等地使用，就必须通过制定适当的法律来规范算法的应用范围，一旦掌握算法者超越法律许可的范围去应用，则需要付出足够的代价来补偿受损的个人利益或公共利益。

（三） 明确市场竞争规则

一些互联网平台企业、金融科技企业，充分运用其自身掌握的算法和信息等优势，叠加资本要素趋利的盲目流动与无序扩张，容易形成资本与技术、数据等要素有机结合，产生更高级、更复杂、更隐蔽的资本垄断和市场垄断。强化反垄断、深入推进公平竞争政策实施，是完善社会主义市场经济体制的内在要求。加强反垄断和反不正当竞争，有利于促进形成公平竞争的市场环境，有利于更好地保护消费者权益。要完善平台企业、金融科技企业垄断认定、数据收集使用管理、消费者权益保护等方面的法律规范。要加强规制，提升监管能力，坚决反对垄断和不正当竞争行为。我国的反垄断可借鉴一些国际经验，比如将金融业务从平台公司中拆分出来，最终目标是在积极支持平台公司技术创新的同时，加强对平台经济不正当竞争行为的监管。

（四） 加强算法知识的大众化宣传

群众被算法捕获或者说控制，往往是在群众对算法一无所知的情况下发生的。有关部门应该利用电视、报纸以及互联网等媒介将算法知识尽可能地向社会群体传播，让群众对算法有一个基本的了解。群众由此认清自己需要什么、不需要什么，减少被“伪需求、伪休闲”诱惑的程度，让自己的劳动所得更真实地满足自己的需求；在面对算法控制下信息流的围剿之时，主动跳出信息茧房，在自己的非劳动时间中多安排一些自由时间。

注释：

① 孙萍：《“算法逻辑”下的数字劳动：一项对平台经济下外卖送餐员的研究》， 《思想战线》 2019年第6期。

② 谢增毅：《平台用工劳动权益保护的立法进路》，《中外法学》2022年第1 期。

③ 林建武：《算法与自由：平台经济中的自由劳动是否可能？》，《兰州学刊》2022年第5 期。

④ 周晨曦：《数据、算法、资本交互作用下的平台垄断》，《新闻论坛》2021年第5 期。

⑤ 王利利：《数字时代外卖平台的算法之手——网约平台算法技术背后的资本逻辑》，《南京航空航天大学学报》 （社会科学版） 2022年第2 期。

⑥ 徐圣龙：《数字时代资本的底层逻辑：算法剥夺及其矫正》，《毛泽东邓小平理论研究》2022年第2 期。

⑦ ［法］居伊·德波：《景观社会》，张新木译，南京大学出版社2017 版，第3页。

⑧ 张一兵：《居伊·德波景观批判理论的历史生成线索》，《马克思主义与现实》2020年第4 期。

⑨ 陈昌凤：《商业性网络水军的全链条治理》，《人民论坛》2019年第32 期。

⑩ 李大兴：《自由时间：人的发展过程中的价值祈向》，《浙江社会科学》2000年第6 期。