人与算法的关系：从规训、控制到自主性

舒畅

摘要：在关于算法治理的讨论中，人与算法的关系常被忽视。在强调算法对数字社会发展的强大力量时，需要将算法对个体的规训塑造以及控制监控纳入分析视野，揭示算法对社会个体进行支配的宏观机制。还需要在培养人们的算法素养和提升算法意识的过程中，激活自主性、重新定位人在算法系统的自主权，并在实践过程利用好算法的工具性、拓展亲密关系，通过对算法的抵抗性策略来推进人与算法关系的平衡。

关键词：算法系统 规训与控制 自主性

进入数字社会，算法无处不在，基于数据库、大数据和云计算等技术的普遍应用，人们日常生活中的工作、学习、消费、交往、游戏、娱乐与健康等都被算法软件构成的数字设备和数字平台所中介、增强、生产和监管。由算法技术所构成的算法机器和算法文化力量，正通过社会和个体的毛细血管以一种隐蔽和强大的力量，影响着个体的思维与观念，支配和塑造个体与生活相关的决策。在人与算法的关系上，一方面基于技术和算法基础设施的作用，个体成为被算法规训和控制的对象，但这也容易忽略个体能动性。在重新定位人与算法的关系时，需要纳入自主性维度，关注个体在算法社会的自我改变和算法游戏中的平衡和驾驭。

一、算法系统对个体的规训塑造

被称为第四次工业革命的人工智能技术，给社会经济生活带来革命性变化。算法作为一种嵌入的、通常是不可见的技术基础设施，不仅改造着整个生产、分配、交换与消费环节，而且在微观领域对个体的社会生活有着较为明显的规训。

1.重组社会个体生活。在批判性地思考人与算法关系时，一个不容忽视的问题就是数据驱动的算法系统已经渗透到了经济、政府和文化部门，并将各类社会个体内化吸纳到算法平台的生态之中，并逐渐转变为混合形式的平台社会。作为技术可供性，算法加速了数字社会的链接性、可编程性、交互性和协作性，进一步整合了网络结构，加剧了社会组织模式向网络化转型的进程。在社会结构层面，由于社会围绕信息进行组织，数字平台中算法成为组织社会的方式之一。

对于个体来说，在政治方面人的权力得到极大的解放。算法平台的个性化推荐与内容生产，赋予了“无名者”自由表达的权力。这种改变打破了传统信息媒体基础设施和技术的监管控制，从而旨在建立一个支持、普惠、安全、知情、公民参与和更加包容的平台社区。在经济方面，算法系统让人们越来越多地處于一个“无处不在的商业”环境。基于数据记录、存储、交换、处理、分类和解释，个体的流量域、位置域和关系域构成了算法对消费者日常信息和决策的自动化处理。智能手机、平板电脑都可以即时性地生成购物清单、被推荐相关兴趣产品，并充当移动支付钱包。销售平台则依靠数据库和算法技术，记录消费者的检索、偏好、消费记录，从而将其概念化为“永远在线”的主体，将其置于不受时空限制的隐藏的市场之中。在个体的日常生活中，算法扮演着核心角色。个体不但被算法中介，还由算法来决策，更重要的是算法所呈现的高度个性化的内容，正在以中介形式将人们呈现给自己。

2.量化指标体系的规范。在福柯看来，规训是一种把个人既视为操练对象又视为操练工具的权力的特殊技术。这种权力谦恭而多疑，是一种精心计算、持久运作的机制。算法技术，包含对数据的组织、控制、计算等一系列操作，其中每一个环节都离不开量化的指标体系。在这些碎片化和具体的实践、技术和机制中可以总结出一套完整的权力机制——规训权力。理解算法规训权力的关键就在于，这一套量化指标体系形成和积累了个体实践的运作工具、观察方法、动作程序、思维认知。也就是说，通过这套量化指标体系的运作，它生产了平台算法系统的规范、知识和微妙的权力。

这表明，从人与算法的关系上来说，量化的指标体系是平台各行动者获得可见性、拓展关系以及通过劳动获得资本的指南；但同时量化指标体系是对个体的约束、引导和惩罚的机制，还是将平台参与者组织为有效生产力的重要力量。例如，内容平台中“10万+”的阅读、转发和点赞，文章和视频的原创度、活跃度、互动频率、停留时间、展现数量等一系列量化指标，都是基于算法的运作。上述可见性指标在数据上越显著，就会获得更多流量，也就会被推荐给更多的用户。在这种量化的流量指标下，平台创作者在参与“赶流量游戏”中被反复操练，成为平台的算法劳动大军。

3.算法培养了个体的惯习和依赖。伊尼斯通过对加拿大太平洋铁路的经济和文化历史的研究，认识到了交通技术和基础设施对于空间管理和经济与文化发展的重要意义。通过工业产能扩张的推动，铁路塑造了当时人们的商业思维、行为惯习和依赖。而在平台中，人们的惯习与算法技术也存在着相互规训的关系。一方面，主体的惯习既在客观结构化的环境中生产，是对个体或集体的生活史身体化和内在化；同时也会在既有的客观实践中主动形成具体的创意性的惯习行动，并在行动中将惯习外在化。这意味着主体的惯习与特定的生活环境、教育程度、所在阶层、社会经验，以及成长环境密切相关，同时也会将这些历史化的内容外化在日常的行动之中，表现为品味、喜好、消费需求及生活风格。当进入算法社会，既有的惯习会影响着个体在算法平台的兴趣偏好、群体认同、消费倾向等行为实践。因惯习的差异，导致人们在算法社会形成不同的区隔和文化分层。其中，趣缘群体和粉丝圈层就是其中的外在表征之一。另一方面，人的惯习具有能动性和生产性，它可以被新的客观环境即场域所重新塑造。个体的既有惯习所产生的行为实践，如点击、分享、阅读、搜索、购买等均被采集为数据，并建立数据库。通过动态的数据库与静态的个体人口学统计数据，算法在对个体进行画像的过程中，依靠算法自动分析并预测和推荐新的内容和消费产品。

二、算法系统中的监视与中介协调

在人与算法的关系中，算法的规训将个体塑造为驯顺而有用的、符合平台生产力需要的劳动者；人则在规训过程中适应算法的环境，并利用自身人力资本同时实现再技能化。然而，在对个体进行规训之外，算法系统还通过超视距监视、技术调节和时间控制等战略来实现对人的治理。

1.算法系统的全景监视与治理。数字社会因将个人从时间和地点的限制中解放出来而被称赞，但也被批评为将人重新引入了一种数据提取的监控资本主义。身处其中的人们，工作时间和休闲时间、工作空间和休闲空间的边界日益模糊，其生活、工作、消费、娱乐，甚至是内心世界，已經变得数字化和算法化。算法系统，实施监控的目标是将现实总体化为数据显示，始终可访问、始终可知且可变，并通过大数据预测和影响人类行为以产生收入和市场的控制。今天的算法监控资本主义的本质是平台企业与用户之间商业关系的个性化调整。当平台被视为个人的、行为有机体的集合，那么算法就可以通过自动化计算来大规模治理个性化的用户，例如在营销上可以快速调整产品格式、定价、内容、渠道等。

算法社会，许多技术都可以远距离运行，大多数人甚至不知道平台和资本行为者进行的大规模监控。在这种监视活动中，人类所有的经验都可以被称为免费的原材料，可以转化为行为数据。随着平台公司寻求将人们生活的方方面面转化为最具预测性的行为数据，这些监控活动的范围和领域呈指数级增长。监视资本主义的原则和实践体现了算法治理的光谱逻辑，它从生活中抽象出来并将人们引导到经济循环中。

2.算法系统的中介协调。在算法系统中个体从登陆平台那一刻开始就被数字化和代码化，表现为分体和虚体。人们在算法平台中活动都需要由算法来中介协调，无论是需求、偏好、兴趣，还是消费检索，都离不开算法的运算。尤其在零工经济平台中，通过算法中介方式管理和控制工作关系，包括分配任务和监控各方之间的交流、任务的执行等。

需要指出的是，在平台中人与算法之间存在着信息和权力的不对称。算法作为控制的中介系统，它的“黑匣子”特征决定了用户无法了解算法控制运作的关键信息和基本逻辑。用户在使用的过程中，同样无法访问系统算法的核心架构，更无从参与到算法程序之中。正是基于越来越不受控制的算法权力，国家互联网信息办公室联合有关部门发布了《互联网信息服务算法推荐管理规定》，该规定要求算法推荐服务提供者要促进算法应用向上向善，充分体现了以人民为中心的发展思想，构建负责任的平台算法。

三、算法系统中人的自主性维度

在人与算法的关系中，人们应该享有自主权，即人们在算法平台中有对其各方面活动或工作进行自主控制的自由。然而算法的“黑匣子”式自动计算以及无处不在的监控，降低了人们的自主性。对此，研究者提出了“算法主动主义”来抵消算法的控制，其中学者萨沃莱宁和鲁肯斯坦提出了人与算法关系中的自主维度，即工具性和亲密性。但在这两个维度中缺乏了一个关键的部分，那就是参与算法系统中的行动者的自我调适与抵抗。

1.充分利用算法的工具性。在抖音、美团、快手等平台中，它们均前所未有地以算法驱动的体验为中心。在面对人与算法关系时，由于控制和支配的存在，选择逃避或者拒绝使用平台，那将会导致人们的学习、工作、生活和交往无法高质量进行，而且容易与数字化社会脱嵌和断连。基于此，人们需要思考应该如何与算法系统一起生活，以及利用算法系统人们能做什么等。

回答这一系列问题，需要基于算法的可供性充分利用平台的算法，发挥其工具性特征。对于算法设计者来说，需要走向以人为本的设计理念，发挥算法在社会各领域的积极作用。对于平台使用者尤其是内容平台的创作者来说，算法是一个赋能工具。创作者可以利用这一工具属性，实现在内容平台中工作的再技能化，发展出新的经济资本、文化资本和象征资本。例如，一批批返乡青年利用短视频平台，以智能手机为新农具，实现了在自我创业过程中带动当地乡村致富。从工具性的维度上来说，自主性就体现为对平台算法情境的掌握，鼓励算法参与者合理设计与利用算法。尤其对于边缘群体来说，算法的赋权和普惠机制，可以帮助他们在平台重新获得可见性，解决自身问题并充分激活创新能力，从而积累人力资本。

2.培养亲密感扩展社交关系。工具性突出了在算法实践中的审慎、理想和目标导向，进而以符合人的需要的方式构建个人自主与算法发展的框架。自主性的亲密维度则强调了在算法实践中个人的人格、情感和社会关系等层面，即通过平台的算法与其他参与行动者建立亲密关系、获得情感支持、寻求归属感以及拓展社交关系等。自主性的亲密感维度，打破了日常生活中算法作为冷冰冰的技术程序和控制机器的认知，解释了算法也会产生和增强亲密关系，为个体创造“倾听”的“安全空间”。

抖音、快手等平台短视频和直播业务的发展，可以培养人的归属感和亲密感，还可以促进人们在媒介使用过程中获得自我呈现的愉悦。此外，平台提供的内容货币化和产品营销等功能，可以推动用户或创作者在获得亲密关系的过程中实现经济收益上的增加。从这个意义上来说，尽管平台的算法监控给用户和创作者带来权力的不平等，但在处理与算法的关系上更多是与用户使用平台的个人目的有关。对于一个普通用户来说，对平台算法应该做什么或不应该做什么的期望，构建了他们如何与平台算法交互的基本感知。

3.通过自我调适和抵抗获得自主性。在算法劳动过程中，劳动者采取“游戏”“灌水”“刷流量”“利用漏洞”等方式，进化出“劳动算法”等能动性算法行动主义寻求在控制中重新获得自主权。例如，网约车司机在日常工作中用策略与系统进行博弈，包括停用GPS抵制算法系统、用手投票切换到其他平台、取消订单以避免负面乘客的评分。这些研究发现表明，在算法加强对平台使用者的算法控制过程中，人们也逐渐开始觉醒。

一方面，平台使用者的评判性算法素养在提升，能够从价值、监视、话语修辞等角度了解算法功能以及这些功能对日常生活的影响；另一方面，平台使用者算法意识不断提高，逐渐认识到算法系统现在作为数字基础设施的一部分在社会各领域发挥着普遍的作用，深入了解其运作流程及算法决策强制执行的潜在破坏性；此外，平台用户在使用过程中并不总是算法被动的观察者和控制对象，他们越来越认识到自己在塑造算法运作中所扮演的角色，即算法提升或降级的价值是由算法与用户之间复杂的相互作用形成的。平台用户在算法规训和控制过程中的觉醒，促使他们开始以政治、商业或娱乐的方式对算法进行调试、干预和抵制。

四、结语

通常来说，算法构成了支撑社会生活结构“技术无意识”的一部分，其运作的逻辑仍然是黑箱的和难以追踪和质疑的。这就导致在嵌入权力的算法系统中，人们难以通过传统手段来对抗算法霸权，人们处于算法的规训和控制之下。对此，应该重新检查人与算法的关系，即明确一个观念：与算法研究用户行为以促进商业利益一样，用户研究算法行为是为了促进自己的利益。人们需要在算法治理中重新获得自主性，要关注到抵制、颠覆和违反算法工作的实践，鼓励人们在了解算法、提升算法意识的基础上，在实践中利用算法基础设施并塑造算法逻辑。

作者单位 华中科技大学

参考文献

[1]蓝江.从规训社会，到控制社会，再到算法社会——数字时代对德勒兹的《控制社会后记》的超-解读[J].文化艺术研究，2021（04）.

[2]张萌.从规训到控制：算法社会的技术幽灵与底层战术[J].国际新闻界，2022（01）.

[3]Mcguigan， L.， Manzerolle， V. “all the worlds a shopping cart”： theorizing the political economy of ubiquitous media and markets[J].New Media & Society，2015（17）.

[4]Savolainen，L.，Ruckenstein， M. Dimensions of autonomy in human-algorithm relations[J].New Media & Society，2022（06）.

【编辑：朱垚颖】