从规训到控制：算法社会的技术幽灵与底层战术

文/张萌

我们现在生活的世界，算法越来越多地参与到重要决定的裁决中。当学者们在谈论算法如何去构建和实施权力和知识制度时，将其视为一种引诱、胁迫、约束、调节、控制的方式去重塑人、物体与各种系统的互动，面对强大的技术控制，个体的能动性似乎变得无足轻重，成了被算法驯化的对象，公众被忽视了。事实上，个体的能动性（agency）是一种积极地适应、协商、参与社会规范的互动，这种参与如何作用于技术规范是值得思考的问题。但是，对个体力量的过度肯定则又将算法与用户从宏观的社会经济、技术背景中剥离，而现实中个体很难成为赢家。本研究将批判性和经验性的注意力集中于算法受众的抵抗战术上，并将受众战术置于更广泛的社会技术背景（控制社会）与宏观的算法战略部署中去探讨。

算法生产的控制战略

（一）算法社会自由幻象的搭建：重预测、弱空间、强分体

算法进入了我们的生活，帮助我们看到和感知可能错过的意义世界，为我们带来了“便捷”，这种自由世界的搭建，得益于算法强大的生产战略。

1.从等级观察到数字化预测

算法社会，规训时期的等级观察逐渐瓦解，数字化模拟和计算褪去了强制的外衣，算法通过数字化模拟的手段，实现对被试者的观察。这种观察形式往往在后台完成，没有明显的组织形式，被观察者甚至很难察觉。算法的观察模式还表现为“先发制人”。规训社会的观察往往是对当下以及过去时间的观察，而控制社会则是对当下及事件发生前的观察，算法通过获取用户信息，以此为依据来激发事件，预测用户的偏好与行为。算法的观察模式不是关注空间中的物体，而是那些特定的能够反映用户行为的代码。因此，规训社会关注可见与不可见，控制社会则对被观察者的欲望、需求和意图更感兴趣。

2.从空间划分到时间填充

算法社会第二个生产战略体现在空间的弱化，行动越来越具有流动性。算法社会施加控制的工具是信息机器，促使代码空间的流动更加有序化、合理化，空间边界被打破融合成为一个无边的网络，机构之间的分界消失。在这种社会形态中，越来越多的具有明确起点和终点的片段被常规训练所取代，所有的主体时间成为同时受到各种形式训练的大片段。脱离了透视空间，算法投射到电子屏幕，个人需求被24小时地过问与满足，用户不仅获取了几代人积累的知识与智慧，更是从有限的屏幕中获得无限的空间和时间。算法社会，空间的区隔变成了“时间的填充”。

3.从普遍的个体到特殊的分体

算法对主体身份的生产产生了直接的影响。知识生产与消费进一步进入人们的日常生活，使得规训社会普遍的个体，在今天逐渐成了德勒兹所说的分体（dividuality）。个体（individual）与分体的区别体现在目标的差异。规训“制造”（make）个体，将个人视为对象与运转工具，而算法的调制模式并非要实现对个体的管理，而是更多地参与流动的产生和预期，因此，算法不关心“有用个体”的产生，而是更关注流动的信息是否符合了每一个特殊分体的自身特点，这也是算法为什么热衷于为我们提供“个性化服务”的原因。

（二）新弱者困境：自由与奴役的交锋

数字技术的丰盈与信息的丰富远不会取消政治，相反会催生新领域的政治斗争。

1.“风口上的猪”：算法背后的技术政治

资本和权力的运作最终决定了哪些技术可以广泛进入社会生活的领域，而哪些则不能，个人被看作是算法网络中的监视对象，这是算法政治的第一层面。算法技术普及后，其生产战略又再次决定了哪些东西可以进入我们的视野，哪些则被否定，技术被赋予了政治属性——“谁在内还是外，谁可以说话而谁又不可以说，谁拥有权威而可能会被相信”，一切都开始取决于传播技术，技术看到了并且可能会放大一些人与其他人一样或不一样的东西，这构成了算法政治的第二层含义。个人无法从根本上左右充斥于自身周边的技术走向，同时个人用户也无法真正体验到算法在确定一个人生命中所产生的影响，因为算法很少与个人交谈。

2.来自算法的窥视：排序、推荐与排除

技术对注意力的分配起到了至关重要的作用。算法通过排序、类别关联等技术手段，决定了将什么样的内容呈现在用户面前。原本不在日常生活范围的东西借助算法推荐进入人们视野，而那些未被算法选中的东西，则被排除在外。它通过排序、可见、排除等实际操作决定了哪些信息作为一种知识文本向公众展示世界，影响着事物的可信度、社会权威以及随之而来的未来发展，影响社会性和技术性知识的话语和文化。

算法看似为分体的发展打造了个性化、独立化的专属内容与服务，但其实质是用一套极其单一的标准代码在征服着世界，它所要实现的核心非常明确，通过代码操作信息的可见范围，将用户需求精准置入代码运算中，通过这样的方式将游离在外的用户需求纳入算法程序，最大范围地取消偏离常规的民间实践，用户仍然没有真正属于自己的空间。某些代码和界面功能的设置为了更有效地迎合用户需求，而选择某一种形式确定下来，并非基于用户变动的、不可预测的消费实践提供一种开放的、未完成的使用状态。用户面对算法，始终缺乏一种对等的自治能力，只能适应被算法按照既定规则来进行服务。

3.被隐藏的强制：不得不交付的用户自由

德勒兹说：“不必问哪种制度最残酷，或是最可容忍，因为在每种制度中，自由与奴役都在交锋。”算法用户享受便利的同时，也在交付自己的某些自由。

（1）被强迫的体验和创造。一方面，参与算法实践的用户越多，其服务越全面、越体贴到位，技术授权就越突出，个体被算法实践裹挟，不得不参与其中，因为“您身边的朋友都在这么做”“您也必须这么使用”。算法的技术包容与技术友好遮盖了其对替代选择的消除与排斥，个人可以做的选择越来越少，到最后，除了接受算法服务，别无他选。参与文化中的权威并不是通过威胁将我们驱逐出网络来实现的，而是通过使其“难以抵制、尽早参与”来运作的。

（2）获取使用的同时交出行为数据。算法平台不仅内含一种奖励制度，还包括一种惩罚制度，对使用条款的共识性接受将得到奖励，拒绝接受使用条款将无法体验由技术带来的便利与普惠。于是，算法的技术包容建立了一套新的霸权秩序，不遵守条约或者拒绝按照平台规则来运作，个人便无法浏览网站或购买商品。规训机器中，受试者可以意识到被观察的可能性，而数字时代人们好像对自己是否被观察并不关心，对于自己的行为数据，觉得他们没有什么可以隐瞒的。没人会过于“计较”自己是否被隐性强制，以此避免被主流技术话语边缘化，为抵御因为拒绝就使用条款达成共识所带来的风险，个体心甘情愿地被技术征服。

（3）算法黑箱渗透着利益考量与文化霸权。算法背后难免存在着对人的隐晦或者公开的歧视。“X=男性”这样的代码设置完成的不仅是一个划界动作，更是一种文化话语。正如亚马逊AI简历筛选过程中对那些明显具有女性标签（如“女子象棋俱乐部”“女子高中”等）的求职者打低分那样，算法背后难免渗透着利益的考量与文化霸权。在我国也存在用户歧视现象，例如“大数据杀熟”。杀熟不仅是商户的营销手段，更是平台追逐高额利润的战略，资本通过算法实现对社会的实质性吸纳，并对个体区别化对待。算法技术不仅是人们彰显个性的工具，更成了组织俘获个人的手段，受众不得不承受算法可能带来的负面后果。

弱者的逃逸：抵抗即参与

（一）算法受众的几种抵抗战术

当占据主导地位的生产系统没有为消费者留有足够的自由空间，或者，当既定秩序无法满足消费者的自身利益时，便会激发受众积极创造，以此参与算法控制的社会再生产。

1.对算法产品的空间隔绝

拒绝下载、拒绝点开、快速划走、卸载成了算法受众对算法产品最常用的隔绝行动机制。逃避是弱势群体经常使用的一种武器，这种逃避是一种主动选择的结果。下层零散的抵抗行为很少进入历史进程的记载，但当这种底层抵抗被千万次的重复累加时，就会对整个技术社会产生决定性影响。当然，对算法的反思并不总是以个体为中心的，在我国，个体伴随着政府的力量可能会成为“算法之上的我们”，以一种集体分析和集体反思的方式制定规则。

2.对算法规则的自我重组

当算法推荐与受众需求出现匹配断裂时，用户会重新将算法产品组织成自己喜欢的形式，在重组中获得权力。受众对算法规则的重组是一种非正式的实践，是在不改变算法空间规则的前提下展开的，就像德塞托所描述的阅读中的读者一样：“读者并不夺取原作者的位置，也不为自己谋取一个作者的位置”，只不过受众对使用规则的重组创造了算法文本“本来意图”之外的东西。

3.对算法规则的主动嵌入

算法受众还会将自己的谋略主动嵌入到算法规则中。例如，在今日头条和微博中设置自己感兴趣的话题；在百度地图中将路线偏好设置为“躲避拥堵”；点击页面右上角的“×”，对一些不感兴趣的内容选择“不感兴趣”，或者对一些账号“取消关注”“投诉”，对另一些内容选择“收藏”或者“点赞”。用户的自主设置完成了平台内容的“自我定制化”，与个性化不同，定制化（customization）被定位为用户明确参与更改产品的过程，是更高一级的个性化，因为它包含了用户的参与在其中。但需要注意的是，即便用户选择点击“叉号”拒绝算法推荐，也属于一种参与，因为点击“不感兴趣”这一操作本身就意味着后台数据的生产，这不是避开了算法对我们的追踪，而是产生了更多的数据信息让算法更准确。某种程度上，算法实践是一种收缩的、越来越精细化的内卷过程。

4.对算法逻辑的反向规训与控制

受众对算法逻辑的参与最深的层次是故意将自己的偏好、兴趣投喂给算法以实现对算法的反控制和反规训，这种反噬意味着受众努力将主观意图凌驾于机器意图之上。常见的反向诱导方式是给予不喜欢的内容以较高的“观看完成度”。受访者YL是一个互联网公司的算法工程师，日常生活中，他具有用户和算法开发者双重身份，由于不想被算法过多“算计”，他主动对内容产品进行引导：“在各个平台，不管是什么我都会关注，所以给我的推荐是不可能准确的。它越不准确，我反而会越高兴，我不希望算法过于精准，那样会把信息收得很窄。”（18YL-M-程序员）YL虽比非专业人士有着更大的算法觉悟，但依旧只是通过对算法产品的使用来凸显自己，而非产品本身。

（二）控制社会与规训社会的底层战术比较

德塞托关于战术与战略的区分在地点与空间、不可见性的关系性描述方面，仍然适用于算法社会。但是，规训社会受众战术最主要的特点——“可偏离性”——却在控制社会发生了实质性改变。规训时期，受众抵抗战术的可偏离性意味着战术实践者并不总是按照生产者的意图进行消费，他们更像是战略空间中的游牧人，在阅读、购物、烹饪、交通、居住等各领域中，公众渐渐偏离了强者建立的秩序，通过自己的诡计与计谋进行持久的抵抗，实现令人惊喜而富有诗意的新画面。而算法社会，个体的抵抗战术是控制社会背景下数字参与的一部分，没有绝对的偏离，任何偏离都是一种新形式的参与，是另一种形式的链接。算法延展了个体社会参与的手段，并以这种参与作为提升算法预测力的依据，最终算法通过一种潜移默化的方式将用户进一步锁定在平台提供的服务与规则中，在参与的过程中，个体被技术征服、定义和重塑，算法通过授予参与者一定的主体性和能动性将其绑定，并给予参与者一种更加社交的幻觉，用户自以为聪明的抵抗实质上变成了一种自我强化的不平等。

结语：作为实践的算法代码与人的技术存在

我们所在的时代是这样一个时代——一个时代造就了我们，我们造就了机器，机器造就了我们的时代。算法受众将隐私、行为数据、个人信息交付给了算法来换取线上服务的享受，将如何定义我们身份的所有权让渡给了算法。算法的控制体现在越来越多的个体被捕获，并且由算法来决定分配给用户的代码以及用户生成的代码。对于算法的存在人们似乎越来越习以为常，人们不会去关注算法呈现的世界是否“真实”，而是更加关注算法推荐是否提高了性能。界面中的“技术友好”掩盖了背后的代码操作，同时使得各种事物在每天的城市生活中变得熟悉而固定，变得可见或被赋予可见性成为一场极具竞争力的权力游戏，代码不再是一种数字符号，而是通过一定的操作来实现特定目的的具体实践，成了从属于整个社会体系的文化对象。

算法在增加个体自我社会参与意愿的同时，加深了数字世界的不平等，个体参与得越多，产生的不平等和差异就会越深。算法如同幽灵一般，紧紧将人们捆绑在代码编织的数字空间中，无法挣脱，并通过技术包容实施着一种“友好暴力”（friendly violence），受众的抵抗只是一种无奈的妥协，偏离成为一种奢望。真正开放性的算法应打破既有的平台规则，承载更多用户自己的含义、理解与定义，不仅强调算法带给人们什么，更强调用户带来了什么。