智能时代算法治理的合理性证成

苏令银

More and more literature studies how algorithms shape the social order based on their unprecedented ability to manage social complexity from the perspective of institutionalism and social governance. As a new type of technical governance and a unique form of social coordination, algorithmic governance seems to have gone beyond the established management scope and mode. Therefore, a new way of thinking mode about how to adjust the order and social relations is needed. Algorithmic governance has achieved the result of group discipline and coordination in a novel way, which can be explained by Hobbes’s political philosophy. Comparing algorithm governance with it can highlight their similarity in social governance and therefore prove the rationality of algorithm governance.

一、引 言

随着人工智能技术逐渐借助于算法嵌入到社会治理之中，学界更多是从批判意义上对算法治理进行讨论的，比较多地关注了算法治理带来的风险、挑战、困境及其应对问题。①参见唐皇凤：《数字利维坦的内在风险与数据治理》，《探索与争鸣》2018年第5期；贾开：《人工智能与算法治理研究》，《中国行政管理》2019年第1期；陈思：《算法治理：智能社会技术异化的风险及应对》，《湖北大学学报》2020年第1期；孙庆春、贾焕银：《算法治理与治理算法》，《重庆大学学报(社会科学版)》2019年。本文关注社会治理过程中算法治理的合理性及其依据。随着高度自适应算法决策系统的普及，人们对此类应用程序的社会和政治作用的兴趣日益高涨。有两种方法可以直接看到算法决策系统的政治维度。首先，算法决策系统被政治行为者作为治理活动和促进政党政治目标的工具。其次，算法系统被作为政治行动的对象进行讨论，由于一些应用程序可能产生深远的社会影响，越来越多的研究设法解决这个问题，即如何能够和应该如何监管算法系统。然而，由于算法在自动化和高度自主性的决策系统中的应用，使得新的规制形式成为可能，因此，算法也被认为具有更广泛的政治意义。大量来自媒体和法律研究领域的贡献在于将它们描述为构建行为和干预社会秩序的体系，并因此赋予算法政治地位。类似地，一些学者将基于算法的协调称为一种治理形式，并通过塑造社会现实的结构介入到社会和文化中。②DANAHER,J..“The threat of algocracy:reality,resistance and accommodation.”Philosophy &Technology,2016，29(3)：pp.245-268.

现有的研究突出了算法治理的特殊性及其处理复杂协调任务的空前能力。作为一种社会导向形式，算法治理似乎在其他已建立的治理形式中脱颖而出。因此，现有的概念似乎不足以让人们正确地理解算法治理及其所需的社会秩序。然而，虽然算法治理确实是一种实现社会协调结果的新模式，但它仍然可以与一个相当古老的政治哲学模板保持一致。本文借鉴霍布斯的政治哲学，展示了算法治理作为一种塑造社会秩序和促进社会协调的方式的主要特征，分析了它究竟是如何与利维坦相媲美的。探究这一类比的价值在于更清晰地了解什么样的社会秩序和算法治理会成为现实。

尽管算法治理在响应其接收到的个人输入时可以达到令人敬畏的程度，但这并不等于民主统治的响应性和问责性。相反，就像霍布斯的《利维坦》一样，它承诺产生某些结果，如果不这样做，这些结果是无法用服从来换取的。它消除了对于政治来说至关重要的东西，因为对产生结果的方式的争论和挑战在这个过程中没有立足之地。认识到算法治理的政治中立核心及其对社会进行排序的模式是重要的，它在一定程度上发挥了公共权力的政治作用，而且这种权力绝不是完全中立的，因为它必然体现某些价值和目标。

二、算法治理的兴起及其特征

算法治理的出现与数字技术的进步密切相关，特别是自20世纪90年代以来，数字技术的进步极大地增强了以信息为基础的规制活动和处理复杂协调问题的能力。生成、传输、存储和处理信息能力的爆炸式增长，使得网络交互的形式成为可能，其特征是多种实体共存，可以动态地调整他们的行为。

利用这些技术能力的规制形式在规则范围内对算法治理进行讨论。这种治理通常被视为一种特殊的社会规制模式，它承诺将极大地提高管理社会复杂性的能力。利用这种能力，实施这种治理的具体设想便是所谓的智慧城市。在智慧城市的背景下，算法决策系统应该促进对城市资源和流程的智能管理（例如在能源、交通、教育或犯罪领域），但也应该更好地包括并服务于市民及其需求。以交通管理为例，算法治理通过设置交通灯、引导驾驶员、根据实际需求动态调整公共交通来实现城市交通系统的优化。这种智能交通管理甚至可以包括单独和动态地将司机引导到停车位，从而优化时间和精力的总体成本。处理本案例中涉及的具体复杂协调任务是通过算法治理的一般特性实现的，这些特性允许算法治理在其他领域执行类似的操作。在现有文献的基础上，成熟的算法治理以其最有效的形式和作为调节行为的手段，具有三个基本特征。

首先，算法治理的特征是分布式实体的分散协调过程。有关行为和某些实体状态变化的信息反馈到算法决策系统，以便其他实体行为能够与这些信息更新相协调。然而，这不是完全自发的，也不是混乱的。各种输入在算法系统中相遇，算法系统介入行为的相互调整和协调，并进一步从构成协调活动基础的输入中产生知识。算法治理通过一种特定的调控形式——设计调控——来发挥其规制作用。这个概念已经出现在莱斯格的（Lessig）“代码即法律”①LESSIG,L..Code:and other laws of cyberspace，In Nachdr.New York:The Perseus Books Group，2002：pp.8-15.的声明中。这意味着代码具有制度性，因为它通过允许某些决策和限制其他决策来有效地构建行为。类似地，算法治理不需要做出有约束力的决定来影响和引导行为——尽管它当然也会涉及具有强制性的决定。相反，它可以通过设计参与者的信息环境来实现这一点。杨（Yeung）因此使用“选择架构”②YEUNG,K..“Hypernudge,big data as a mode of regulation by design”.Information,Communication &Society,2017，20(1)：p.120.的概念来描述算法治理的形式如何通过提供特定的信息、选项和建议来构建参与者的决策情况，从而使一些选择更多，而另一些选择更少。

其次，算法治理基于处理行为信息的学习和适应，预测分布式实体的未来行为，从而根据这些预测对它们进行最佳协调。以这种方式优化输出可以基于注册信息的组合进行，包括个体行为、较大环境中的变化以及这些实体整体的聚合变化。通过这种方式，自主性算法决策系统能够检测出行为中的模式，然后将其用于规制行为。它动态地调整自身以适应不断变化的环境和输入，从而优化生成的输出。

再次，算法系统产生的输出（例如信息、建议或决策）进一步被个性化，以使其适应个人及其特征。这样，算法治理的目标是大规模定制同时得到最佳协调的输出。具体地说，它是基于许多实体上已注册的模式行为的智能抢占，这有助于确保有效解决协调问题。这也意味着，所讨论的社会关系的规制和排序并不仅仅来自于提供一个单一的框架或规则体系结构，这些规则共同嵌入并构建个人的行为。相反，算法治理能够独立地、自主地嵌入和规制行为——因此相当于某种微嵌入，并提供大规模个性化。

在这一点上，把“代码即法律”颠倒过来是有意义的。在算法治理的背景下，从表面上看法律被视为一种相当粗糙的代码形式。正如莱斯格在论证中所承认的那样，代码和算法在规范行为方面的作用可以与法律相媲美，而以高度自主性算法系统形式出现的权威性代码则可以应对更大的复杂性①LESSIG,L..Code:and other laws of cyberspace，In Nachdr.New York:The Perseus Books Group，2002：pp.8-15.。其决策规则在动态地适应不断输入时可能会发生快速变化；个人的微观嵌入包括选择和决策规则，这些规则可能是非常细粒度的。因此，算法决策系统可以根据学习到的不同处理规则与个体进行交互，这些规则适应了个体的性格和行为模式——就像一张毯子，它被铺在一个不平整的表面上。这个毯子越固化，它的微观规则的纹理就越变成一种铸造模型，可以规制或约束个人的行为。基于这些能力，算法治理可以执行非常有效的社会规制，甚至在没有强制因素的情况下也可以起作用。它可以通过对信息环境和众多个人决策情况的高度适应性、协调性和针对性的干预来实现。

三、算法治理：实现复杂社会治理的可能性

算法治理以一种独特的、高度复杂的模式出现，这种模式对社会关系进行排序，并在潜在的大规模范围内产生集体协调结果。这些能力不仅仅是理论上的可能性。有大量的应用程序旨在利用算法治理的潜力来管理复杂的社会规制问题，各国也越来越多地利用算法决策系统来提高各个领域的驾驭能力和转向能力。一般来说，算法决策系统增强了作为政府关键政策资源之一的信息或节点。

根据行为经济学的观点，国家可能会使用“说服”和其他方式来影响利用信息权力的行为，从而构建决策情景并进行有针对性的干预，包括结合使用算法决策系统②DUNLEAVY,P..“Big data”and policy learning.In G.Stoker &M.Evans (Eds.),Evidence-based policy making in the social science:methods that matter.Bristol Chicago,IL:Policy Press，2016:p.77.等。此外，在安全、法律和秩序领域，利用算法治理能力的综合监控系统可用于监控和识别安全风险，以有选择性、针对性的方式进行预测和干预。③ZWEIG,K.A.,WENZELBURGER,G.,&KRAFFT,T.D..On chances and risks of security related algorithmic decision making systems.European Journal for Security Research,2018，3(2)：pp.181-203.通过这种方式，国家能够将风险最小化，而不必通过规则设置对行为进行分级和集体约束，从而允许更高层次的社会复杂性。

在公共服务层面，算法决策系统可以被视为“数字时代治理”的核心部分。数字增强管理利用处理后的大量分布式数据来预测服务需求并自动提供服务，这类智能服务使公民能够被诱导进而要求他们成为更加个性化公共服务的共同生产者。在这种情况下使用的算法治理还可以对公民行为做出预测，利用预测来改变期望和诱导动机，从而优化协调努力和实现理想目标。总之，“在这种情况下的治理意味着教会算法根据公民的行为来行事”④WILLIAMSON,B..“Knowing public services:cross-sector intermediaries and algorithmic governance in public sector reform.”Public Policy and Administration,2014，29(4)：p.308.。

算法决策是由国家来处理各个领域的社会关系，如刑事司法、教育、交通、医疗保健和社会福利——因此将这种治理用于表面上的政治功能。然而，类似形式的规制和协调也可以被发现超出了国家的范围。私人行动者（如互联网平台）也可能采用算法治理的方式，对社会秩序进行大规模干预和塑造。例如，算法决策系统应用于营销实践，使用大量个人数据对其进行分类，预测其偏好并自主地、有选择地以在线广告或推荐的形式呈现信息。更普遍的是，互联网平台的过滤和决策机制引导着信息流，塑造着数百万用户的社会感知。因此，它们影响了文化、知识和社会现实的构建。如关于搜索引擎，纳珀利（Napoli）指出：“作为搜索引擎核心的算法发挥着与现有媒体机构类似的政治功能。尽管只有少数参与者（比如大型互联网公司和金融机构）能够建立覆盖大型集体的算法系统，但他们仍然建立了具有深远社会影响的信息基础设施。”⑤NAPOLI,P.M..“Automated media:an institutional theory perspective on algorithmic media production and consumption:automated media.”Communication Theory,2014，24(3)：pp.340-360.

事实上，由算法决策系统执行的社会排序并不局限于狭义上的国家或政治角色，这与治理的概念（治理不一定由政府完成）非常一致。这种基于算法的协调也通常符合对治理的共同理解，即治理是通过相互依赖的行动者之间的协调过程，并根据制度化的规则来规制社会关系。然而，尽管治理的概念是出了名的广泛，但算法决策系统执行的这种复杂的协调超出了现有的治理形式，似乎超越了传统的类别和治理形式。人们有充分的理由认为，算法治理是一种规制和管理社会复杂性的独特模式，它需要一种新的方式来思考社会如何才能有序。

首先，从算法治理动态实现分散协调的角度来看，它类似于基于市场的交互协调，并接近一种可能的社会治理形式，即社会自组织。与此同时，由于算法治理的技术控制元素，它表现出更接近相反的特征。它不仅依靠分散的以市场为基础的协调的“智慧”，而且根据它用来作为其选择和决定基础的一种特殊知识采取行动，以取得最佳的协调结果。算法系统产生的一种知识，它或多或少对这种知识具有排他性访问。因此，就像一个技术型政府一样，信息系统应该具有规制规则制定和行为指示的高级知识。

其次，算法治理对于它作为一个行动者的地位是矛盾的。一方面，它符合作为一套规则来创造期望，塑造和嵌入行为的制度的普遍概念。另一方面，它针对目标干预的规则是有选择性的、动态调整的，这为自主行动者提供了算法治理特性，算法决策系统调解并主动干预许多个体的感知和行为。它是自我调节的，随着时间的推移而学习，从而逐渐调整执行干预的方式。

再次，算法决策系统作为一个集中的实体，与大量的个体实体交互。然而，它并不是以一种统一的方式，而是以一种差异化的方式——通过其个性化输出的能力——来做到这一点，就好像它同时是许多不同的行动者。

总的来说，有了这些能力，算法治理显示出在复杂性增加的情况下调节社会关系的非凡能力。因此，它有可能改变未来社会的组织方式。这不仅适用于前面提到的应用程序，在这些应用程序中，国家使用算法决策系统来解决某些领域的协调问题。算法治理的能力也形成了更广阔的社会愿景的基础，在这个社会中，社会关系日益协同，并由一个全面的、算法增强的神经系统的智能规制来塑造——这一愿景也为智慧城市的创建提供了信息，并与电子政府的某些理念产生了强烈的共鸣。除了简单地承诺有效和高效地处理社会规制任务之外，算法治理还以高度响应和分散的方式管理复杂性社会，它纳入并容纳受其协调活动影响的个人的投入。具体来说，它整合了各种不同的投入，将复杂性转化为集体协调和规制结果，但没有根除这种复杂性。在这一方面，它甚至反映了在不牺牲多样性的情况下创造统一的民主承诺，同时在管理社会复杂性和实现响应能力方面超越了任何已知的治理形式。这可能有助于进一步形成这样一种概念，即算法治理本身可以维持一种新的社会秩序方式。然而，这种概念最终可能是具有误导性的。

四、算法治理：智能时代社会治理的新范式

（一）算法治理：算法驱动下的数据巨机器

算法治理作为塑造社会秩序的一种非常有效的模式出现，它在一定程度上发挥了政治功能，产生了集体协调的结果，这些结果可以等同于作为一种规范行为模式的集体约束决策。这一功能还以前所未有的管理社会复杂性的能力得以实现。然而，其新颖的特点和特殊的运作模式，为理解算法治理实现什么样的社会秩序或政治愿景提供了条件，人们可以借鉴一个已经成为现代政治思想基石的模板——托马斯·霍布斯的《利维坦》。智能社会的运作模式是利用所有个人的力量，形成算法治理与协调的一部分，这让人想起霍布斯的《利维坦》中的人物形象——他甚至将其视为一台巨大的机器。从某种意义上说，算法决策系统形成了一种“算法利维坦”（Algorithms Leviathan），因为它们激发了一种潜力，这种潜力在于涉及许多个人的可能协调结果。它是通过实现复杂的协调任务和解决协调挑战来实现的，而参与这些任务的个人甚至不一定知道这些挑战的存在。因为个体之间没有通过相互作用来产生集体行动的解决方案，他们都通过算法系统作为中介来协调他们的各种行动并产生集体结果。因此，通过与中介的交互，他们都可以表现得好像实现某个结果是他们的集体目标，但是他们不必了解这种协调工作固有的复杂的手段—目的关系，这是算法系统的任务。

总之，个人不必相互信任，他们首先必须期望通过算法协调进行的调解能产生令人满意的结果。不仅在他们的背后，而且在其他人的背后，这种协调类似于“看不见的手”对社会关系进行排序的想法——甚至比基于市场的协调更相似，因为在算法治理中，存在一个执行主动引导的实体。尽管这种转向似乎与霍布斯设想的那种规则相差甚远，但仍有一个惊人的共性，即有效性。这种有效性植根于一个单一的算法系统，该系统从众多的个体那里汲取力量。同样，霍布斯明确地把利维坦理解为一个“人造人”，但它由许多个人组成。

像霍布斯的利维坦那样，算法系统的排序、选择和决策虽然居于幕后，但仍然存在并在多种社会关系中发挥作用。因此，算法治理也呈现出一种制度性特征，即它被归化并具有自己的生命。与其他机构一样，它可以嵌入到社会实践中，通过提供信息和激励以及形成预期来调节社会互动。正如施罗德和凌格（Schroeder&Ling）在更广泛意义上所指出的那样，“信息和通信技术的扩散导致社会关系和个体体验越来越多地以技术为媒介”①SCHROEDER,R.,&LING,R..“Durkheim and Weber on the social implications of new information and communication technologies.”New Media &Society,2014，16(5)：pp.789-805.。在这方面，算法治理是一个特别突出的例子，它是一种有力的中介——主动干预社会秩序——它在后台运行时无处不在。在霍布斯看来：“统治君主和实现某种社会秩序的安排是通过个人之间相互同意放弃个人做任何事情的自由而建立起来的。”②HOBBES,T..Hobbes’s leviathan.Oxford:Clarendon Press，1909：pp.133—134.具体来说，个体将决策的权力和责任割让给算法系统，使系统能够在一定程度上基于预测个体的欲望和偏好并据此进行干预的基础上，履行其协调作用。

这是通过这些个体之间的社会契约实现的，然而，与其说它是某种真正的原始契约，不如说它是一种假想的结构：个人放弃他们的自然自由，将权力交给统治者。统治者的任务是创造和保护社会秩序，并为每个成员维护同等程度的个人自由。这是并行的算法协调，是基于自愿放弃一些个人自主。具体来说，个人将决策的权力和责任交给算法系统，以便系统能够履行其协调作用，部分基于预测个人的欲望和偏好，并相应地进行干预。与算法治理系统绑定的个人会希望将他们对系统的信任提高到期望算法协调将满足他们大多数需求的程度。就像霍布斯对政治秩序的看法一样，个人通过自我约束，通过放弃自由来实现一种授权，因为他们渴望在算法系统的输出中占有一席之地。然而，这并不是通过一些实际的社会契约来实现的，而是通过许多有意或无意的个人决定来实现的，从而使自己服从于算法的协调。

一个主要的区别是利维坦的权威基本上是建立在对过早和暴力死亡的恐惧，以及对安全的承诺。相反，算法协调的权威不是来自保障和平，而是来自帮助追求幸福和满足个人偏好的承诺。然而，在这种情况下，最优的协调结果可能会被削弱——就像霍布斯所说的英联邦在放弃对君主的服从时所做的那样。要信任算法协调工作，个人必须能够期望它是有效的、公正的和公平的。因此，它的输出创造了算法治理的接受度和合法性。这反映了霍布斯的观点，即政治统治的合法性最终建立在其有效性之上。在这种可感知的有效性的情况下，算法协调的中介系统提供信息、建议或决策，使得它们所处理的问题倾向于自身利益的需要。事实上，正如一些学者所指出的那样，如果这能给他们带来明显的好处和便利的话，人们普遍愿意服从甚至依赖于各种形式的算法监控和规制。③ZUBOFF,S..The age of surveillance capitalism:the fight for the future at the new frontier of power.London:Profile Books，2019：p.121.只要个人不质疑算法的有效性和公平性，沉迷于算法协调带来的好处，它不必具有权威性和约束力，以达到同等的效果，这标志着算法治理和霍布斯的君主思想之间的进一步类似。

为了实现其有效性和效率，并实施协调，算法协调同样要求个体依靠其卓越的分布式意识和“智能”来实现个体满意的结果，这也是更大的协调努力的一部分。将这种协调工作开放给挑战和质疑这一过程的个人，让他们利用自己的判断，将很容易犯阻挠算法系统性能的风险。以前面提到的停车引导系统为例，可以说明算法决策的争论如何破坏协调工作。越多的个人推脱本应产生一个最佳的集体结果的算法建议和决策，或对这些决策背后的标准提出质疑，就越难达到最优的结果。此外，在协调过程中，算法决策的可竞争性可能会促使个人利用这个选项来改善结果——从而阻碍协调工作。这并不是说算法治理必然形成一个绝对权威，不由受其决策影响的那些人的控制。正如下文阐述的，对算法治理的控制很可能通过适当的程序实现。然而，就其优化和协调的过程而言，它需要作为一个不容置疑的权威来运作，如果它要实现这种能力，就必须有能力取得最佳的协调结果。因此，算法治理的价值似乎在于它作为“运转良好的数据巨机器”的特性，用卡尔·施密特（Schmitt）的话来说：“它指的是国家在某些政治思想中假定的价值。”①SCHMITT,C..The leviathan in the state theory of Thomas Hobbes:meaning and failure of a political symbol.Westport,Conn:Greenwood Press，1996：p.42.然而，施密特补充说，国家似乎只是一个纯粹的技术手段和中立安排。类似地，前面的考虑意味着算法治理不仅仅是一种技术手段，它还将是一种特定的社会秩序——即对社会事务的政治中立性管理。

（二）政治中立：算法治理的根本追求

与利维坦的地位和权力类似，算法协调的权力与无争议是密切相关的。这就是算法治理的一个根本特征，它与政治完全相反，因为政治是一个持续的过程，在这个过程中，不同的观点可以相互竞争，对现状的挑战不断出现。在这里，不再有一个开放的过程，在这个过程中，可以为集体决定，为治理公民的价值观、规则和制度而斗争以实现政治目的。它的反面就是朗西埃所称的警察，警察被理解为社会生活的管理和秩序，而不是对这种管理的质疑。②RANCIERE,J..Disagreement:politics and philosophy.Minneapolis:Univ.of Minnesota Press，1999：pp.27-31.从后一种意义上说，《利维坦》是政治中立性的，它通过建立主权的行为和这个主权为管理社会秩序而做出的集体有约束力的决定，充分体现了它的政治中立性。没有政治辩论和争辩的空间，君主本质上是一个强大的管理者；这种治理社会的主要任务是确保私人经济活动能够开展和展开的空间，而不是建立一个政治斗争的舞台。

算法协调也具有这种政治中立性。一方面，它是一种潜在的强大的协调模式，可以塑造社会关系并有效地运作，就好像它在做出集体和权威的决定一样。另一方面，它的协调过程遵循一种行政的、技术官僚的解决问题和对投入做出反应的模式，例如以偏好或需求的形式③KITCHIN,R..“The real-time city? Big data and smart urbanism.”GeoJournal,2014，79(1)：pp.1-14.。因此，它与上面所描述的政治有着根本的不同，也与诠释学的追求（在政治所涉及的语言模式中创造并与意义斗争）不同。这一进程不能按照预先确定的方向进行，也不能停留在现实的基础上，因为它不是关于优化某些目标，而是关于确定规制目标和价值应该是什么。根据实用主义哲学及其社会观点，语言的使用总是包含着一种不可消除的不确定性因素，因为语言游戏从来都不是完全复制和稳定的，但它们总是伴随着修改、突变和开放。算法治理无法减轻个人在这些语言游戏中的徜徉、应对不确定性和不同的观点，以及决定何时挑战现有规则和决策。

因此，希尔德布兰特（Hildebrandt）强调了一个重要的区别，即关注法律实践中的信息处理，而不是计算操作。她指出，法律是一种论证实践，而不仅仅是一种信息处理。因此，法律判决不仅仅是在准确性方面的表现，“判决本身是基于对法律确定性的任何具体解释的可竞争性”④HILDEBRANDT,M..“Law as information in the era of data-driven agency:law as information.”The Modern Law Review,2016，79(1)：pp.1-30.。与计算中符号的处理不同，法律实践是以论证为基础，以人类语言的方式进行的。它包含了一种主体间性和解释学的维度，即关于意义、社会规则和价值内容与基础的斗争。这种做法允许经历一个通过重新评估、修订和更新社会规则和价值观来学习的过程。相反，虽然算法治理通过响应不断变化的输入也能自我调整。但这不会在对话和推理的层次上发生，也不会涉及规制其进程的目标和参数。

因此，算法协调的高度响应性（包括提供个性化输出作为对个人输入的响应）不应与受此控制的人的集体影响或自主性相混淆。它与自由民主制度所实现的反应方式有着根本的不同，后者涉及一个持续的过程，即根据被统治者的投入来设定、争论，甚至可能修订目标和决定。相比之下，算法治理的自主性是为了最好地实现某些实质性和程序性的目标，而这些目标本身并不是优化和协调过程中的主题。

综上所述，算法系统的学习和算法协调作为管理社会关系的一种方式不能取代政治学习过程，而算法治理实现响应性的意义在于它响应单个输入，并对应着类似于个体消费的首选项实现。

（三）价值关涉：算法治理对社会治理的影响

总之，通过算法治理来实现社会协调和管理社会复杂性与通过政治来处理社会复杂性是完全不同的。然而，这两者在一些方面有功能上的联系。虽然算法治理需要一种政治中立性的规制模式，但正是这种政治中立性对社会治理产生了重要的影响。

首先，尝试在某些领域建立算法治理，并根据其运作模式塑造这些领域的社会关系。这样的尝试很可能是基于这样的前提，即正确设计的算法决策可以实现对复杂问题的卓越和客观的解决方案。这本身就是一个社会治理举动，因为算法治理等同于发挥公共权力，而这种权力绝不是中立的。正如学者一再指出的那样，算法决策系统必然包含特定的价值、目标和程序参数，这些价值、目标和过程参数决定了决策系统的运行，而这些价值、目标和过程参数永远都不是中立的或客观的，即使它们可能被规范化并被视为理所当然。这些规制其活动的目标和参数形成了算法治理的制度核心，很容易被其不断的流动性、适应性和以不同方式与分布式实体交互的能力所掩盖。

其次，算法治理背后的目标和价值问题可以被明确地提出，并且在其体系结构的核心原则和目标上可能会有冲突。但这一政治进程本身不会遵循管理和技术官僚解决问题的模式，也不会成为算法协调的一部分。社会治理起始于算法系统应该完成什么、应该体现什么价值、应该实现什么公平概念等辩题。这正是试图给算法系统一个明确的、社会公认的基础，并“在人类价值和治理算法之间创建通道”的想法①RAHWAN,I..“Society-in-the-loop:programming the algorithmic social contract.”Ethics and Information Technology,2017，(online first)：pp.1-10.。此外，算法决策系统本身用于集成和聚合输入，以促进政治互动、意见和群体意志形成。可以设计相应的系统或平台来维持持续的争论和审议过程②VAN DEN HOVEN,J..“E-democracy,E-contestation and the monitorial citizen*.”Ethics and Information Technology,2005，7(2)：pp.51-59.。然而，这样做的时候，他们完全不会执行上面描述的那种算法协调。因为协调、学习和判断的机制存在于参与的个体中，涉及他们通过公认的程序共同设定的目标，以管理他们的互动关系。

无论如何，关于算法治理的适当设计和使用的价值辩论会引发涉及复杂技术问题的难题。继希尔德布兰特之后，产生歧义的一个主要原因是，为同一目的设计的不同算法系统导致了不同的结果③算法系统以数据的形式处理输入，而这些数据本身并不能说明问题——它必须基于选择规则和关于什么是相关的决策进行处理；基于现有信息进行选择、分类和区分的具体方式总是以一种特定的方式呈现。。此外，还有各种各样的、部分相互矛盾的方法来评估和实现目标（例如质量和公平性）这为讨论最佳解决方案提供了大量的空间④BERK,R.,HEIDARI,H.,JABBARI,S.,KEARNS,M.,&ROTH,A..“Fairness in criminal justice risk assessments:the state of the art.”Sociological Methods&Research,2018，4（1）：p.253.。

再次，算法治理可以努力消除政治中涉及价值关涉的领域。它具有微自主性过程和分类能力，通过分离和分类而不是集成来解决协调问题（例如，通过合法机构的审议或权威决策）。事实上，算法排序可以解决看似不可避免的个体与归属或社区之间的紧张关系，换句话说，也可以解决社会整合中的机制与有机体和谐之间的紧张关系。个人可以选择他们的社会环境和社区，并通过算法过滤来维护自己的边界。因此，加强和维持社区不再必然与个体化和复杂的功能分化相冲突。因为算法协调可以帮助容纳和整合许多不同的或多或少封闭的社会领域的多样性。通过这种方式，它减轻了在社会高度复杂性条件下治理的核心挑战之一，即从多样性中创造和谐与统一。

算法治理——如果它运行良好的话——通过对输入和输出做出适应性的响应来产生令人满意的结果。然后，它朝着这样一种状态努力，即它的规制目标和参数甚至没有理由进入人们的视野。这种定位在其设计中有一个重要的含义。这意味着无论其实质性和程序性目标是否由受影响者制定，它的目标是通过被认为是令人满意的输出做出反应和接受。在这种情况下，受影响的积极的个体经验和算法系统的有效性，以及效率的诱惑可以激发对算法的信任，这些都涉及关于算法治理的价值责任问题。正如许多学者所指出的，问责制问题的出现不仅因为其复杂的过程缺乏透明度，而且绝大多数个人仍然无法理解这种复杂性，但也因为通过设计实现的算法治理致力于消除问责制问题及其所体现的目标和价值的场合①LEPRI,B.,OLIVER,N.,LETOUZE,E.,PENTLAND,A.,&VINCK,P..“Fair,transparent,and accountable algorithmic decision-making processes:the premise,the proposed solutions,and the open challenges.”Philosophy &Technology,2018，31(4)：pp.611-627.。从这个意义上说，它在产生满意的个人目标方面似乎是非常有效的，但是这些人是由他们自己制定的规则和目标来管理的，而这些规则和目标并不是个人自己制定的，也不是集体授权的，这种情况是否会出现在算法治理的未来应用中还有待观察。至少在当前应用算法治理的实践中，其结果、有效性和效率可以作为社会治理效能的主要评估标准。在商业应用程序（如互联网平台）中，个人消费者和用户主要对接收某些服务和商品感兴趣，即对于用户来说，只要规制准则这些服务是有实际内容的，如何生成这些服务的问题就可以忽略不计——即使算法决策系统执行的是集体规制和协调功能。然而，对于由国家建立的应用程序，也可以观察到类似的输出维度的首要性。即使是强调程序层面的智慧城市概念化，也主要是指公民参与的过程，但往往不被视为政治行为。公民应该在算法系统中提供他们的参与性输入，以利用他们的分布式知识和集体智慧，然后可以用来提供更好的服务，他们不打算颁布某种形式的集体自治。此外，正如布劳内斯和古德曼（Brauneis&Goodman）对算法治理在美国监管领域(如犯罪、健康和教育)的各种应用所表明的那样，这些应用主要是通过它们的有效性来证明和衡量的②BRAUNEIS,R.,&GOODMAN,E.P..“Algorithmic transparency for the smart city.”SSRN Electronic Journal,2017,https://www.ssrn.com/abstract=3012499(Accesssd May16,2018).。与此同时，它们往往在透明度和问责制方面存在缺陷，而这些标准的重要性却处于从属地位。因此，在现实的应用程序中有一个明显的趋势，即根据算法治理的有效性来判断算法治理。

总之，在满足个人的需求和偏好方面，算法治理就像一个“巨大的机器”，调节着社会关系却又退居幕后，从而实现一种社会治理功能。

五、结 论

算法治理是规范社会行为和形成社会关系的有效形式之一，有充分的理由认为它是一种真正新颖和独特的治理形式，这种治理形式基于算法决策系统的能力，能够处理复杂的社会规制与协调任务。一方面，它涉及一种强有力的去中心化的、类似市场的协调形式和社会自组织的思想。另一方面，它也展示了一种技术统治的元素，并有目的地介入到社会关系中，这些社会关系基于一些高级知识或智能，而这些知识或智能是最优协调行为所必需的。此外，算法治理通过设定规则和预期来形成类似于其他机构的社会关系。因此，算法治理涉及创建基于微嵌入的集体协调结果，微嵌入是个体行为的嵌入，自主地构建个人的决策。通过这种运作模式，算法治理标志着管理社会复杂性能力的质的变化。算法治理以其最有力的形式发挥了公共权力，因为它实现的结果可以等同于狭义上的集体约束决策与政治决策。与此同时，算法治理作为一种排序社会关系的新方式出现，甚至不太符合治理的一般概念。因此，算法治理似乎需要更新现有的思考方式，即如何在社会高度复杂的条件下实现社会秩序。

然而，如上所述，尽管算法治理具有新奇的性质，但它可以用霍布斯的观点来理解，即君主是政治思想中的一个基本人物和模板。算法治理相当于某种“利维坦”，或者一个在后台运行的“巨型机器”，将众多个体的力量集合起来加以利用，这使得协调的结果成为可能。而个体本身是无法实现协调的。就像霍布斯的利维坦一样，算法治理的有效性决定了它的可接受性。它需要个人放弃一部分自主性——即干预协调过程的自主性——以便算法治理能够产生使这些个人受益的结果，否则这是不可能的。算法治理可以包括对社会关系的治理，这种治理对那些受影响的人是有益的，旨在产生响应性强、令人满意的结果——正如霍布斯的利维坦理想状态下会做的那样。因为算法治理的目的是为顺从的个人产生令人满意的结果，它的社会政治结构与霍布斯的主权理论非常相似，尽管在社会技术条件方面的巨大差异可能掩盖了这种相似性。与利维坦一样，算法治理的运作模式最终表现出政治中立性，因为它没有预见到对规制它的目标和标准的质疑或竞争。在实现其治理功能和复杂协调结果的过程中，算法决策系统是一个不容置疑的权威。因此，一方面，算法治理可以高度响应和适应个人输入。另一方面，它只是在努力实现治理其协调工作的实质性和程序性目标方面具有高度适应性，而在修改这些治理标准本身方面却没有这种适应性。此外，算法治理的目标是对单个输入做出反应和响应，并产生令人满意的结果，而不管那些受影响的人是否已经设置或甚至意识到治理这个过程的目标。然而，这种社会关系的排序从来都不是中立的，因为它遵循特定的价值目标和参数。因此，有利于以某种方式对其他人发挥公共权力。

允许设置和修改这些价值目标的过程需要在算法治理之外来实现。如果那些受到算法治理影响的人能够看到其集体协调成果以他们的名义产生，那么这种社会规制就必须得到集体授权。只有政治进程才能提供这种授权，以实现某些具体和程序性的目标，从而产生集体协调的结果。然而，政治过程涉及的是一种学习和适应，这与算法治理的适应过程及其工具性优化模式有着根本的不同。它是建立在对社会生活秩序的思想、价值观和目标的持续斗争的基础上的，这一斗争涉及话语中意义和解释的重新谈判。

总之，与霍布斯《利维坦》的类比有助于证成智能时代算法治理的合理性，以及为什么算法系统的学习不能替代涉及政治性的那种学习。当然，算法治理在管理社会复杂性和处理实体多样性方面具有很强的能力，它的目标是在这些实体之间实现协调。但是，从多样性中创造统一的政治任务则完全是另一回事。然而，尽管算法协调不能取代政治，但它越有效、高效地满足个人的期望和偏好，它就越有可能表现出政治中立性：通过包容个人的异质需求和愿望，消除彼此间的摩擦，这需要弥合、整合不同的观点和要求的复杂过程。也许正是在这种意义上，算法治理恰恰给社会治理带来了最大的挑战。