算法时代的国家治理：在算法与法律之间

陈 鹏

内容提要：技术规范和法律规范都是调节社会关系的手段。大数据的出现、云计算技术的日渐成熟和深度学习算法的重大突破，推动着算法时代的到来，算法在约束个体行为和调节社会关系等方面的作用日渐凸显，算法的法律化趋势不断强化，算法代码正不断挤压法律规范的运行空间。数据和算法是算法治理的核心，数据在完整性和真实性上的瑕疵以及算法的不可解释性，使得算法代码在国家治理中不可能实现对法律规范的完全替代。在算法时代，算法治理社会的乌托邦既不会实现，法律也不会死亡。伴随算法的法律化趋势与法律的算法化进程的相互激荡，处于算法与法律之间应是算法时代国家治理规范的发展趋势。为此，一方面要正视算法的法律化趋势，运用法律来规训算法，推动算法技术在国家治理中的深度应用；另一方面，也要注意积极利用算法技术来推动法律的算法化进程，促进法律规范与算法代码的有机融合，切实提升法治绩效。

大数据时代的到来和云计算技术的日渐成熟，推动着人工智能算法应用场景的不断拓展和应用程度的不断加深，算法在工业生产、人类生活和社会交往中的影响力和控制力正日渐凸显，我们正逐步进入到算法时代。①[美]卢克·多梅尔：《算法时代：新经济的新引擎》，胡小锐等译，中信出版社2016年版，第214页。算法时代的到来，使得算法在个体行为约束和社会关系调节等方面发挥着越来越重要的作用，算法代码作为技术规范在国家治理中的影响力和控制力日渐增强，算法治理正逐渐成为一种新型的技术治理形态。“法律和技术都是解决人类社会基本问题的手段，两者在许多领域可以相互替代。”②郑戈：《区块链与未来法治》，载 《东方法学》2018年第3期。算法时代的到来和算法治理形态的出现，在充分展现技术规范在国家治理中的重要性的同时，也对传统上以法律规范为主导的国家治理规范体系产生了深刻的冲击，算法代码正不断地挤压法律规范的运行空间，以致于有学者提出了 “（算法）代码即法律”的观点，③[美]劳伦斯·莱斯格：《代码2.0：网络空间中的法律》，李旭等译，清华大学出版社2009年版，第89页。将算法看作是网络空间中的法律，算法的法律化趋势正日渐凸显，更有学者提出了法律将会死亡的预判。④余成峰： 《法律的“死亡”： 人工智能时代的法律功能危机》， 载《华东政法大学学报》2018年第2期。算法治理有效性的充分发挥，以数据的完整真实和算法的合规有效为前提和保障。而现实中人类所能获取到的数据难以保证绝对的完整和真实，并且算法设计环节的不透明性和运行过程的不可解释性，使得算法本身也是不完备的，难以做到完全的合规和有效，算法代码难以实现对法律规范的完全替代。

面对日渐凸显的算法法律化趋势，我们既要看到算法的应用在降低国家治理难度和提升国家治理效率等方面所发挥的积极作用，但也不能对算法在个体行为约束和社会关系调节等方面所发挥的功能寄于过高的期望，法律规范在国家治理中依然存在较大的应用空间。在算法时代，算法治理社会的乌托邦既不会实现，法律也不会死亡。伴随算法的法律化趋势与法律的算法化进程的相互激荡，处于算法与法律之间可能将是算法时代国家治理规范的演变趋势。为此，我们在强化对算法的法律规训以确保在算法合规有效的前提下不断拓展算法应用空间的同时，也要顺应算法治理的趋势，推动法律的算法化进程，在法律规范的制定和执行环节更多地考虑法律规范如何与算法代码更好地融合，以达到利用算法来提升法治运行绩效的目的。

一、算法时代国家治理形态发生的变革

算法是人工智能的基石之一，依据人工智能机器学习算法类型的不同，可以将人工智能的发展历程分为弱人工智能、强人工智能和超级人工智能三个阶段。其中，弱人工智能的算法处于监督学习阶段，人工智能机器完成任务所需要的算法指令完全由人类设计，人工智能机器自身并不具备自主学习的能力。例如，二十世纪九十年代出现的机器人深蓝，就处于弱人工智能阶段。强人工智能的算法处于深度学习阶段，人工智能机器具备了依据特定的数据来自主学习的能力，通过不断地自主学习和强化训练，人工智能机器可以自主生成决策指令，人工智能的自主行为能力开始出现并不断增强。超级人工智能的出现，以人工智能具备了完全的自主意识和行为能力为主要标志，超级人工智能与人类智能已基本无异。当前，伴随深度学习算法技术的日渐成熟和应用场景的不断拓展，人工智能正处于从弱人工智能向强人工智能转变的阶段。在深度学习算法的驱动下，人工智能在现代国家治理中应用场景不断拓展的同时，算法在国家治理中的应用程度也不断加深，算法正日渐成为现代国家治理中约束个体行为和调节社会关系的重要技术规范，一种新型的技术治理形态——算法治理正日渐凸显。国家治理技术的重大变革，不仅对提高国家治理能力和改善国家治理绩效有着现实的意义，而且还会对既有国家治理秩序产生较大的影响和冲击。与传统上由政府主导的国家治理形态相比，在算法治理形态中，人工智能机器正逐渐成为新型的国家治理主体，国家和社会中的部分场域实现了自我治理，在治理规则上实现了算法代码对法律规范的部分替代，在治理权力上出现了私权力对国家公权力的部分替代。

1.算法治理在治理主体上实现了人工智能机器对人类的部分替代。国家治理形态的变迁与治理技术的变革有着紧密的内在关联。深度学习算法的出现及其在国家治理中的深度应用，不仅带来了国家治理效率的提升和国家治理能力的提高，而且也对传统上由政府主导的国家治理体系和由人类主导的世界治理秩序产生了深刻的冲击。人工智能技术在国家治理中的深度嵌入，推动着传统国家治理向智能治理形态转变，而智能治理的实质就是算法治理。与之前的互联网等治理技术的变革对国家治理形态的变迁所产生的影响不同，算法治理不仅实现了治理技术的深刻变革，而且带来了治理技术向治理主体的转变。拥有深度学习算法的人工智能机器在国家治理中，可以根据具体应用场景的变化来自主生成治理方案，使得原本在国家治理中居于治理主体地位的政府变成了听命于人工智能机器指令的被动执行者，人类利用人工智能来治理正逐渐转变为人类听命于人工智能来治理。

2.数据的应用和算法的运行使得部分领域的自我治理成为现实。国家虽然是人类社会发展到一定历史阶段的产物，但自国家产生后，国家对社会和市场的影响力和控制力不断增强，国家在与市场和社会的关系中处于主导地位。近代欧洲市场经济的发展和自由主义政治思潮的兴起，虽然确立了政府守夜人的角色，但由于市场内生的结构性和功能性缺陷所导致的市场失灵现象的存在以及社会自我治理能力的不足所诱发的社会失灵问题的加剧，使得市场和社会领域的治理始终离不开国家和政府不同程度的干预。因此，国家治理的范畴通常就包含了政府对市场和社会的治理。人工智能深度学习算法的出现及其在国家治理中的深度应用，不仅提高了国家治理的效率并推动着国家治理绩效的不断改进，同时也改变了部分领域的治理格局。大数据的出现和深度学习算法对数据的快速处理和分析能力，可以有效解决部分领域中存在的信息不充分和信息不对称的治理困境，从而为社会和市场部分领域的自我治理提供了可能。例如，近年来崛起的各种类型的互联网平台企业，每个平台实际上就是一个自治的网络空间。在各种类型的互联网平台内部，创建和负责平台运营的互联网企业通过对交易数据的提取和分析，可以对平台上的客户与商家之间、平台与客户之间以及平台上的商家与商家之间的交往和交易信息做到实时的监控，平台可以据此制定相应的规则来实现平台内部的自我治理。此外，伴随区块链技术的兴起，区块链上的每个数据区块实际上就是一个自治社区，智能合约的出现和运用解决了每个区块内部的信息不充分和不对称的难题，成为维系区块正常运行的技术规范。

3.算法治理在治理规则上实现了算法代码对法律规范的部分替代。算法是由一系列计算机代码构成的。算法代码在国家治理中的运用，不仅有利于降低国家治理的难度和节约国家治理的成本，而且算法代码也逐渐成为国家治理的规范，算法代码在某种程度上正在取代法律在约束个体行为和调节社会关系中所扮演的规范角色。大数据时代的到来和移动互联、物联网技术的日渐成熟，使得网络空间与现实空间实现了深度的融合和高度的同步，法律规范在网络空间中的适用是各民族国家对网络空间宣示主权的象征，也是网络空间治理的内在要求。但是，由于网络空间不像实体空间那样具有明显的国界标识，各主权国家的政府对网络空间难以进行有效的监管。而且，不同国家之间在法律规范上的差异，也使得网络空间治理中的沟通难度较大、治理成本较高。而深度学习算法的出现及其在国家治理中应用场景的不断拓展，使得互联网平台等网络空间治理规则的制定和治理秩序的维系可以通过算法的自动运行来完成，算法代码在部分网络空间治理中对法律规范替代的趋势日渐凸显。

4.在国家公权力之外出现了私权力。自人类社会进入到国家状态以来，国家机关就垄断了公权力的行使，政府在主导国家治理议程的同时，也形塑着国家治理的秩序和格局。算法时代的到来，使得网络空间在人类的生产、生活和社会交往中的重要性日渐凸显，各类应用平台成为人们在虚拟空间中交流和博弈的平台。在这些应用平台的运行中，开发和负责平台运营的互联网公司所制定的交易规则和行为规范，在平台空间中扮演着法律规范的角色，而互联网公司所实施的治理平台的行为在一定程度上就是行使权力的行为，各种类型的互联网平台企业也由此成为国家机关之外可以行使权力的主体。如果说国家机关行使的是公权力，那么这些平台企业行使的就是私权力。在算法时代，“政府管理部门无力面对海量的信息和交易，便把一些公法审查义务交给网络服务提供者，进而赋予其公法审查权力，并造成了 ‘避风港原则’与 ‘防火墙’之间的内在张力。于是，平台就具有了自身运营的管理权和政府转加的公法审查权，形成了日益庞大的、具有某种公权特征的私权力。而 ‘所谓的平台效应也在加剧利益和价值向少部分人手中集中’”。⑤马长山：《智能互联网时代的法律变革》，载 《法学研究》2018年第4期。而且，“社会权力的崛起改变了传统的国家与社会的二元对立框架，形成了智能互联网时代的公权力—私权力—私权利三元博弈新格局”，⑥参见前引⑤，马长山文。推动着国家与市场、国家与社会的关系格局发生着深刻的变革。

二、算法取代法律：一个技术治理的乌托邦

大数据的应用和算法技术的日渐成熟，使得 “人类正在进入一切皆可计算的时代”，⑦徐恪：《算法统治世界——智能经济的隐形秩序》，清华大学出版社2017年版，第323页。国家治理的技术化趋势不断强化，算法治理形态也随之不断凸显。作为一种新型的技术治理形态，算法治理是指以大数据为依据，通过深度学习算法的自主学习和强化训练来自主生成治理方案并不断提升治理能力的治理形态。数据与算法一起构成了算法治理的基石。其中，数据是算法治理的依据，算法是算法治理的核心。数据的完整真实和算法的合规有效是算法技术在国家治理中的有效性得以充分发挥的前提，而数据在完整性和真实性上的瑕疵以及算法的不可解释性，使得算法代码在国家治理中不可能实现对法律规范的完全替代，算法治理社会的乌托邦难以实现。

（一）算法治理有效性的前提

算法的本意是数字的运算法则，后被计算机学科加以吸收利用，用于指代完成特定任务的计算机指令的集合。算法作为 “一种有限、确定、有效并适合用计算机程序来实现的解决问题的方法，是计算机科学的基础”。⑧Robert Sedgewick，Kevin Wayne：《算法 （第四版）》，谢路云译，人民邮电出版社2012年版，第6页。二十世纪五十年代初 “图灵测试”的出现，开启了人工智能的序幕，人类设计出来并植入人工智能中的算法使得人工智能机器可以自动地完成特定类型的任务，在大幅提高生产效率的同时也给人类生活带来了极大的便利。此后，伴随算法技术的不断进步，人工智能的应用场景不断拓展，应用程度不断加深。2016年被称为人工智能技术的元年，在这一年中，谷歌公司的智能机器人——阿尔法狗战胜了韩国世界围棋冠军李世石，而阿尔法狗运用的正是深度学习算法。深度学习算法通过建立模仿人脑学习和分析机理的多元神经网络，实现了从海量的大数据中自动提取与工作目标相关的数据来自主生成治理方案并完成工作任务的目标。深度学习算法的出现及其日渐成熟，与大数据的出现和云计算技术的快速发展密切相关。大数据为深度学习算法提供了自主学习和强化训练的原料，云计算技术为深度学习算法对海量大数据的提取和分析提供了强大而准确的运算保障。国家治理是技术理性与价值理性的有机统一，国家治理除了要利用一定的技术手段来实现治理效率提升的目的外，还要更好地推动社会公平正义价值的实现和维系。技术治理是国家治理效率提升的重要手段，技术治理在国家治理中应用空间的有效拓展，要求技术治理在坚持合目的性的同时，也要做到合法律性和合道德性。数据和算法一起构成了算法治理的两大基石，共同推动着算法治理应用场景的不断拓展和持续深化，而数据完整真实和算法合法合道德也成为理想的算法治理应该具备的前提和保障。

1.数据完整真实。数据作为人工智能的基石之一，是算法治理的依据。深度学习算法的出现及其在国家治理中的应用，与对大数据的使用和分析密不可分，真实而全面的数据供给是确保算法治理有效性的前提和基础。首先，数据是具备深度学习算法的人工智能机器自主学习和强化训练的原料。这些数据原料可以是算法的设计者和使用者按照一定标准和规则来选取的，也可以是人工智能机器直接从传感器或者物联网系统中自动提取。在数据的支撑下，人工智能机器就会从特定的数据集中识别出相关的特征信息并依据这些特征信息来自主生成相应的算法指令，然后依据这些指令来自动完成相关的任务。

其次，确保选取的数据是真实且全面的，是防止算法偏见出现和维系算法代码公正的根本保障。深度学习算法本质上就是计算机指令的集合，算法本身并不带有任何特定的价值偏好和利益指向。但是，深度学习算法学习和训练所使用的数据是由特定的设计主体和使用主体来选取的，算法设计者和使用者在数据选择上的价值偏好和主观意图对人工智能机器算法指令的生成有很大影响。数据选取上的偏见，可能导致算法偏见甚至是算法歧视等问题的出现。人工智能机器如果利用依据特定的价值偏好和主观意图选取出的数据来学习和训练的话，其所生成的算法指令必然带有一定程度的偏见，甚至是歧视。因此，要想让算法治理成为现代国家治理中值得信赖的技术治理范式，必须要保证作为算法生成和算法运行依据的数据是真实且全面的。大数据时代的到来，使得我们正进入到万物皆可以数据化的时代，整个人类社会的数据量呈现出爆炸式增长。在理想的算法治理形态中，大样本的数据甚至是全样本数据取代了小样本数据成为数据的主要形态，为深度学习算法在客观且充分的数据供给状态下自主生成治理方案提供了可能。数据供给的客观性和公正性在很大程度上保障了算法治理的客观性和公正性，为算法治理应用空间的拓展和应用程度的加深提供了无限的可能。

2.算法合法合道德。算法是算法治理的核心。在传统国家治理中，决策者的主观偏见和信息的不充分，使得决策的科学性难以得到有效保障。大数据的出现，使得决策主体可以借助于一定的技术手段以较低的成本来获取较为充分的数据。通过从海量的大数据中提取的相关信息，决策主体可以较为准确地分析社会舆情的变化，科学地界定政策问题的边界和特征，从而为制定有效的决策方案和科学地评价政策执行过程奠定了坚实的基础。但是，大数据的出现，仅仅为决策主体提高决策制定的科学性和准确性提供了可能，而要把这种可能性转变为现实性，还需要借助于深度学习算法对数据的处理，算法的运行是大数据的价值在国家治理中得以深度挖掘并广为应用的前提和保障。由于算法是由特定的主体设计和研发的，算法本身不会带有任何偏见和歧视。但是，“算法及其决策程序是由它们的研发者塑造的，在细节上渗透着研发者的主观特质”。⑨汝绪华：《算法政治：风险、发生逻辑与治理》，载 《厦门大学学报 （哲学社会科学版）》2018年第6期。因此，要想确保算法治理的有效性，除了要保障数据是真实且全面的，还需要保障算法的设计和运行过程是符合法律规范和道德伦理要求的，使得算法运行的合目的性在达成的同时，也要确保算法的合法性和合道德性目标的实现，进而保证算法在国家治理中应用的有效性。

（二）技术治理的乌托邦：算法治理的困境

算法、数据和算力是人工智能的三大构成要素。算法治理作为一种新型的技术治理形态，在治理需求设别、治理方案生成、治理流程优化和治理绩效评估等方面具有显著的功效，充分彰显出技术在国家治理水平提升和国家治理绩效改进上的重要性，引发了人们对于完全利用技术来治理社会的乌托邦的无限遐想。相比于传统的科层式治理和 “互联网+”治理，算法治理的优势非常明显。但是，由于算法治理有效性的呈现是以数据的完整真实和算法的合法合道德为基本前提的，而在国家治理的实际中，数据在完整度和真实性上的瑕疵以及算法在设计上的不透明性和运行过程中的不可解释性，使得算法治理的有效性难以得到充分的发挥，完全用算法来治理社会也许将是永远不会实现的乌托邦。

1.数据在完整性和真实性上的瑕疵

（1）数据的完整性难以达到。数据以及通过整理数据所获得的信息，是确保决策科学化的重要前提。在大数据出现之前，特定的决策者能够获取的数据非常有限，小样本数据决定的因果关系和决策者的经验成为决策的主要依据。大数据时代的出现，使得人类的生产和生活方式发生着巨大改变，我们每时每刻都在生产数据，数据化成为人类社会的存在状态，小样本数据被大样本数据所取代，相关性取代了因果关系成为决策的依据，决策的科学性得以显著提升。相比于小样本数据，大数据的数量虽然巨大、更新速度很快，但是决策者要想获取到与某一决策或者行动相关的所有数据也是不可能的，毕竟在万物互联时代我们也不能保证所有物体都被物联网连接，数据的全面性只能尽可能接近，不可能完全实现。而且，就算能实现万物互联，随时都在更新的数据和难以完成的海量数据的处理任务也使得数据的完整性难以达到。

（2）数据的真实性存在瑕疵。数据是算法治理的依据，数据的完整性不仅难以实现，可以采集到的数据的真实性也难以完全保障。一方面，部分关键数据存在被过滤的可能，进而导致数据失真。大数据时代，数据生产者生产的数据通常是客观真实的。但是，特定的主体在选择作为算法决策依据的数据集时，难以保障能采集到的所有数据都被放进数据集中，选取数据的主体受到价值取向和利益意图的影响，有过滤部分数据的可能，特别是部分典型且关键的数据被过滤的可能性非常大。另一方面，数据面临整合的困难。受到主客观条件的局限，负责采集数据的主体采集到的数据可能存在一定的瑕疵，这就需要整合不同部门的数据，来进行数据真实性的鉴别，以确保数据的真实有效。但是，从我国现有的条块分割的数据管理体制来看，“不同部门的数据储存在不同地方，格式也不一样，这就使得数据整合起来出现困难”，⑩徐圣龙：《大数据与民主实践的新范式》，载 《探索》2018年第1期。使得数据的完整性不仅难以得到保障，部分数据的真实性也难以相互印证。此外，政府掌握的数据中有很多是非结构化数据，数据的整理难度较大，耗时较长，也在一定程度上影响到数据的真实性。

2.算法设计和算法运行过程中的缺陷

（1）算法的透明性不足。算法是算法治理的核心，也是决定算法治理水平优劣和治理绩效高低的关键性因素。近年来，深度学习算法的重大突破使得人工智能机器的学习能力得以大幅提升，推动着人工智能技术在国家治理中应用程度的不断加深。但是，伴随算法在国家治理中应用场景的不断拓展和应用程度的不断加深，算法运行的透明性不足等问题也随之凸显。由于作为开源算法基础的底层算法的设计和研发工作是在封闭的环境下完成的，算法的设计目的和设计原理难以明晰，算法的运行过程难以用自然语言去解释，看似客观的算法技术运行的背后隐藏着许多不为外界知晓的算法设计主体的特定目的和意图。算法透明性不足及其引发的不可解释性问题，使得 “算法黑箱”不同程度地存在，算法设计者和研发者之外的主体难以对算法运行过程进行有效的监督，算法运行中出现的问题也难以明确具体的责任主体。

（2）算法的安全性存疑。算法是程序化指令的集合，算法的设计者和研发者的价值偏好和利益诉求决定了他们设计和研发出的算法带有鲜明的价值指向，算法歧视问题在算法的运行中客观存在。由于现有的算法设计和研发过程主要由少数互联网企业主导，特别是底层算法的设计更是被少数几家超级互联网企业所垄断，他们在缺乏必要的法律规制和道德伦理训导的情况下来进行算法的设计和研发工作，很难保证算法在运行过程中的安全性。在算法的设计和运行环节，算法 “代码作者越来越多的是立法者。他们决定互联网的缺省设置应当是什么，隐私是否被保护，所允许的匿名程度，所保证的连接范围。他们是设置互联网性质之人。他们对当前互联网代码的可变和空白之处所做出的选择，决定了互联网的面貌”。①参见前引③，劳伦斯·莱斯格书。同时，“在实践过程中，技术治理存在着与科学技术有关的社会风险”。②刘永谋：《技术治理、反治理与再治理：以智能治理为例》，载 《云南社会科学》2019年第2期。伴随深度学习算法技术的日渐成熟，人工智能正具备越来越强的自主行为能力，人工智能脱离人类设计者和研发者的控制独自运行的可能性正逐步增大，算法运行过程中的不确定性风险也随之大大增加。

算法和法律都是约束个体行为和调整社会关系的手段，两者在很多领域可以相互替代。算法时代的到来，不仅改变了人类传统的生产方式和生活方式，也对社会交往的形式和社会关系的调节规范产生了深刻影响，算法日渐成为规范和约束人们行为和社会交往的技术规则。伴随算法代码在国家治理中应用场景的不断拓展和应用程度的不断加深，算法作为技术的规范性色彩日渐凸显，引发了人们对于未来社会是否可以完全交由算法来治理的无限遐想，而到那时法律的功能或将死亡。③参见前引④，余成峰文。完全用技术规范来治理社会的乌托邦也许在未来存在实现的可能，但至少在目前数据难以做到完整真实、算法也不能实现彻底透明和可解释的前提下，用技术来治理整个社会和国家尚面临很大的不确定性风险。面对日渐强势的算法治理形态，法律规范适用的空间也许会伴随社会自治空间的扩大而不断缩小，法治的运行成本也会因社会自治能力的不断提高和算法技术的深入运用而逐步降低，但法律在国家治理中的规范性功能不但不会死亡，反而会不断强化。伴随算法的法律化趋势与法律的算法化进程的相互激荡，处于算法与法律之间应是算法时代国家治理规范的发展趋势。

三、在算法与法律之间：算法的法律化与法律的算法化

卢曼认为，“人工智能研究关心的是如何操纵 ‘符号’，而不是如何形成意义”。④Niklas Luhmann， Theory of Society， Vol.I，translated by Rhodes Barrett， Stanford University Press2012，p.315.因此，面对算法代码，我们既不能对其有过高的幻想，也不能无视算法在国家治理中规范功能日渐强大的现实。算法作为治理技术和手段，算法本身不是目的，在算法的法律化趋势日渐凸显的背景下，要注意强化法律对算法的规范和训导，算法代码需要法律规则的嵌入来保障其运行的有效和公平。因为，相对于作为技术治理形态的、突出治理效率而忽视道德伦理规范的算法治理来说，“法律是存在道德维度和价值理性的。它蕴含的对人的生存状态、自由、权利、尊严和价值的关怀和尊重，能够抵制技术治理过程中的非理性、非人道的因素，从而有效反拨因过度强调技术理性而导致的人的技术化、客体化和社会生活的技术化”。⑤郑智航：《网络社会法律治理与技术治理的二元共治》，载 《中国法学》2018年第2期。同时，面对算法等技术规范在国家治理效率提升和国家治理绩效改进等方面作用的凸显及其嵌入程度的日渐加深，我们也需要积极推动算法技术在法律实施过程中的应用，推动法律的算法化进程，积极促进法律规范与算法技术的深度融合，利用算法技术来切实推动法治绩效的提升。因为，“不学习的法律可以应对一个具有高度确定性的社会，但是伴随着贝克所言的风险社会的到来，社会交往的复杂性和不确定性急剧提升，如果继续沿用不学习的法律，主要基于事后规制针对特定当事人进行治理，势必难以应对风险社会的各种问题”。⑥参见前引④，余成峰文。算法时代的国家治理规范，既不是算法对法律的完全替代，也不是法律对算法的完全遏制，在算法与法律之间应该会成为未来国家治理规范的主要趋向。

（一）算法的法律化：法律为算法立法

人工智能技术的出现和日渐成熟，在推动人类社会生产效率大幅提高并给人类生活带来极大便利的同时，也对各主权国家的治理秩序和全球治理格局产生了一定程度的冲击，甚至对未来人类的终极命运构成挑战。伴随算法在市场治理、国家治理和社会治理中应用场景的不断拓展和应用程度的不断加深，算法代码正在越来越多的领域特别是网络空间中扮演着约束个体行为和调节社会关系的规范角色，“代码就是法律”1⑦参见前引③，劳伦斯·莱斯格书。的算法法律化的趋势日渐凸显。算法法律化趋势的确立，减轻了国家运用法律规范来约束个体行为和调节社会关系的负担，有利于国家治理成本的降低。但是，由于“技术是在给定目的的前提下追求最优解决方案的活动，技术本身不是目的，也无法自动形成自己的目的。作为一种技术，人工智能也是服务于特定的人类目的的，我们应当追问：我们到底想用人工智能来干什么？”⑧郑戈：《算法的法律与法律的算法》，载 《中国法律评论》2018年第2期。算法是人工智能的核心。数据的有限性和控制数据主体的主观性使得依据特定的数据集来学习和训练的算法自身存在不完备性，算法技术运行看似公正的背后可能是社会公正的缺失和对伦理规范的违背。因此，要想让人工智能技术始终处于为人类服务并处于人类可以控制的状态之下，就必须要控制好算法的设计过程和运行环节，而为算法立法，运用法律对算法进行必要的规训，以实现和维系代码的正义，⑨参见前引⑤，马长山文。是应对算法法律化趋势的内在要求和必然趋势。

首先，加快 《算法安全法》和 《数据安全法》等相关法律的立法工作。深度学习算法技术的日渐成熟，使得算法应用场景有效拓展的同时，算法技术的权力特征也逐渐凸显，算法权力作为一种新型的权力形态正迅速崛起。⑩陈鹏：《算法的权力和权力的算法》，载 《探索》2019年第4期。算法权力的所有者是少数拥有数据和算法核心技术优势的互联网企业，资本的逐利性使得他们有利用数据和算法技术优势侵害公民合法权益并冲击现有以政府为主导的国家治理秩序的可能。而面对日渐强势的由资本主导的算法权力，各主权国家最有效的反制武器之一便是法律规范。目前，我国在算法和数据等方面的立法工作相对滞后。虽然 《网络安全法》已经出台，《数据安全管理办法》处于征求意见阶段。但是，由于 《网络安全法》的规定过于笼统，算法设计和运行等方面的安全问题应该由专门的 《算法安全法》来予以明确和规范。同时，《数据安全管理办法》属于国务院制定的行政法规，该法律规范的位阶与数据安全在算法时代的重要性不相称，建议由全国人大或全国人大常委会来制定 《数据安全法》，以起到有效提升各级政府的数据安全意识，并对资本利用数据的行为进行有效规范和约束的目的，切实提高数据和算法的安全性。

其次，从法律层面构建以维护人类安全和社会公正为底线的透明化的算法设计和运行机制。“在理想状态下，法律是用经验浸润过的逻辑，也是用逻辑规整过的经验”。①参见前引⑧，郑戈文。为了确保新制定的法律在实施过程中的有效性，很多问题的立法通常滞后于经济和社会发展的实际，以实现运用法律逻辑来规整现实经验的目的。但是，在有关人工智能特别是有关算法问题方面的立法，不仅不能滞后，而且还应该适当地超前，因为人工智能算法的研发工作主要是由少数互联网企业控制的，而且算法技术的发展在不久的将来存在脱离人类控制的可能。为此，我们要以维护人类安全和社会公正为底线，要求企业构建透明化的算法设计和运行机制，将确保人类安全、维护社会公正等准则写进算法代码，以最大限度地破除算法黑箱，让 “那些对结果抱有怀疑的人可以掀开 ‘引擎盖子’看个究竟”，②[美]弗兰克·帕斯奎尔：《黑箱社会——控制金钱和信息的数据法则》，赵亚男译，电子工业出版社2015年版，第262页。确保算法在国家、政府和人民可以有效监控的范围内运行。

再次，强制建立算法自我终结机制。算法运行存在的风险主要来自于算法的设计者和算法的本身两个方面。以确保人类生命安全和社会公正为底线的透明化的算法设计和运行机制的建立，基本上可以确保算法在运行过程中存在的风险是总体可控的，不会对人类的生命安全和公正的社会秩序产生太大的冲击。但是，随着人工智能算法技术的不断发展，自主性越来越强的人工智能算法脱离人类控制的可能性也不断增大，给人类的生命安全和国家治理秩序的稳定带来了极大的隐忧。也许，脱离人类控制的超级人工智能的出现还需要很长一段时间。但是，未雨绸缪，通过立法来强制算法研发主体建立算法自我终结机制是有效应对未来算法发展可能引发的诸多不确定性风险的有效手段。

最后，积极拓展经过法律规训的算法在国家治理中的应用空间。利用何种规范来实现有效治理国家的目标，是人类自进入国家状态以来一直在追寻的问题。我国古代的商鞅变法，古希腊圣贤柏拉图在 《法律篇》中对法律治国的构想等都是对如何运用法律来治理国家的积极探索。经过人类不断的探索，法治最终成为现代国家治理的首选，“实行法治是国家治理现代化的内在要求”。③张文显：《法治与国家治理现代化》，载 《中国法学》2014年第4期。在法治实施的同时，运用技术规范来约束个体行为和调节社会关系，以实现节约国家治理成本和提升治理绩效的目的也是人类不断追求的目标。大数据时代的到来，使得万物以数据化的方式呈现，利用数据可以较为准确地对个体和组织的行为历程进行还原并对其未来的行为趋势进行准确的预测，为算法在国家治理中的深度运用提供了广阔的空间。算法本质上就是一系列程序代码的组合，属于典型的技术规范，经过法律规范后的算法可以在现代国家治理中发挥重要的约束个体行为和调节社会关系的作用，以帮助实现节约国家治理成本和提升国家治理绩效的目的。目前，“从各国的具体实践来看，它们都在逐步改变过去以国家为中心的法律治理格局，把市场、社会等多方的力量纳入治理体系，突出技术治理等柔性治理方式的重要性”。④参见前引⑤，郑智航文。例如，近年来在区块链技术中通过共识算法达成的智能合约，在经济领域已经得到了很好的运用，政府在金融等领域的监管成本得以有效降低，国家的司法资源也在一定程度上得以有效节约。

（二）法律的算法化：算法为法治提效

算法和法律作为约束个体行为和调节社会关系的两种规范类型，二者既存在明显的不同，也存在着密切的关联。一方面，作为不同的规范类型，算法和法律二者之间存在较大的不同。首先，两者倡导的治理导向存在根本的不同。法律治理以维护公平和捍卫正义为最高宗旨，彰显的是价值理性。算法治理以流程优化和效率提升为主要目标，践行的是工具理性。其次，在适用的灵活性上，算法可以根据具体应用场景的变化来生成规范结果，灵活性较强，效率较高。而法律规范在遇到具体的应用场景时，需要以事实为依据、以法律为准绳来综合考虑如何适用法律规范，当遇到法律规范没有具体规定或者新出现的在之前法律适用中没有遇见过的情形时，法律规范的调节作用可能会陷入僵局。另一方面，算法和法律之间也存在着密切的关联，工具理性主导下的算法代码需要经过法律的规训和改造来推动算法治理空间的有效拓展。同样，价值理性至上的法律规范也需要借助于算法技术来提升立法的有效性、执法的公正性和司法的公平性，在利用算法提升法治效率的同时不断推进法律的算法化水平。算法在法治中的应用主要体现在立法环节上的吸纳民意和回应社会关切，执法环节上的提升执法效率和保障执法公平以及司法环节上的节约司法成本和保障司法公正。因此，面对算法在国家治理中重要性的日渐凸显，我们在法律规范的制定上，也要认真考虑如何有效拓展算法技术在立法、执法和司法环节的应用场景，在法律条文的编写上要朝着有利于算法搜索、分类和有效识别等方向努力，以切实推动法律的算法化进程。

首先，在立法方面，在充分利用算法对民意获取优势的同时尝试研发拥有深度学习算法的智能立法系统。哈贝马斯认为，法律的产生应基于社会成员之间的有效商谈，“对于如此产生的法律，守法者同时也是立法者，当守法者遵守的是自己参与制定或真心同意的法律，他们就不会感到受压迫和被强制。因而，这样的法律不仅具有事实的强制力，而且具有规范的有效性，即不仅具有合法律性，而且具有合法性”。⑤高鸿钧：《走向交往理性的政治哲学和法学理论 （下）：哈贝马斯的民主法治思想及对中国的借鉴意义》，载 《政法论坛》2008年第6期。在现有的法律制定实践中，民意的收集和整理是一个较为费时费力且成效未必明显的工作，很多法律条款在制定后引发的争议在很大程度上源于立法环节对民意吸纳的不足。大数据时代的到来和深度学习算法的日渐成熟，为立法环节对民意的充分吸纳和对社会关切的及时回应提供了充分的可能。在大数据时代，人类的生产、生活和社会交往都以数据化的形式和状态存在。具有深度学习算法的人工智能机器通过对大数据的采集、提取、分类、处理和分析，可以较为准确地掌握社会公众关注的焦点问题，并真实地了解到社会公众的真实需求，从而为立法环节中新法的制定和既有法律的修改或废止提供充分的依据，有利于切实提高公民对立法的满意度，进而提升民众遵守法律规范的自觉性，法律实施的成本也随之大幅降低，立法目的也可以得到更好的维系。同时，为了提高立法的水平和质量，也为了使法律规范更好地被智能政务系统搜索、分类和适用，可以尝试研发拥有深度学习算法的智能立法系统来参与辅助立法工作，在有效减轻立法者负担和提升立法水平的同时，有助于法律规范语言与算法代码之间的有效衔接，有效推动法律的算法化进程。

其次，在执法方面，利用具有深度学习算法的智能执法系统提升执法效率和保障执法公平。法治效果的呈现，不仅依赖于良法的制定，也需要执法者秉公的执行法律。如何在赋予执法者一定限度的自由裁量权以适应具体的执法场景需要的同时，又能够确保具有特定价值偏好和利益诉求的执法者能够高效且公正地使用自由裁量权来实现立法的初衷，是法律实施环节中的一大难题。算法在国家治理中的深度应用，为法律执行环节的效率提升和执法公平提供了有效的技术支撑。法律实施过程中，借助于具有深度学习算法的人工智能机器，执法者在设定执法目的后，可以将具体的执法过程交给具有深度学习算法的人工智能机器来完成，不仅有利于提升执法效率，也有效地保障了执法的公正性。目前，智能执法系统在具体应用过程中遇到的难题之一是智能机器对法律规范很难做到有效识别和准确理解。随着智能机器参与立法程度的加深，法律规范的制定逻辑与算法代码的编写逻辑之间的融合程度会不断提升，执法智能机器对法律规范的识别和理解能力将随之大幅提高，算法在执法过程中的应用场景也将随之不断扩大。

最后，在司法方面，利用算法技术节约司法成本和保障司法公正。司法是捍卫法律尊严、保障公民、社会组织合法权利的最后一道防线，同时也是国家法治力量和司法资源配置最多的环节。司法活动的有序开展和司法公正的有效保障，与司法从业人员的法律素养和职业道德密切关联。目前，伴随深度学习算法技术的日渐成熟，算法在司法环节中的法律服务、材料整理、证据识别、辅助审判、裁判文书生成等方面的嵌入程度日渐加深，我国的智慧法院和智慧检察院建设取得了显著的成效。算法在司法环节的嵌入，不仅有利于节约司法成本，也降低了社会公众接受法律服务的技术门槛和服务成本，有利于司法公正得到更好的维系。

结语

人工智能时代的到来，使得网络空间和实体空间的边界变得日益模糊，算法代码作为技术规范在国家治理中特别是在网络空间治理中的作用不断增强，算法的法律化趋势日渐凸显，工具理性主导下的用技术治理国家的乌托邦仿佛离人类已经很近。但是，由于数据和算法是算法治理的两大基石，数据在完整性和真实性上存在的瑕疵以及算法在设计和运行过程中的不透明性，使得算法治理本身存在一定的不完备性，算法代码难以实现对法律规范的完全替代。“面向智能革命时代，我们应在认识和分析现行法律困境的基础上，探索与科学文明相伴而生的制度文明，创制出有利于人工智能健康、有序发展的社会规范体系”，⑥吴汉东：《人工智能时代的制度安排与法律规制》，载 《法律科学》2017年第5期。而法律对算法代码的规范和训导是算法在国家治理中应用场景得以不断拓展的前提和保障。同时，我们也要积极利用算法来推进立法、执法和司法等环节上法律规范与算法代码之间的有机融合，通过法律的算法化趋势来切实提升法治运行的绩效。在算法时代，算法治理的乌托邦既不会实现，法律也不会死亡。在算法的法律化趋势和法律的算法化进程相互激荡的进程中，算法时代的国家治理规范将既不是算法代码对法律规范的替代，也不是法律规范对算法代码的妥协，在算法与法律之间应成为算法时代国家治理的演进趋势。