论人工智能时代的算法司法与算法司法正义

杜宴林 杨学科

摘要：算法司法，作为人工智能时代新的司法样态，已初现其时代意义：有力回应了新时代解放司法生产力，提升司法效能、切实保障算法司法正义的迫切需求，但也存在着算法隐蔽性和司法公开的冲突，算法司法商业化以及过度重视专家系统经验等风险。算法司法的未来，无论呈现出增强/改善司法，还是替代司法的姿态，算法司法正义都应当是未来司法正义的必然选择。

關键词：算法司法;算法司法正义;算法歧视;人工智能;算法解释权

中图分类号：D9   文献标志码：A   文章编号：1004-3160（2019）05-0064-11

一、问题的提出

一般认为算法是进行计算、解决问题、做出决定的一套有条理的步骤。所以，算法并不是单指某次计算，而是计算时采用的方法。[1]75学界研究表明，在司法大数据日渐凸显的时代，没有算法，数据只能是没有意义的知识经验载体。学界一般将其形象的做如下比喻：大数据可喻为石油或燃料，算法则喻为引擎驱动，也就是说没有作为引擎的算法，数据的石油只能付之高阁，只有通过算法的数据挖掘和机器学习，数据的价值才能完美呈现。随着算法日渐发展，算法在大数据基础上已能自我学习、判断和决策，并直接助推了人工智能的大发展，道理很简单，算法乃人工智能的基石，人工智能即是算法和所用数据集的相互作用的自动化决策。

算法已经侵入了人类世界的几乎每一个领域，呈现出源于人类又超乎人类的强大力量，与之相伴随，一个新兴的人工智能时代的“算法帝国”景观日渐浮现在我们眼前。[2]24司法领域也不例外，算法正在悄然接管司法，算法的“意识形态渗入了法律领域，决定了司法人员的态度与立场，从而控制了法律机器的运作”，[3]算法影响司法正义的时代，正在悄然降临：算法如何塑造我们的司法？在算法帝国中，作为社会正义最后一道防线的司法，何去何从？算法真的即为正义？……这些问题无疑时时刻刻拷问着现代司法乃至现代法治的理论和实践，并显然需要我们认真对待。然而不无遗憾的是，学界对此却呈现出“心有余而力不足”的状态：人们对人工智能的司法应用极其关注，业已形成了系列科研成果，呈现出“心有余”之热度，但却对作为人工智能基石的算法则或直接忽视或语焉不详，呈现出“力不足”之态。鉴此，本文以算法司法和算法司法正义为关注的焦点，对司法场域内的相关问题略作探讨。

二、算法司法及其局限

（一）算法司法的基本意蕴

自启蒙运动以来，理性战胜信仰，以数学为基的科学深刻推动了社会的发展，开启了“科学为王”的时代。如海德格尔所言，数学实质是一种可通达性的知识，近代科学都是建立在数学因素之上，“现代自然科学、现代数学和现代形而上学都是源出于广义上的数学因素这个同一根源”。[4]875数学因素作为“关于物的知识的基本前提”，是一种对物的基本态度，即数字化的世界观，其本质就在于，一方面对物的规定的设定，事先规定物的可敞开领域，另一方面则“力求对知识形式本身的重新构成和自我论证。”[4]856、874近现代科学为我们打开了一个数学化世界之门，数字化的世界观、数字化生存成为“新的自由、自我约束和自我论证”[4]873。

数学的妙处在于其拥有一个好的方法，常常是最简洁明了的方法。[5]与之相类似，算法恰恰也是对于复杂问题求解的策略方法，其核心就是“按照设定程序运行以期获得理想结果的一套指令”，因而它的全部价值就体现在它的速度上。[2]98当司法引入算法，在“推理不过是计算”[6]的运作模式下，算法在司法领域的简约逻辑和速率优势无疑尽显。本文将这种司法领域算法的司法应用统称为算法司法：一种不涉及算法问题的司法解决，而是司法过程中采用的算法解决司法问题的司法。

算法司法是伴随着计算机的发展而逐渐兴起的，1970年布鲁斯·布坎南和托马斯·希德里克发表《关于人工智能和法律推理若干问题的考察》一文，拉开了计算机信息系统处理法律实践中法律推理的序幕。随后Walter G.Popp和Bernhard Schlink开发了JUDITH律师推理系统，1977年Jeffrey Meldman开发了计算机辅助法律分析系统，电子智能法律系统的首次应用则以1981年D●特曼和M●皮特森开发的法律判决辅助系统（LDS）为标志。[7]美国是当今算法司法应用较多的国家，一半以上州采用了替代性制裁为目标的惩教犯管理画像（COMPAS）、公共安全评估（PSA）和服务级别目录修订版（LSI-R）等三大风险评估软件，主要用于预测再次犯罪风险、罪犯风险性评估，进而决定是否保释、假释等等。

对比美国的算法司法，现在我国司法中运用的算法，则主要集中在办公自动化上，并没有像美国那样主要用在量刑辅助上面。尽管早在1993年武汉大学赵廷光就主持开发出了电脑量刑软件“实用刑法专家系统”，时隔十年淄川区法院设计出一套利用电脑和软件计算刑期的操作系统，甚至在政策层面顶层有关机关还先后设计了一些发展规划指南（比如国务院颁布了《新一代人工智能发展规划》，最高人民法院与最高人民检察院发起了“智慧法院”与“智慧检务”建设的行动规划，公安部与司法部颁布的大数据与信息化建设指南等等），但实践中，依然集中在办公自动化层面上，特别是信息的电子化、数据化，办案辅助系统的智能化，实体裁判的预测与监督，统一的、电子化的证据标准等方面。[8]以智慧法院为例，在最高法院《关于加快建设智慧法院的意见》的“智慧法院”的整体架构下，大数据与人工智能技术被要求用于支持办案人员最大限度减轻非审判性事务负担、为人民群众提供更加智能的诉讼和普法服务、支持管理者确保审判权力正当有序运行、支持法院管理者提高司法决策科学性等等。

实践也呈现出相似的图景。据《中国法院信息化发展报告No.2（2018）》所提供的数据显示，2017年人民法院确立并完成了信息化3.0版的主体框架，“智慧法院”初步形成。一批辅助法官办案的法信平台、“智审”系统、庭审语音识别系统、裁判文书评查、同案不同判预警等智能化系统得以广泛应用，有力地推动了类案推送、法律文书辅助生成、电子卷宗随案同步生成、网上调阅、电子送达和电子签章等办公系统自动化领域的新进展;推行了电子法院、网络法庭等办案模式，开发了“智慧法院导航系统”、智能导诉机器人等系统[9]，客观上也有利于推广“互联网+诉讼服务”经验，但无论如何，现阶段我国的算法司法，发力的重心仍然集中在办公自动化方面，也就是不让事务性负担成为法官的新负担，从而为人民群众提供便捷、智能、精准的诉讼服务。中美算法司法存在上述反差的原因，除了司法制度和人工智能发展水平的差异外，也与我国近年来的司法人工智能的兴盛主要依赖的是“市场利益驱动与官方改革管理的双重逻辑”[10]有很大关系。当然，各方对算法司法持渐进、谨慎、稳健的发展策略可能也是其原因之一。

（二）算法司法的时代意义

无论诉诸于理论还是实践，人们都将承认，作为适应时代需要而产生的新事物，算法司法正深刻的影响着当下司法裁判的模式，并日益体现出其独特的时代优势和魅力：

首先，算法司法有利于积极破解日益繁重的司法裁判需求。技术的本质应当是一种解蔽方式，一种真理的开显方式。如海德格尔所揭示的这样，算法技術也正是如此，算法及其生产制作过程的一切可能性无疑均建基于技术的解蔽之中。[4]931、932前已述及的算法的核心价值是速率，在解蔽司法生产力方面，无疑具有最大优势。尤其随着诉讼社会的到来，诉讼规模以两位数的速度增加，诉讼爆炸成了其标志性话语表达，令人担忧的“延迟司法”的趋势也日渐突出;堆积如山的案件材料，令法律人难堪重负，法律人过劳死等现象屡见报端网媒的情况下，算法司法的适时登场，因算法能自动执行重复性司法任务，客观上使得法律人专注于核心的法律判决的产生成为了可能。因此算法司法呈现“增强/改善司法”的姿态，在增强法律人办案能力、赋能司法生产力的同时，也很好的破解了日益繁重的司法裁判的需求。相对于传统司法，算法司法这种效率的提升，不亚于“希特勒飙车体验的快感”①，而在波斯纳意义上，算法司法的这种效率无疑就是正义的代名词：“正义的第二种涵义——也是最普遍的涵义——是效率”[11]。

其次，算法司法具有相当的为人所接受的增值力。正如学界普遍认识到的，增值力是任何一件新生事物能否为人所接受的客观标准，其理论主要渊源于厄南·麦克马林（Ernan McMullin），在他看来，有两种增殖力来判定新生事物是否能为人接受，一是成功适应的“业已证明的增殖力”，一是创造性应对未来的“潜在增殖力”。[12]前者侧重于当下的中立性和客观性考察，后者侧重于未来，两者共同构成了客观性、连贯性的评价尺度。算法司法的“业已证明的增殖力”，早在人工智能发展初期就得到了验证：

在预算挤压紧缩和正义需求增加的情况下，法官必须在努力应对时间和资源限制的同时，还必须拼命地维持决策过程的质量，定纷止争。这显然不是一项容易完成的任务，而AI工具无疑对此可提供强大的智力支持，在促进足够程度的一致性和效率的同时，支持合理行使司法裁量权，防止规则机械、僵化的适用。同样，人工智能还可以起到灵活性的帮助、协调、补充任务的作用，例如起草各种司法文件，既确保了效率性，也兼顾了准确性。总之，我们认为司法机构正处于转型的初期阶段，其中人工智能技术将使司法程序更快，更便利，并且在不影响法官自由裁量权的完整性的情况下，确保司法推理更具可预测性。[13]

美国的威斯康星州诉卢米斯一案（Wisconsin v.Loomis）已经在司法上确认了算法司法的中立性和客观性。卢米斯因参与驾车枪击事件被判有罪，在羁押期间，威斯康星州惩戒部门的COMPAS系统将被告是否会再次犯罪的可能性等级定为“高风险”。卢米斯不服上诉，威斯康星州最高法院支持了下级法院的裁决，美国联邦最高法院驳回卢米斯的申诉要求，实际上三级法院都确认了COMPAS系统的算法具有中立性和客观性，能成功适应司法判决的需要，因而也就是算法司法“业已证明的增殖力”的最好的司法确认。事实上，算法司法的增值力已得到越来越多的理论证成，斯温伯恩大学法学院的（Swinburne Law School）学者们研究认为，人工智能（AI）能够消除情感偏差和人为错误，从而有利于量刑公正，并建议量化算法应该作为现有量刑实践的辅助手段来开发和试用。如果审判成功，则应考虑广泛使用计算机来辅助量刑决定。[14]而既有的司法实践也表明，算法司法的自主决策也的确在防止冤假错案、预防司法腐败等方面发挥着自身的巨大优势。

算法司法也呈示出潜在的增殖力，据权威资料揭示，2017年，马里兰大学有学者设计出一款自动测谎在真实庭审视频中的人工智能系统，测谎准确率达到了92%，高于人类的81%。2017年，一场伦敦100名律师和一个名为Case Cruncher Alpha的人工智能同台竞赛，Case Cruncher Alpha以86.6%  vs  66.3%的准确度战胜了律师们。尽管如学界所认识到的，由于算法技术（通常表现为计算能力，简称为算力）的不足，现在的算法司法还大致处于由弱人工智能向强人工智能转型阶段，但算法司法已经呈现出不可遏制的魅力，我们有理由相信，随着算法技术的不断发展，算法司法的“潜在增值力”大为可期。这一点，细心的人们从算法司法的不断改进和完善中是不难看出端倪的。

（三）算法司法的反思及其局限

算法司法在增强法律人办案能力、提高司法效率的同时，算法司法也呈现出很大的因由算法而来的局限性：

1.算法的隐蔽性和司法公开、透明性间的冲突

算法往往被视为黑箱。算法的发展——基于未知的、不可思议的、通常是不可挑战的系统，决定个人权利——对现代法治提出了严峻的挑战。[15]具体言之，算法司法最大的问题就在于算法的隐蔽性和司法公开、透明性的冲突。算法本质上是一种编程技术，“技术既不好也不坏;也不是中立的”，[16]545但算法的最大特点就是其隐蔽性，也就是算法不具有可解释性。这种隐蔽性或不可解释性，迄今为止仍为算法发展中的技术难题，也自然预示了其潜在的风险。道理很简单，显式编程，编程人员还能知道其中的运作过程，但对于算法比如即使为学界目前最为推崇的智能算法、神经网络学习算法，它们也并非是显式编程，而是隐藏的自我学习、自我编程，可以轻松拟合万维以上的函数，但实验表明，人类超过了二十维函数都难理解了，所以，这种算法向我们（包括编程人员）解释的困难，在某种程度上，这就像是向一只狗解释莎士比亚是谁一样，无从解释。[17]顺便说一句，算法的这种不可解释性，在一定程度上也是当下为人关注的另一个问题即算法歧视且很难破解的原因之一。

这显然与现代司法公开的精神发生冲突。司法公开、透明是现代司法的基本原则，并对现代司法公信力、司法权威有着决定性影响，此即现代法治上所谓“看得见的公正才是公正”。算法司法因其固有的隐蔽性/不可解释性而往往使得相关判决陷入困境，其核心原因即是它与司法公开、透明性精神存在严重冲突。前述的威斯康星州诉卢米斯一案，卢米斯就对COMPAS系统的算法隐蔽性存在质疑，并因此上诉。问题关键就在于COMPAS系统的原始算法及其过程具有不可解释性，因而相关裁决也无法给人足够的说服力，即使卢米斯最后胜诉了，也不能说是算法的胜利，因为算法的透明性、可解释性、可责性等解释性难题仍然是摆在目前算法司法面前的技术瓶颈，如无技术上的突破，算法利维坦（Algorithmic Leviathan）①、算法吉姆·克劳（Algorithmic Jim Crow）②都会成为算法司法难以克服的风险。

2.算法司法商业化

实践中，大部分司法算法是以服务外包的形式进行的，商业公司对司法权僭越、承包司法，算法司法呈现出司法商业主义的态势。这是算法司法广受诟病之处，如前述的威斯康星州诉卢米斯，威斯康星政府反驳理由就是Northpointe公司（现为Equivant）需要保持算法的保密，以保护公司的知识产权。COMPAS系统的算法是由盈利性公司Northpointe制作的系统，其中公司创始人之一约翰·阿诺德是一位对冲基金经理。如果民众将对冲基金与司法算法勾连在一起，对冲基金赚钱法是不是就是司法算法风险评估的方法？算法源代码通常是私有的，不公开的，这是很容易让人疑窦丛生的。COMPAS算法就被ProPublica机构研究分析指出，COMPAS更有可能将黑人被告误认为未来的罪犯，而白人被告更有可能被错误地贴上低风险的标签。在中国，有报道称，包括最高人民法院在内的超过100家法院使用了科大讯飞公司所研发的智慧法院庭审系统。但由于也是由商业力量主导对司法算法的开发，自然也难免逃脱算法司法商业化的局限，“难免形成审判主体的多重结构，事实上形成程序员、软件工程师、数据处理商等主体和司法者共执司法的局面”，[18]出现算法司法中法律逻辑、商业逻辑、社会逻辑共治合一的局面。这种审判主体多元化、审判权多元化都是一种对传统司法的解构，也是需要谨慎思量的，毕竟司法算法的大量外包，容易让算法承包公司、算法工程师的实际影响超过司法机关。司法实务人员的不懂算法以及对司法算法参与编辑的懈怠很大程度上更是给司法算法暗箱操作留有空间，进而导致算法司法被人为利用的可能。

3.过度重视专家系统经验的风险

如今的“专家系统”（expert system）在人工智能和大数据等核心技术因素支撑下，其意义比任何时代都要明显和突出。[19]一般认为，专家系统是一种计算机应用程序，它包含了知识和专门知识：它们可以像人类一样应用于解决问题、提供建议和执行各种其他任务。具体在法律上，利用计算机技术可以促使稀缺的专业知识和知识更广泛地获得和容易获得。[20]有研究表明，当人们接受特定的咨询指导时，他们倾向于追随咨询建议而不是自己的判断。[21]这就可能出现从众效应（herd effect）的风险，例如当算法推荐类案，法官看到算法推荐的类似案件的判决结果，法官判案的独立性可能会受到干扰，相应的法院判据也会被惯性效应所持续强化而出现偏颇。司法算法是以简单的逻辑（0+1）来推演复杂的司法现实，这种简单逻辑是建立在过去的正确性的经验法则基礎上，稳定有余，但变通性不足，缺乏未来视角的社会适应性，毕竟迄今算法所采用的大数据“只会处理过去，不会创造未来”[22]204，由此“专家系统”几乎成了唯一的依凭，算法司法的科学性自然也比较阙如。同时，由于算法的科学性通常都建基于经验性的验证条件，这就意味着不同的验证条件会出现截然相反的结论。比如，前述的COMPAS算法最近又被验证出，风险评估算法并不比没有刑事司法经验的人更准确。[23]随即COMPAS算法现在的东家Equivant发表声明中质疑论文的准确性，称论文“具有高度的误导性”。这也就是说，算法面临着科学性不足的风险和时代挑战，算法司法也不例外，尤其是近年来，有学者通过实验发现：一般人类会信任机器人，即使在紧急情况下，人类也可能会太信任机器人。[24]这也意味着算法司法目前出现的过度拟合因果，过度迷信司法算法，从而导致司法判决出现偏差的现象还会继续持续下去，过于推崇“专家系统”的风险常在。

（四）“未来之镜”①算法司法的可能

早在1999年哈佛大学莱斯格教授就对未来的司法做出预测，他指出：“代码就是法律”，代码最终是互联网的架构，并且因此能够通过技术手段来限制个人的行为。[25]而今随着新技术的出现，如区块链技术，带来了许多将法律转化为代码的新机遇。[26]这场科技革命的下一步，可能会如未来学家尤瓦尔·赫拉利（Yuval Noah Harari）所预测的那样，可将让算法有能力“比我更了解我自己”，人类交出权威，算法获得统治地位。[1]298、312

这显然不是未来算法司法的全部，至少它不是静态的呈现的，它将继续改变，新技术将加速这种变化率。如算法帝国所言的那样，未来属于算法和他们的创立者，[2]194未来人类生活更可能都直接或间接地为算法所塑造，司法为算法塑造、变革、掌控也有足够的理由使人们相信，必然成为现实，并将深刻的影响人们的生活方式和思维样式。这一点从当下的算法司法现状及其影响即可窥见一斑。当下算法司法由于算法技术尚处起步阶段，至多只能视为其初级阶段：以算法介入可重复性、辅助性的法律事务为抓手，算法司法已经以“增强/改善司法”的姿态，已在社会生活中实实在在的发挥着越来越重要的作用，甚至出现了算法与人类共执司法的局面，算法已给人“正在吞噬世界”[27]之感，算法司法也正走在吞噬世界的路上。

尽管如此，任何顽抗司法算法预测、自动决策的企图，在算法革命面前，无疑于螳臂挡车。随着算法的发展，当算法能自主产生意识时，以算法自主为核心标志的“替代司法”就可能会出现，“算法与人类共执司法”将可能进一步成为常态，这一方面取决于人类赋权算法和自主产生意识的算法的权利博弈，另一方面就是取决于司法算法自主学习能力和意识程度的高低，当然还必须遵循相关的科技发展规律和司法规律，已有学者对此尝试性地进行了初步规划②。但不管如何，算法司法正义无疑是必然追求，如同传统司法一样。

三、算法司法正义

（一）作为价值论的算法司法正义

1.算法审查和算法解释权

如前述，算法的公开、透明和可问责性是算法亟待解决的问题之一，也是算法急需解决的可解释性问题，因为算法现在还不会自己解释自己。同时，算法还不时存在算法黑箱，即使开发设计的算法工程师也不能对其运作过程做出解释。对此，科技界开出的方案是算法开源、逆向工程、算法审计等，实践证明，这些技术方案并不能很好地解决问题。遂此，科技界将算法的可解释性设置为人工智能未来发展的重要目标之一。

参考文献：

[1] 尤瓦尔·赫拉利.未来简史[M].林俊宏，译. 北京：中信出版社，2017.

[2] 克里斯托弗·斯坦纳.算法帝国[M].李筱莹，译. 北京：人民邮电出版社，2014.

[3] 阿尔贝·加缪.局外人[M].柳鸣九，译. 上海：上海译文出版社，2010：10.

[4] 海德格尔.海德格尔选集（下）[M].孙周兴，选编.上海：上海三联书店，1996.

[5] 吴军.数学之美[M].北京：人民邮电出版社，2012：前言.

[6] 霍布斯.利维坦[M].黎思复、黎廷弼，译. 北京：商务印书馆，1986：28.

[7] 张保生.人工智能法律系统的法理学思考[J].法学评论，2001（5）：11-12.

[8] 左卫民.关于法律人工智能在中国运用前景的若干思考[J].清华法学，2018（2）：113-114.

[9] 李林，田禾.中国法院信息化发展报告No.2（2018）[M].北京：社会科学文献出版社，2018.

[10] 钱大军.司法人工智能的中国进程：功能替代与结构强化[J].法学评论，2018（5）：139.

[11] 理查德·A·波斯纳.法律的经济分析（上）[M].蒋兆康，译. 北京：中国大百科全书出版社，1997：31.

[12] 约翰·洛西.科学哲学的历史导论[M].张卜天，译. 北京：商务印书馆，2017：231-232.

[13]Sartor G， Branting L K. Introduction： Judicial Applications of Artificial Intelligence[C]//Judicial Applications of Artificial Intelligence[M]. Dordrecht：Springer，， 1998： 6.

[14]Stobbs N， Bagaric M， Hunter D. Can Sentencing be Enhanced by the Use of Artificial Intelligence？[J]. Criminal Law Journal， 2017， 41（5）： 261-277.

[15] Citron，Danielle Keats. Technological Due Process[J].Washington University Law Review，2008（6）：1253-1258.

[16] Kranzberg，Melvin. Technology and History： “Kranzberg's Laws”[J].Technology and Culture，1986，27（3）.

[17] 楊学科.论智能互联网时代的算法歧视治理与算法公正[J].山东科技大学学报：社会科学版，2019，21（4）：35.

[18] 季卫东.人工智能时代的司法权之变[J]. 东方法学，2018（1）：132.

[19] 杨昌宇.智能互联网时代法律变革的中国理路[J].湖湘论坛，2019（3）：73.

[20] Susskind，Richard E. The End of Lawyers： Rethinking the Nature of Legal Services[M]. Oxford： Oxford University Press，2010：120-121.

[21] O'Bien，Matt，and Dake Kang. AI in the Court： When Algorithms Rule on Jail Time[J].AP Financial，2018.

[22] O'Neil，Cathy. Weapons of Math Destruction： How Big Data Increases Inequality and Threatens Democracy[M]. New York：Crown，2016.

[23] Dressel，Julia，and Hany Farid. The accuracy，Fairness，and Limits of Predicting Recidivism[J]. Science Advances，2018，4（1）：eaao5580.

[24] Robinette，Paul，Ayanna Howard，and Alan R. Wagner.Conceptualizing Overtrust in Robots： Why Do People Trust a Robot That Previously Failed？[C]//Autonomy and Artificial Intelligence： A Threat or Savior？[M]. Cham：Springer，2017：129-155.

[25] Lessig，Lawrence.Code： and other Laws of Cyberspace [M]. New York：Basic Books.2006：38-60.

[26] Filippi，Primavera D.，and Samer Hassan. Blockchain Technology as a Regulatory Technology： From Code is Law to Law is Code[J].First Monday，2016，20（12）.

[27] Andreessen，Marc.Why Software is Eating the World[J].The Wall Street Journal， 2011， 20（2011）： C2.

[28] 克里斯多夫·库克里克：微粒社会[M]. 黄昆，夏柯，译.北京：中信出版社，2018.

[29] 邹恒明.算法之道[M]. 北京：机械工业出版社，2010：前言V.