人机协同方式审判路径研究

韩丰羽

广西大学法学院，广西 南宁 530004

人工智能与法律结合的历史可以追溯到20 世纪70 年代，Buchanan 与Headrick 发表《关于人工智能和法律推理若干问题的考察》一文，尝试以人工智能化的方式理解、模拟法律论证和推理，已逐渐成为热点研究。［1］国外关于人工智能与法律相结合的研究取得了许多成果。在民商事方面，摩根大通利用人工智能开发了一个商业贷款信用检查系统，实现了几秒钟内就完成36000 小时的信用检查业务，此系统提高了律师及法官对金融合同的审查效率。［2］在刑事司法领域，美国威斯康星州初审法院使用COMPASS 算法对被告人卢某进行再犯风险评估，并根据这一结果决定是否保释或假释被告。［3］

与国外人工智能在法律行业的发展相比，我国法律与人工智能结合工作起步较晚，但是潜力巨大。在2017 年7 月国务院印发《新一代人工智能发展规划》之后，各地司法系统已经开始探索人工智能辅助裁判的探索工作。最高人民法院提出要依托人工智能，利用司法大数据推动“智慧法院”建设。在此之后涌现出了上海高院与科大讯飞公司共同研发的“上海刑事案件智能辅助办案系统”，重庆法院的“智慧E 审”“智能专审”系统，北京高级法院的“睿法官”智能研判系统。［4］虽然近年来我国人工智能与司法的融合成果显著，但是作为计算机产物，人工智能判案辅助系统也会存在一定的局限性。因此剖析人工智能审判优势与困境，找到适合中国的人类与机器协同审判路径迫在眉睫。

一、人类审判优势与困境

（一）优势方面

第一方面是程序公正。人类的决策这个事实本身，就会让当事人觉得这是公平的体现，此种心态源于当事人对法庭审判的仪式感的尊重。当事人最担忧的就是当人工智能取代人类裁判后，当事人在法庭上讨论和发言不能纳入人工智能的决策过程。在庭审中，“亲历性”也是对法官的要求之一。因此传统审判模式在保证法官亲历性和双方辩论权的基础上最大限度地保证了程序正义。第二方面在于，人类的优势在疑难案件领域是更显著的。一个仅仅是遵循规则的决策系统很容易被人工智能所取代。而疑难案件的审判不仅包括对规则的提取应用这个简单环节，还包括了复杂的道德推理与价值判断。面对疑难案件，法官裁判必须在遵守法律的基础上体现对人自身价值、尊严和美好情感的维护。

（二）困境方面

体现为从2015 年起，中国各级法院受理的案件总数接近1800 万件，而2021 年，中国法院受理的案件数量为3051 万件，仅6 年就翻了将近一翻。2015 年司法改革后，中国员额法官人数大幅下降，基层法院的人均受案量也会远高于240 件。在如此庞大的工作量面前，法官们不堪重负，可能很难兼顾公正和效率这两层价值。

二、人工智能审判优势及限度

要想了解人工智能审判的优势与限度，那就首先要知道人工智能是如何进行审判的。目前司法人工智能的演化过程中形成了两种人工智能的技术路径。第一种是由法律知识引导，形成了基于规则（rule-based）和基于案例（case-based）两类法律推理形式的可计算模型；第二种是由大数据驱动，使用机器学习技术的法律解析（又称法律文本挖掘）建模路径。［5］这两种路径是目前人工智能与司法融合使用的普遍方法。

（一）人工智能审判优势

人工智能软件在效率和规模方面具有巨大的优势。在人类作出一个法庭裁决的时间内，它会不知疲倦地处理数以千计甚至是万计的判决。人工智能软件的代码速度快，并且可以以较低的成本运行。如果将常规的审判程序在人工智能的加持下实现自动化，那么则将会产生一个更快更高效的法律审判体系，也会释放大量稀缺且训练有素的人类判决资源。让法官做他们最擅长的事情，即多培养法官自身独有的价值判断优势，简单而日常的判断交给机器即可。

（二）人工智能审判限度

1.算法“黑箱”及人工智能技术的“不可解释性”

在人工智能领域，输入数据和输出答案直接存在着一个不可被观察的空间，这个空间通常被称为信息“黑箱”，也正是这个信息“黑箱”引发了人工智能是否具有可解释性的问题。［6］这就意味着人工智能本身的思考方式是无法被看到的。对于一个公正的司法判决来说，论证说理无疑是最重要的环节，即使人工智能可以作出准确的预测判决，但是因为人类技术有限，却无法解释它是如何得出判决的。这不仅是对当事人基本权利的侵犯，而且是危及程序正义的体现。当前的刑事司法方面控方本就拥有在数据采集方面的天然优势，如果不受限制地使用人工智能的黑箱算法，那么将会使原本脆弱的辩方更难以有效抗辩。［7］

2.人工智能对于疑难案件的裁判不能

在疑难案件的司法判决过程中，不仅需要理性的逻辑，也融合了人性与情感。法官的工作不仅是简单根据法律规则来判断案件，而且还要根据法律原则、道德和对细节的洞察来作出判断。对于这些新型案件，人工智能明显不能够胜任。第一，对于这些案件的裁判很难从现有的法律规定中找到直接的答案，因此人工智能很难形成基于规则（rule-based）的计算模型，也无法进行法律文本挖掘建模路径；第二，对于这些新型疑难案件，因为其独特性、时效性，所以很难在我国范围内找到同类型大量案件可供人工智能学习，因此基于案例（case-based）的计算模型的建设也会遇到数据不足的障碍。

3.裁判文书的特性使人工智能对其分析不能

第一，裁判文书数量问题。裁判文书网在涉未成年人违法犯罪、涉国家秘密和个人隐私等方面的案件处于空白状态。人工智能对于这方面的案例学习也几乎处于空白状态。第二，裁判文书质量问题。中国裁判文书网虽然数据多，但由于不同地区的司法水平参差不齐，一些判决的分析和论证过程太短，是否能支撑高质量的人工智能数据分析还是未知。并且对于真正记录法官分析过程的合议庭笔录、审理报告等内部文书并没有公开，［8］导致人工智能只能借助有限的信息分析，这无疑会影响机器学习的质量。

三、以Facebook 和Twitter 为例的“人类—机器混合系统”研究

上文笔者分别论述了人类法庭裁判和人工智能裁判的优势及限度，综合来看它们现阶段的缺点大多数无法通过技术手段规避，但是通过规则来规避人类审判和人工智能审判的缺点似乎是一种可行的方案。笔者希望通过介绍Facebook 与Twitter人机混合系统言论控制案例来找到法庭审判人机混合系统应用的路径。

在2010 年代中期，Twitter 和Facebook 开始强调创造健康和安全的在线语音环境。这些平台最早消极的语言控制办法是由人类投诉驱动，也是由人类执行的。而如今美国作为人机混合系统控制网络语言最先进的国家，这些系统已经成熟地将人和机器的元素结合起来。

（一）人工智能防线

作为第一道防线的主动过滤器，它可以阻止某些形式的内容被发布。以提供Youtube 公司发明的Content ID 过滤软件系统为例，它将上传的视频与受版权保护的材料数据库进行比较，以确定视频是否侵犯版权。自2013 年以来，各大平台都使用了类似的系统PhotoDNA，该系统可以主动检测儿童色情视频并防止其被发布。主要平台还有主动屏蔽功能，以阻止恐怖主义宣传。如今，Twitter 和Facebook 已经开始在内容审核方面引入更多深度学习模型，利用人工智能技术优化算法，提升审核能力。而对于那些人工智能不能解决的棘手案子，则需要人类接手。

（二）人类审查防线

2018 年11 月15 日，扎克· 伯格表示，Facebook 将参照“最高法院”的模式成立一个独立的监督机构，以解决有关内容审查的投诉。该机构将于2019 年正式成立，以在言论自由和公民安全需求之间达成平衡。用此种方式来充实当前的审查流程。该委员会由无利害关系方组成。他们作为独立人士审查疑难案件，并在两周内做出书面决定，他们有权力否决Facebook 的前期决定并提出自己的建议，但不能改变审查的规则。

自2016 年以来，Twitter 一直在更新社区政策，引入算法识别和手动审查来建设标准化平台，限制垃圾邮件账户和低质量内容。Twitter 拥有一个以总法律顾问办公室为中心的高度审慎的政策小组，以此来解决最棘手的问题。政策小组内有一个负责棘手的案件和政策的重大变化的领导委员会，该委员会审查依据的是一个不断更新的内容指南。

四、“人类—机器混合审判模式”展望

人类审判保证裁判可接受可解释，满足了公正的要求，机器审判保证裁判效率高，满足了效率的要求。在笔者看来二者的价值都不可偏废，因此将二者有机结合形成以人为中心的“人类—机器混合审判模式”或许是一个可行的路径。

（一）速裁案件先行使用机器自动审判

无论是民事速裁程序还是刑事速裁程序，其本身就是在效率和公正两个价值之间进行选择，而这种程序的最终原则即在公正的基础上追求效率。速裁案件的案情较为简单、法律关系明确，法院在应对此种案件时可能不会涉及复杂的价值判断，而仅仅就是适用法律即可。此类案件可以让机器完全参与，由人工智能根据指控自动提取案件的相关情况，识别简单的证据要素，并进行量刑预测且自动生成判决书。速裁案件在当前甚至今后都是法院审判模式的重要选择之一，如果可以成功适用人工智能参与审判，那么所释放出的司法资源无疑是相当可观的。

（二）繁简分流案件

尽管现在的人工智能根据案例或根据法律分析学习人类的裁判方式，但是在复杂案件中的缺陷使得我们应该根据案件的性质设置人工智能的参与强度，从而使法官和系统之间的人机合作更加恰当和相称。［4］在繁简分流的改革要求下，简单案件与疑难案件在立案环节就应该进行区分，根据案件的复杂度来确定人工智能参与的比率。而复杂度的参考因素可能包括对人类实体权利的侵犯程度、对价值判断的涉及程度、是否存在立法空白、是否需要进行道德推理等。将案件根据复杂度进行等级划分，复杂度越高的案件人类参与的比率也应当越高，机器参与的比率应当减少。将案件按照复杂度进行繁简分流，达到了针对不同案件选择程序，同时满足了公正和效率的要求。

（三）充分尊重当事人的选择权

作为一种新兴的审判模式，对于不同接受程度的大众来说必然会有不同的意见。而作为法官一定要赋予当事人程序选择的权利，具体原则应当为：即使是最简单的速裁程序，法院也只有让案件进行机器审判的建议权，最终的决定权在当事人手中。若当事人不愿进行机器审判，那么法院则不能使用机器审判，并且要禁止法官运用人工智能进行判决预测，避免出现先入为主的理念。因为复杂的案件涉及的范围不仅是案件的当事人，也会在社会中形成讨论，因此就应当对这些案件的可解释性提出更高的要求。而在前面分析人工智能审理案件的缺陷中就提到了算法“黑箱”和不可解释性是现在技术无法突破的难题之一。因此我们要在程序设计过程中尽量规避其缺陷带来的危害。

五、结语

人工智能作为人类智慧的结晶，已经不断应用于我们生活的方方面面。在司法裁判方面，人工智能目前来看还不能取代法官在裁判案件中的主导地位，但是其作为辅助工具应当具有不可小觑的价值。尤其是在案件量激增而法官数量较少的大背景下，人工智能应当被赋予法官身边的“另一个助理”的身份。如果能在合理制度安排的背景下使得在裁判案件中人机之间的协调一致，各司其职，那么将会对优化司法资源配置、提高司法的效率产生积极的推动作用。反之如果不能有效规制人工智能在司法裁判方面的应用，那么将会对司法公正产生致命的破坏作用。