人工智能在我国司法审判中的应用及限制

陈阳 荣威

（河南大学法学院 河南开封 472000）

近年来，人工智能技术开始在我国的司法审判中的发挥了重要作用，2015年7月，最高人民法院首次提出了“智慧法院”的概念，2017年4月20日，最高人民法院印发《最高人民法院关于加快建设智慧法院的意见》，对“智慧法院”的内容建设作出了相关要求，2017年7月8日国务院发布了《新一代人工智能发展规划》，对智慧法庭的建设作为未来发展的重点任务。我国各级法院迅速在司法裁判中开始了对人工智能技术的应用，最高人民法院推出了“法研智库”系统，为全国各级法院的法官提供了统一的类案检索平台。同时，各地法院也展开了相应的司法人工智能建设工作，北京法院的智能研判系统“睿法官”、上海法院的“上海刑事案件智能辅助办案系统”、江苏法院的“法务云”、河北法院的“智审”、重庆法院的“金融云法庭”等。[1]人工智能技术的广泛运用，帮助我国法院建立了集电子化卷宗、信息网上公开、类案推送辅助系统、现代管理平台为一体的新型审判模式。

一、人工智能在司法审判中的应用分析

（一）服务型应用。一方面，人工智能技术的应用改变了传统的单一固定场所庭审形式，新兴科技和数字经济的发展，降低了社会的相关性与空间临近性之间的联系，对于多数社会活动来说，距离和环境已经不再是影响其结果的决定性因素。[2]我国的智慧法院建设将智能化、阳光化、网络化作为发展方向，目前全国范围内的多家法院均已实现了远程开庭、庭审直播等新型司法审判形式，通过技术手段在网上完成人脸识别、证据上传、电子笔录、网络抗辩等流程，以“云法庭”取代现实中的面对面庭审，一次庭审中可以同时包括多角色，在多场所同时进行，在这样的立体情境下，每个当事人都可以参与和分享庭审信息，司法审判变得更加灵活。另一方面，人工智能技术在司法服务管理中的应用，提升了司法服务的智慧化和便捷化，2019年，全国已有97.8%的法院支持网上立案，其中高级法院支持率为100%，全国各高级法院终本案件信息公开也达到了100%，[3]当事人立案难的问题已经成为历史，智慧法院实现了全方位、多角度、零距离对群众进行服务的目标。同时，为保障司法权的阳光运行，对审判流程进行了可视化的智能跟踪管理，对法官业绩采取了数字化智能评价，做到了办案过程的全程可视、全程监督，从而更好地维护司法公正。

（二）审判辅助型应用。

1.语音识别技术提高庭审效率。目前语音识别技术被各法院广泛应用在庭审笔录的环节中，裁判文书中的当事人信息等具有固定格式的内容可以通过人工智能直接一键生成，在法庭中所配置的语音识别软件，可以自动对裁判参与者的发言进行识别并转化成文字，生成符合规范要求的庭审笔录，书记员只需要对笔录内容进行校对，减轻了繁重机械的记录工作，降低了法官和书记员的工作压力，提高了庭审效率。

2.类案智推功能保障同案同判。人工智能通过其自身的深度学习能力和大数据处理整合能力，可以对大量的司法数据进行批量的抓取和分析，进行数字化、编码化，构建集全方位法律数据为一体的多维数据库，实现对司法裁判的法条关联和类案推送。例如，目前全国各法院都在使用的“法研智库”系统，就是一款由最高人民法院研发并推广的具有类案推送功能的法律数据库，法官在审理案件时，输入该案件的关键词和相关条件，司法人工智能可以自动对案情进行分析，推送相关法条、相似案例、裁判意见等办案指引，既帮助法官节省检索相应数据时间，对重要信息进行精准匹配，又契合了国家司法体制改革大力推行案例指导制度的题中之意，同时，类案推送功能的应用也能反过来对司法审判进行对比监督，保障相关法律的准确适用，避免同案不同判问题的产生。

3.深度学习能力自动生成裁判文书。随着技术的进步，人工智能的深度学习能力也在不断提高，在司法裁判过程中，可以准确判断法官分析逻辑的各个节点，并进行分类模仿学习，从而做到自动纠错，并辅助裁判文书的生成。同时，人工智能技术在数据的不断积累和技术的改进中也在不断地自我提高，除了基本的裁判文书以外，可以根据案件具体需求自动生成起诉书、执行裁定、通知书、备忘录等多种其他类型的法律文件。法官对人工智能自动生成的裁判文书进行审核，对其中的错误内容进行修改和反馈，从而促进人工智能技术的改进和完善，实现了人机协作高效和谐的局面。

人工智能在司法审判中的使用，不仅是技术发展外部环境的推动，同时也是司法审判内在需求的带动。如波斯纳所说“公正在法律中的第二层含义是指效率”，[4]司法审判以对公平公正的保障为最高价值，但司法审判的效率价值同样也该得到重视，如果司法审判无法保证效率，造成很多案件的积压甚至超期，会对当事人造成十分消极的影响，直接影响着司法公正是否能够实现。一方面，随着普法工作的大力开展，人们的法律意识逐步提高，随之而来的是法院案件数量的大幅增长。2015年全国各级法院累计受理案件数量近1800万件，而到了2020年全年所受理的案件量则达到了3000万以上，仅5年的时间，增长了近7成。[5]与之相对应的是，在2015年司法改革后，我国的员额法官数量大幅下降，由2015年的21万人降至2020年的19.6万人，2020年全国法官人均办案量高达225件。在如此庞大的工作量面前，法官们不堪重负，难以兼顾司法公正和司法效率。由此，无论是从提高司法效率的角度还是对法官进行人性关怀的角度，都需要采用先进的人工智能技术，辅助法官的司法裁判。另一方面，司法审判兼具复杂性和专业性，要求法官有出色的案件分析能力并对相关法律规定熟练掌握，法官通常需要通过长时间的学习和经验积累，随着经济的不断发展，社会关系日趋复杂，司法审判中所面临的案件更为多样，法律规则为了适应社会的需求也在不断变更，法官个人精力毕竟有限，需要通过人工智能的辅助来保障工作效率。

二、人工智能的应用限制分析

（一）人工智能的发展障碍。

1.司法数据存在问题。人工智能技术虽然已经在我国司法裁判中扮演了重要角色，为提高司法效率，保障同案同判做出了贡献，但是人工智能的数据分析整合和深度学习能力，必须以其所依托的海量司法大数据为基础，现有司法数据的质量将直接对人工智能得出的结果准确性产生影响。我国的裁判文书网上目前所公开的各级法院裁判文书总量已经超过了1亿篇，如此庞大的文书数量为人工智能提供了丰富的学习内容，但不可否认的是，虽然作为官方公开文件，这些裁判文书本身仍然存在一些问题。大量裁判文书中存在着用语非结构化的问题，这对人工智能的文书内容分析和提取造成了很大障碍；部分案件并未公开影响裁判结果的隐性决策因素，导致所得出的数据结论缺少客观性和真实性；[6]在不同的特定历史时期，我们对法律规定的理解和适用会随着社会环境的改变同时发生变化，人工智能无法精准区分由于外部环境变化而带来的法律适用变化，从而产生结果的偏差。

2.人工智能存在技术缺陷。人工智能获得人类信任并广泛应用于司法裁判中的原因是其得出的结果符合人类的预期，多数人认为相比人类来说人工智能更容易克服偏见和倾向性，所得出的结果具有更高的准确性和客观性。然而事实上，人工智能的算法本身，也存在着一些影响裁判客观性的技术缺陷。首先，算法的编写是基于技术人员所作出的判断，但技术人员并不是专业的法律人士，甚至可能有些技术人员对法律知之甚少。这些技术人员所编写的算法是否客观公正，是否符合法律及道德的要求，代码的规则是否透明准确，是否存在危害司法公正的“算法黑箱”，这些都是目前被学者们提出质疑的问题。其次，法官在长期的审判过程中所累积的裁判经验和裁判思维，不能也无法被技术人员转化为代码写进算法中，人类作为复杂的社会动物，维护司法公正的同时，也要权衡社会利益、机会、社会影响等因素。算法不能准确描述法官在审判中的社会心里因素，也感知不到其所作出的判决中所具有的“人的温度”。人工智能通过冰冷的逻辑和机械的算法所得出的裁判结果，无法解决那些人类社会中并没有明确的标准答案的问题。

（二）干扰法官自由裁量。法官在裁判过程中，根据多年积累的工作经验和法律素养，对案件如何选择和适用法律发挥主观能动性，并得出裁判结果，这种带有一定自由的裁量权，有利于增加司法的灵活性，克服成文法中的滞后性等限制，维护司法个案的公平与正义。而人工智能作为技术工具完全适用机械模式，排除了价值判断和情感化，具有了普遍性和非人格性等特征后，才能实现其在司法审判中可计算性、可重复性等使用逻辑。但是司法裁判作为对人类社会行为善恶是非的判断，本身就超越了形式的合理性，包含着价值判断的内容，对于不同的案件情节，需要结合当事人诉求、社会影响、社会危害性等多重社会因素进行权衡考量，这样的工作显然是不能通过机械的技术逻辑来完成的。因此，当过度强调人工智能在司法审判中的地位，追求人工智能的技术逻辑做出的具有形式合理性的裁判结果时，难免会对法官的自由裁量权造成损害。当法官通过社会心理因素和审判经验得出的裁判结果与人工智能的结论存在较大差别时，在目前的司法实践中拒绝采用人工智能的结论并不是一件容易的事，法官在承受自我怀疑和内心纠结的同时，还要面对来自上级甚至社会舆论的压力。如果法官采用了人工智能的结论导致了不良的后果，审判责任的承担也是具有很大争议的问题。这些情况的出现都在很大程度上干扰了法官在审理案件时的自由裁量权，反而对司法的实质公正造成了影响。

（三）侵犯当事人相关权利。一方面，司法审判一直以控辩双方平等对抗，法官居中做出裁判这样稳定的三角结构维护着法律的平等和公正，若当事人之间力量严重不平衡，则会导致三角结构稳定性失衡，诉讼结果偏离平等理论的基本要求。而人工智能在司法裁判中的应用则很有可能导致双方出现力量失衡，影响三角结构的稳定性。在刑事诉讼、行政诉讼等一方当事人为公权力机关的情况中，不可否认公权力机关本来就具有相对的优势，人工智能技术的应用会导致优势被进一步扩大，控辩双方力量差距悬殊。例如公安机关同时兼具行政执法职能和刑事侦查职能，一旦公安机关成为了行政诉讼案件中的当事人，在目前各机关数据库“互联互通、共建共享”的趋势下，[7]公安机关不但可以从自己的刑事数据库中获取对己有利的数据，也可以通过数据共享平台获得其他政法机关的数据，甚至有可能通过数据的推送和共享影响法院裁判，这无疑增加了当事人的诉讼难度，削弱了公民的诉讼权。

另一方面，人工智能在司法裁判中的广泛适用同时也引发了对隐私权保护的讨论。数据时代下，我们所使用的各类app都受到了大数据算法的监控，使用者的个人信息、浏览情况会被算法进行无差别搜集，而这些数据多数是被科技公司所掌握，如果不对人工智能进行严格限制，一旦数据泄露，会对公民隐私权造成严重侵犯。同时，人们在参与诉讼过程中的相关信息、个人隐私也会被人工智能全部搜集，生成新的信息，这些信息中甚至可能包含涉及到商业秘密、未成年保护以及国家机密和个人隐私的信息、一旦这些司法数据被入侵或者泄漏，会给公民的个人隐私安全甚至社会安全造成严重的损害。

三、人工智能的未来发展方向

（一）明确法官在司法审判中的主导地位。真正的司法审判并不是简单地将案件内容和相关法律“连连看”，组合成一张冰冷的裁判文书，而是包含了法官特有的经验与法律智慧，是法理与情理的结合。在将人工智能应用于司法审判时必须明确法官在审判中的主导地位，人的社会纠纷必须由人来进行最终裁决，人工智能只能被作为辅助司法审判的工具，不能喧宾夺主影响了法官的自由裁量。一方面，应当对人工智能在司法裁判中的运用范围进行明确的限制，对于刑事案件这类涉及到公民人身、财产安全，会对社会公共安全产生严重危害的案件，应当将人工智能的应用限制在辅助量刑的范围内。刑事案件动辄涉及多方利益，社会容错率低，因此对于这类案件的案情分析、法律适用以及罪名认定等重要问题，应当限制对人工智能的使用，由法官来进行确定。人工智能仅限在案件罪名确定之后，对法官做出辅助性量刑建议，并由法官做出最终裁决。这样既充分利用了人工智能技术的数据处理功能，又保障了该类案件得到准确公正的处理，强调了法官的主导地位。同理，对于行政案件和民事案件中需要进行价值判断或情节严重的情况，也应明确法官的主导作用，限制人工智能的使用。

另一方面，在对法官进行考核评价时，必须以法官的自由裁量权不受削弱为前提，应当取消对法官运用人工智能的量化考核要求，评价法官的工作成绩的标准应该是案件的准确性，不该仅仅因为法官没有采用人工智能给出的建议就对法官做出消极评价。从本质上来说，法官是否采用人工智能技术，怎样使用人工智能技术，是属于其个人工作方法的问题，应当适度允许差异化的存在，做出一刀切的硬性指标规定，既严重影响了法官的自由裁量权，不利于司法审判的实质公正，也不符合客观发展规律。

（二）提升对人工智能的改进与监管。

1.实现知识的双向互动。如上文所述，人工智能主要依靠算法进行相关的司法裁判工作，想要改善由于算法的设计人员缺乏法律知识造成的算法漏洞，不能仅仅依靠技术人员自己提升专业技术，必须要推动对相关知识的双向学习，使法学理论和大数据技术深度融合，互相促进。一方面，法学专家们需要对人工智能的算法进行基础的学习，最起码需要掌握相关的知识与技术，从而有利于其在算法设计阶段进行事前监督，在了解算法基本概念的前提下，对技术人员给出合理的法律建议。另一方面，从事司法人工智能的技术人员同样需要学习相关的法律知识，对法律的基本精神和原则主旨有较深程度的了解，这样才能设计出真正符合司法审判需求的人工智能工具。同时，在大数据时代的背景下，仅让从事司法审判工作的法官以及专家学习人工智能知识是远远不够的，法学院校需要转变传统的单一教学模式，多学科之间交叉教学，在课程的设置中配置一定比例人工智能的相关课程，聘请专业的技术人员进行教学，注重对学生实践能力的培养，培养出同时精通法律知识和人工智能技术的复合型人才，从而应对大数据时代对司法审判的要求。

2.提升算法透明度。即使有相关的法律人员参与算法编写的事前监督工作，也不能完全打破技术的壁垒，杜绝“算法黑箱”的产生，必须要提升算法透明度，使算法的设计受到来自公众的监督。技术人员作为算法的设计者，自然也应承担起防止产生“算法黑箱”的义务，需要能够对所设计的算法进行明晰的解释，使社会公众了解算法的具体形成过程，以及其中所涉及到的数据采集、数据安全保护和设计目的等内容。考虑到算法可视化可能会造成对公司商业机密的侵犯，这里所要求的数据公开是有限的数据公开，仅对设计过程中可能会涉及“算法黑箱”的部分内容进行透明化，不应包括算法编写技术中的算法模型和核心技术等商业秘密。

3.建立严格的审查监督程序。首先，需要制定相关的算法审查内部行业规范，我国目前在这类问题上并没有相关的行业规范，实践中遇到此类问题多数都是适用网络信息安全方面的相关规范，为更好地规范设计者行为，必须要制定算法审查的内部行业规范，对设计人员进行相关培训，为其培养正确的设计理念，当设计人员的行为违反相关规定时，要求其承担相应的法律责任。其次，建立专门的算法监督检验机构，由大数据方面的专业人士组成监督成员对算法设计进行审查，这样既可以避免上文所提到的对技术公司商业秘密的泄漏，又能降低算法中存在偏见和错误的可能性。最后，要充分发挥法官的主管能动性，建立完善的法官反馈机制。法官作为司法人工智能的主要使用者，在裁判过程中，发现人工智能存在错误或违背司法精神的地方要进行及时反馈，相关技术人员要积极配合修改，使算法更加符合司法审判的要求。

（三）加强对当事人权利的保护。

1.增强对司法数据保护力度。增强对司法数据的保护不仅是数据安全的需要，更是提高法院权威，提升公民对司法机关信任感的需要。一方面，法院作为司法数据的主要使用者，必须对数据安全负责，应当建立相应的保护制度，保证在使用数据时，当事人具有一定的知情权，这样既有利于对数据的使用进行监督，也能提高大数据时代下公民对个人信息保护的安全感；在进行数据采集和数据公开时，要对当事人的个人信息进行隐名处理，非因司法审判需求不得对这些私人信息进行查阅和公开。另一方面，在选择司法人工智能的合作企业时，必须进行严格的筛选和考察，对该企业的相关人员素质，企业资质、过往工作情况以及数据安全保护能力等多种因素进行综合分析考量，择优选用，并签订严格的保密责任，一旦该企业发生泄漏信息的情形，必须加大处罚力度，使其承担远高于违法成本的违约责任。同时，应加大资金投入建立更强大的数据安全保护系统，防止数据被破坏，对相关司法数据要做到及时备案，以便对被破坏数据信息进行恢复，减少因数据损毁带来的损失。

2.提升对隐私权的重视。大数据时代下，人工智能的发展和公民隐私权的保护之间的冲突由来已久，至今仍被社会各界关注，想要更好地保护司法数据的安全，除了做到上文中所提到的保护措施之外，必须提高对公民隐私权的重视，将对公民隐私权的保护作为保护司法数据安全的首要任务。本文同意郑曦教授的观点，可以在一定限度内赋予公民更多个人隐私保护方面的权利，如被遗忘权。被遗忘权是指公民的个人信息不再有被权力机关合法使用的需要时，可以要求删除或不再使用该信息的权利。[8]在司法审判结束后，公民应当拥有要求删除或封存涉及个人隐私信息的权利，这极大降低了公民隐私权由于违规泄漏被侵犯的风险。当然，公民使用被遗忘权保护个人隐私的同时也必须受到相应的限制，不能对社会公众知情权、言论自由和社会公共安全造成损害。