挑战与应对：人工智能时代的司法审判

贺 泳 杰，雷 震 文

当前，人工智能的兴起及其在司法领域的广泛应用成为法学理论与实践关注的热点。对此，不少学者报以积极的态度，认为智慧司法是人类法律文明跃迁的当代探索，(1)刘品新：《智慧司法的中国创新》，《国家检察官学院学报》2021年第3期。在为诉讼方式和司法系统带来前所未有实惠的同时，也较大程度增强了人民群众对司法的公信。(2)蒋惠岭：《以正确理念引领智慧法院建设》，《人民法院报》2018年2月2日，第6版。在实践层面，自《国家信息化战略发展纲要》和《“十三五”国家信息化规划》将“智慧法院”建设列为国家信息化发展战略及最高人民法院《关于加快建设智慧法院的意见》发布以来，以上海“刑事案件智能办案辅助系统”(简称“206系统”)、北京“睿法官”、浙江“移动微法院”、重庆“法治云”、贵州“法镜系统”等为代表，各地司法智能化建设相继展开，成绩斐然。然而，诚如学者所言，我们现有的法律体系都是围绕“只有人才能做出决定”这一基本假定展开的，以机器人为代表的人工智能的出现却使我们的传统认知遇到极大挑战。(3)赵万一：《机器人的法律主体地位辨析——兼谈对机器人进行法律规制的基本要求》，《贵州民族大学学报(哲学社会科学版)》2018年第3期。智慧司法并非现代科技与司法的简单叠加，或科技效能在司法领域的简单平移，二者的融合将在审判方式、审判机制、审判管理和审判伦理等方面为审判活动带来颠覆性的变革。(4)参见田幸、成立、王平荣：《人工智能带来的司法革命》，《人民司法·应用》2019年第7期。以此为背景，就智能化对司法活动特别对作为其核心内容的司法裁量带来的影响作出必要的观察和分析，对于保障我国正在戮力推进的司法改革和司法能力现代化建设的顺利实施而言，无疑具有积极的现实意义。

一、人工智能与司法裁判的深度融合

对司法系统内部而言，提高司法效率，缓解“案多人少”矛盾，特别是“最大限度减轻办案人员的非审判性事务负担”，是其致力推进司法智能化的初衷，各地法院早期信息化、智能化建设的重点也大多集中于此。信息技术向诉讼领域的渗透，带来了新的诉讼交往方式。(5)周莹莹：《在线诉讼中身份认证制度研究》，《贵州民族大学学报(哲学社会科学版)》2021年第6期。例如，借助图文识别(OCR)、语音识别、自然语义分析等技术，目前，广东、河北、山东等不少地方的智能司法辅助系统皆已基本可实现对卷宗收录及管理、庭审和合议笔录、文书制作与纠错等大量基础性、简单性、重复性工作的自动处理，较大程度减轻了司法人员的案头工作负担，提升司法工作效率。(6)参见王禄生：《智慧法院建设的中国经验及其路径优化——基于大数据与人工智能的应用展开》，《内蒙古社会科学》2021年第1期。但是，以《关于加快建设智慧法院的意见》提出的“全方位智能”为目标，人工智能对司法活动的介入却远不止于此，以“智能证据审核”“类案推送”“量刑辅助”“偏离度预警”等功能为触手，逐渐渗透至事实认定、法律适用等案件审理的核心环节，实现与司法裁判的全面、深度融合。

(一)智能证据审核

对案件事实要素的审查、构成要件的指引和证据的审核判断是人工智能应用于司法裁判事实认定环节的主要体现。(7)唐伟然、唐茂林：《人工智能在司法裁判中的应用研究》，《湖南科技学院学报》2021年第6期。作为国内智慧法院建设的早期典型，上海“206系统”即以智能化的证据标准指引和证据核验功能作为其一大亮点。以《刑事诉讼法》及相关司法解释的规定为基础，通过对海量已决案例中证据要素和规则的提取、分析以及专家经验的总结，形成标准的证据模型并嵌入系统中，该系统不但可以“清单”形式为办案人员收集、固定证据提供指引，而且可以从客观、关联和合法层面实现对单一证据的自动校验，甚至具备“证据链和全案证据审查”功能，对统一证据标准、规范办案流程和提高办案效率具有积极的意义。(8)参见崔亚东：《人工智能与司法现代化》，上海：上海人民出版社，2019年，第110—112页。目前，安徽、浙江、贵州等部分地区也在各自的智能办案辅助系统的建设中对该模块的嵌入进行了尝试，譬如，在贵州政法大数据办案系统中，通过对相关证据标准指引的嵌入，已基本可以实现对杀人、抢劫、盗窃、毒品、故意伤害等5 类常见案件证据的收集、校验、审查的自动化处理。(9)参见张洋：《大数据办案公正又精准》，《人民日报》2017年7月10日，第6版。

(二)类案推送

类案推送是目前各地智慧法院系统中的基础和必备模块。其以自然语言处理技术为依托，依循以语义识别完成“前案要素提取”→“类案画像构建”→“裁判语义匹配”→“类案个性化推送”的技术路径，(10)李世宇：《司法大数据在类案裁判中的应用探索》，《郑州大学学报》2018年第1期。在海量已决案例中为办案人员推荐与在办案件最为相似的案例，为相关案件的办理提供参考。与传统的案件检索不同，类案智能推送系统通过构建包括案情事实、争议焦点、法律适用等要素的语义画像，辅助用户快速从海量历史案件中发现相似案例，较大程度地省去办案人员案例检索时浏览、判断、筛除方面的负担。(11)陈琨：《类案推送嵌入“智慧法院”办案场景的原理和路径》，《中国应用法学》2018年第4期。通过与其他办案系统中模块的融合，类案推送在提升司法效率方面的助力作用则表现得愈发明显。例如，通过与电子卷宗系统对接，自动提取并深度挖掘卷宗中案情的摘要及基本事实依据，并与中国裁判文书网等数据库资源匹配，辽宁省“法信智推”系统实现了对案例、法条、观点、要旨、当事人关键案件等多重审判辅助信息的一站式主动推送；(12)侯永锋：《“法信智推”系统帮法官解类案检索难题》，《辽宁日报》2020年8月3日，第3版。另外，通过与文书写作模块的融合，北京“睿法官”系统，为法官判案提供统一、全面的审理规范和办案指引，同时自动生成裁判文书。(13)王歧丰：《北京法院依托“睿法官”系统推进同案同判》，《北京晨报》2017年2月24日，第5版。

(三)量刑辅助

“电脑量刑”的思想由来已久，早在2004年时，我国山东某基层法院曾开展过“量刑规范化软件管理系统”的开发尝试。(14)参见魏胜强：《法律解释视角下的“电脑量刑”》，《政法论坛》2009年第3期。虽同以量刑自动化为表现形式，但与将小数量刑事案例、部分法官经验与法律法规数据化，并借助电脑运算系统进行推理判断“电脑量刑”不同，(15)张勇：《人工智能辅助办案与量刑规范化的实现路径》，《法治论丛》2019年第2期。智能办案系统中量刑辅助功能则是以大数据、云计算等为基础，通过对海量案例信息的分析挖掘，构建法律图谱和模型训练，并在提取案件要素的基础上进行类案识别，进而得出一定的量刑幅度，为办案人员提供参考。(16)参见程龙: 《人工智能辅助量刑的问题与出路》，《西北大学学报(哲学社会科学版)》2021年第6 期。其实质是在充分总结既有案件审判经验基础上，就在办案件形成的量刑预测。在域外，此种司法智能化的模块应用并不乏见。以美国为例，目前已有一半以上的州利用了COMPAS、PSA 和LSI-R 等软件对特定主体再犯罪风险进行预测与评估，以辅助法官量刑。(17)李本：《美国司法实践中的人工智能：问题与挑战》，《中国法律评论》2018年第2期。而在我国，量刑辅助模块的开发也已成为各地办案辅助系统构建的重要内容，目前，贵州的“法镜系统”、上海“206系统”等都已具备此项功能。

(四)偏离度预警

“偏离度预警是类案检索的延展性应用，它是通过当前案件裁判结果与相似案件裁判结果之间进行比对，判定当前裁判结果是否与类案裁判结果相偏离”。(18)魏斌：《司法人工智能融入司法改革的难题与路径》，《现代法学》2021年第3期。“对于校对结果偏差较大的，会自动预警，需要主审法官向审判委员会进行说明与解释”。(19)秦汉：《人工智能司法裁判系统的学理反思》，《北方法学》2021年第3期。以规范法官自由裁量权的行使，避免“同案不同判”问题为目标。判决偏离度预警侧重于对已决案件的质量控制，在上海“206系统”、江苏法院“同案不同判预警平台”等目前智能办案辅助系统中主要适用于刑事案件，集中表现为对量刑偏离度的预警。但值得注意的是，为全方位监督全国法院立案情况，整治年底不立案现象，最高法院2021年11月推出了立案偏离度预警系统，根据大数据分析结果，设定合理的月、周、日收案基准数，进行立案数变化对比，通过设置三个预警等级，对波动异常、立案偏离度大的法院定期进行预警通报。(20)最高人民法院：《最高法举行全国法院整治年底不立案新闻发布会》，https://www.court.gov.cn/zixun-xiangqing-332851.html。可以预见，在强调裁判标准统一司法大趋势下，偏离度预警即将迎来更为广泛的应用。

二、智能辅助系统对司法审判的挑战

以增效、减负、辅助、监督为其基本功能定位，(21)谢澍：《人工智能如何“无偏见”地助力刑事司法——由“证据指引”转向“证明辅助”》，《法律科学》2020年第5期。智慧司法在提高审判质量和效率、提升审判管理智能化水平、促进审判管理进一步科学化、提高审判管理信息精确性等方面取得了显著的成效。(22)胡昌明：《中国智慧法院建设的成就与展望——以审判管理的信息化建设为视角》，《中国应用法学》2018年第2期。尤其在提升审判效率方面，以重庆的金融“类型化案件智能审判平台”为例，自其在江北、渝中两区法院运营以来，两院信用卡纠纷案件平均立案时间缩短到10分钟以内，案件审理时间平均缩短27.26天，效能提升不可谓不明显。(23)黄乔：《我市法院建设智能审判平台 信用卡纠纷类型案件审理时间平均缩短27天》，《重庆日报》2017年9月1日，第5版。但同时，人工智能的兴起也给司法实践带来了不小的挑战和冲击，并且，随着智慧法院建设的不断推进，人工智能与司法审判融合的不断深化，这种挑战和冲击也将体现得愈发明显。

(一)弱化法官的审判主导地位

以法官为中心、强调其对审判活动的主导地位是现代司法的基本特征。“庭审实质化才是当前司法实践中解决审判中心问题需要面向的问题。庭审实质化是实践层面的审判中心的内涵。”(24)杨正万：《审判中心内涵再讨论——基于理论、制度及实践视角》，《云南民族大学学报(哲学社会科学版)》2020年第4期。而司法智能化建设的过程中，虽然，作为共识，人工智能的“辅助”而非“替代”功能广被强调，(25)张思巧、康宁：《人工智能参与司法裁判的实践与定位》，《山东法官培训学院学报》2021年第3期。但是，随着司法人工智能的不断完善和深度应用，人类法官正在或者已经让渡部分决策权成为不争的事实。甚至有学者指出，智能量刑算法在当下虽然是辅助性的，但其趋势必然是主体性的。(26)张玉洁：《智能量刑算法的司法适用：逻辑、难题与程序法回应》，《东方法学》2021年第3期。

以法官的司法裁量权为例，作为连接抽象规范与具象事实的纽带，弥补法律刚性和滞后性等不足的基本机制，司法裁量权虽因存在滥用可能而备受诘难，但却被认为是司法“与生俱来的存在，无法回避也无法禁止”的组成部分。(27)杨翔：《我国法官自由裁量权: 存在、运行及规制》，《湘潭大学学报(哲学社会科学版)》2016年第1期。而随着智能算法对司法审判过程渗透的不断深化，司法裁量权则难免出现被侵蚀、弱化的可能：一方面，类案推送、偏离度预警等模块的加入，较大程度限缩了法官审判中的裁量空间，特别是部分智能系统中关于偏离预警后向主管庭领导、审委会报告审查的规则设置，无疑为审判人员裁量权的行使构筑起较为刚性的限制；另一方面，“在受理案件数激增和法定审理期限刚性规定的双重压力下，加上人的思考惰性，或迟或早会出现法官过度依赖参考判决处理案件的倾向”。(28)季卫东：《人工智能时代的司法权之变》，《东方法学》2018年第1期。

人工智能裁判让司法裁判在算法面前有着虚化的风险，(29)胡铭、张传玺：《人工智能裁判与审判中心主义的冲突及其消解》，《东南学术》2020年第1期。过分依靠人工智能技术提供的预测模式来进行司法裁判，会削弱法官的自由裁量权以及降低其裁判的主观能动性，导致法官在工作中流于形式，弱化法官在审判活动的中心作用，(30)王玉薇、顾思渺：《人工智能的司法应用问题研究》，《齐齐哈尔大学学报(哲学社会科学版)》2021年第8期。给传统的司法理念和伦理带来较大的挑战。首先，其可能构成对司法机关独立行使审判权原则的冲击。学者指出，“让人工智能自动生成判决、根据大数据矫正法律决定的偏差等做法势必形成审判主体的双重结构、甚至导致决定者的复数化，事实上将出现程序员、软件工程师、数据处理商、信息技术公司与法官共同作出决定的局面”。其次，司法智能化可能淡化司法责任伦理对法官的约束。有学者指出，“应用于司法活动的数字技术将导致一种不容忽视的异化问题，即在司法系统内形成‘组织化的不负责任’倾向”。(31)高童非：《数字时代司法责任伦理之守正》，《法制与社会发展》2022年第1期。在依赖智能算法的决策结果作出的裁判的同时，法官可能将对案件事实和法律适用问题的审查、思考和判断责任转移至智能辅助系统。“如果法官过度依赖人工智能作出司法裁决，而不是基于自身的裁判逻辑，那么极可能架空司法责任制，使得对法官履行审判责任的行为责任难以判定”。(32)魏斌：《智慧司法的法理反思与应对》，《政治与法律》2021年第8期。

(二)影响司法公正的实现

“公正是司法的灵魂和生命”。客观、公正的司法判决是新时代司法改革对法院和法官们提出的最高要求。(33)江必新：《司法审判中的价值考量》，《法律适用》2020年第19期。而依目前的主流认识来看，智能化对促进司法公正价值的实现而言是颇有助益的。司法智能系统通过海量已决案例的大数据分析和挖掘，全面总结和反映了法官群体所积累的共性经验，可以有效帮助法官克服审判过程中的知识局限，(34)陈锐、王文玉：《司法人工智能与人类法官的角色定位辨析》，《重庆大学学报(社会科学版)》，https://kns.cnki.net/kcms/detail/50.1023.C.20210727.1632.008.html。并“一定程度抑制司法裁判的恣意性，维护同案同判的司法公正性”。(35)周世中、吕桐弢：《人工智能法律系统推理的方法论审思》，《湖南社会科学》2021年第3期。

但不能忽视的是，虽以数字理性为其表现形式，人工智能却并非全然客观、准确和公正。电子商务领域中，经营者运用算法动态定价时出现的“大数据杀熟”、价格歧视，(36)朱黄娟：《电子商务领域算法动态定价的规制建议》，《中国商论》2021年第18期。以及某些搜索引擎检索结果中包含的性别和种族偏见等现象表明，(37)See Daniel R.Shulman,“What’s the Problem with Google?”15 Sedona Conf.J.,Vol.17,No.18,2014.智能算法本身亦存在价值倾向和偏见的可能。这种偏见可能来源于算法设计者有意或无意的注入，也有可能来源于作为算法训练材料的数据，是对社会群体中已经泛在的偏见的汇总和固化。而在美国COMPAS等系统中，黑人被错误评估为具有高犯罪风险的几率是白人的两倍的事实则表明，(38)参见雷震文：《算法偏见对“智慧司法”的影响及其防范》，《法制日报》2017年12月27日第11版。此类偏见或歧视在被运用于辅助司法裁判的智能算法中也未能避免。而当这种包含偏见的算法以“辅助”的名义直接作用于司法实践时，其对裁判结果公正性的影响可想而知。

除可能存在的偏见外，基于其特殊的工作原理，智能算法能否确实保证个案裁判的公正，也依然尚待商榷。“司法智能化其实就是对既有的司法裁判进行概率建模，归纳出能够体现同类案件处理的共性与标准的司法要素，辅助法官办案”。(39)马靖云：《智慧司法的难题及其破解》，《华东政法大学学报》2019年第4期。在概率模型的构建中，难免面临着案件要素的筛选和取舍，而有如常语所云“世界上没有两片相同的叶子”，经由对既有案例要素裁剪、取舍所得的裁判经验能否与司法人员的在办案件完全匹配不无疑问。就其实质而言，以大数据、算法为基础，智能办案系统所作出的裁判指引虽然远比成文的法律规范具体、详细，但是其实质上依然属于一般性调整的范畴，与追求个案裁判所追求的个案公正的距离虽然已明显缩短却依然存在，直接以人工智能的运算结果作为裁判的依据，难谓当然妥当。有学者就曾指出，偏离度预警功能的运用应警惕机械地裁判结果与大数据预测的结果进行量化比对，而忽略了个案的特殊情况。(40)魏斌：《司法人工智能融入司法改革的难题与路径》，《现代法学》2021年第3期。而在美国威斯康星州一起因适用COMPAS系统辅助量刑而发生争议的案件中，被告就曾提出“算法量刑侵犯了量刑个别化的权利”的主张。(41)参见李本：《美国司法实践中的人工智能：问题与挑战》，《中国法律评论》2018年第2期。

(三)降低司法审判的透明度

司法审判的公开、透明是社会对其进行有效监督的前提，也是司法公正的重要保证。一般认为，智能化具有全程留痕、可视化的优势，对于推动司法运行更加规范透明具有积极的意义。(42)参见马长山：《司法人工智能的重塑效应及其限度》，《法学研究》2020年第4期。但是，诚如学者所言，司法公开还应当体现在裁判结论形成的过程公开性，“司法透明原则要求每一个司法环节及其结果都能被准确预知”。(43)亚当·萨马哈：《现代司法透明原则的价值与趋向》，张薇译，https://cdfy.chinacourt.gov.cn/article/detail/2009/12/id/571984.shtml。而在这方面，智能司法辅助系统却存在着明显局限性。以大数据、自主学习等为技术基础，算法自主生成决策的过程往往是难以被理解和预见的，“甚至算法的设计者、运行者，对算法将产生何种结果亦无法准确地预估”(44)陶怀川、徐寅晨：《论算法可解释性机制的构建——司法场景下的算法法律规制逻辑》，《武汉交通职业学院学报》2021年第3期。。算法的这种“黑箱”特性既可能缘于其设计者以保护“商业秘密”为由拒绝公开所致，同时也不乏算法本身技术高度复杂性方面的原因。

虽然，在传统司法活动，由人脑进行决策的裁判过程同样难以被感知，也是一种“黑箱”。(45)秦汉：《人工智能司法裁判系统的学理反思》，《北方法学》2021年第3期。但是，“算法黑箱”对司法审判透明度的影响无疑更为严重，甚至很大程度上削弱了司法信任的基础。毕竟，司法透明要求办案人员对自己裁判依据的理由和思维的推导过程应有尽可能清晰的说明。但是，“许多时候机器归纳的裁判模式、裁判标准可能连操控主体也难以理解”(46)左卫民：《AI法官的时代会到来吗——基于中外司法人工智能的对比与展望》，《政法论坛》2021年第5期。。同时，在人工智能辅助的司法裁判中，当事人及其律师只能看到算法的决策结果，却无从知晓算法决策的程序和逻辑，知情权与抗辩权受到严重的限制，难以对审判过程形成有效的参与。(47)马靖云：《智慧司法的难题及其破解》，《华东政法大学学报》2019年第4期。这不但与司法正义的基本理念相悖离，而且也将较大程度降低了当事人对司法判决的信任和接受程度。

三、应对司法智能化挑战的主要路径

(一)明确人工智能司法应用的界限

基于人工智能在提升审判质效方面的显著优势，人们对其在司法领域的广泛适用饱含期待。但是，“司法不可能成为纯粹的技术，过分地应用技术会引发司法根基的动摇”。人工智能在司法领域的应用必须遵守必要的范围界限。特别是在我国，尽管对司法辅助系统的探索尚处局部探索阶段，但是在实在裁判的预测与监督等一些关键性的决策已经开始着手推进裁判智能化尝试。明确司法智能化的范围限度，对于维护司法和法治的固有价值，推动智慧司法建设的有序推进具有十分重要的现实意义。对此，有学者指出，在司法裁判中，可以明确法律要素与经验/情感的划分，法律适用环节与事实认定的划分，轻微共性案件与严重个性案件的划分，前者可由人工智能适度参与辅助，而后者则应主要交由人类法官掌握裁量。(48)胡铭、宋灵珊：《“人工+智能”：司法智能化改革的基本逻辑》，《浙江学刊》2021年第2期。尤其在刑事司法领域，“受刑事司法规律的制约，案例规则及其调整，以及包含政策指引、改革试验和地方规范在内的非正式制度，是刑事司法智能系统的核心禁区”。(49)黄京平：《刑事司法人工智能的负面清单》，《探索与争鸣》2017年第10期。

以一种较为体系化的视角，司法智能化可大体依循司法工作性质、案件类型、审理阶段等的不同划定具体的边界。首先，从司法工作性质的角度，人工智能技术应侧重应用于庭审排期、审限监督、庭审笔录、文书纠错和送达等非审判事务性工作中，而对于关涉案件事实认定和法律解释、适用等审判核心工作环节中的智能化渗透，则应保持较高的谨慎态度。其次，就案件类型而言，人工智能可推广应用在类型化较高的简单、常见案件和私法纠纷案件的审判辅助中，而对于严重的刑事案件、复杂程度较高或争议较大案件以及新型案件的审理而言，鉴于人工智能技术本身局限性以及审判较大的影响力，应主要由法官主导和完成。再者，在案件审理阶段来看，智能化的辅助系统应主要适用于一审案件的审理，而对二审和再审案件的审理来讲，鉴于案件争议的复杂性，应主要由法官来完成，如此，其实也是为因智能辅助系统的算法局限、偏见而导致判决偏差提供一个人工弥补、矫正的机会。另外，值得注意的是，基于规模效率方面的考虑，在智慧司法系统的构建中，全国、全领域统筹，构建一个适用于全国各级公安、检察和法院系统的智能辅助平台无疑是一种较为理想的思路。但是，鉴于其可能对我国司法机关“分工合作、相互监督”的体制安排和审级监督制度带来的消弭性影响，应当对此抱以必要的审慎态度。

(二)完善司法智能算法的监管和审查

以“辅助”为名，人工智能对案件审理过程的参与和渗透确实在一定程度上“分享”了司法审判的权力。而基于智能算法本身的技术特点和局限性，为保证其客观、中立、准确地发挥审判辅助功能以及案件审理结果的公正性，构建相对完善的司法智能算法监管和审查机制体系颇为必要。

首先，应当明确人工智能系统的法律性质以及其在司法审判中的地位。虽然，人工智能在司法活动中的“辅助”定位已为基本共识，但就其辅助功能的实际内涵，当前的理论与实践却仍多是语焉不详。作为一种对裁判具有重大甚至是决定性影响的力量，人工智能在法律性质和地位上“模糊”，不但对其司法辅助效能的发挥造成了限制，而且也为由智能系统辅助办案造成消极后果的责任分担带来较大的困惑。《新一代人工智能发展规划》，明确提出要确立人工智能法律主体以及相关权利、义务和责任。而在智慧司法的建设中，作为前提和依据，应当首先在《民事诉讼法》或相关司法解释中，对智能辅助系统在司法适用中应遵循的规则以及其属性作出必要的明确。

其次，应当进一步明确算法设计者的法律责任。当前，我国智慧法院的建设基本由各地司法机关以“服务外包”的形式委托相关科技企业、科研院所完成。而且，辅助系统算法的训练，多采取知识图谱的半监督模式为主，尚在“有多少人工，方有多少智能”的智能化水平阶段。(50)左卫民：《关于法律人工智能在中国运用前景的若干思考》，《清华法学》2018年第2期。算法设计者在初始算法构建和训练数据选取、标签提取等方面技术路径和价值取舍对智能决策的结果具有重要的影响作用。因此，为保证算法决策的公正和妥当性，明确智能辅助系统开发者的法律责任颇为必要。一方面，在智能系统的招标过程，应当明确对投标者基本技术能力和经营品质的要求，切实提升司法智能算法开发者的门槛要求。另一方面，应该在招投标文件中，对开发者义务和责任加以明确，限制算法开发者以维护商业秘密或知识产权为由免除其对算法决策逻辑等方面的公开和说明义务，并要求开发者就算法司法应用过程中导致的消极结果承担影响的法律责任。另外，“最高人民法院、最高人民检察院应出台相关规范，统一研发标准，界定研发伦理，降低司法机关开发系统的风险，确立对技术人员的追责依据”。(51)高童非：《数字时代司法责任伦理之守正》，《法制与社会发展》2022年第1期。

再次，构建完善的司法智能算法审查和检验机制。与人工智能在商业领域的应用不同，人工智能以辅助的角色延申至司法权力的场域，具有较强的公众属性，应当加强对算法决策内容和逻辑的审查，以保证决策符合基本的司法理念和司法伦理。在审查主体的构建上，可以考虑成立由有技术专家、法学专家、社会公众代表等相关人员参与的评估委员会就司法算法组织专门审查，(52)马靖云：《智慧司法的难题及其破解》，《华东政法大学学报》2019年第4期。同时也应当鼓励具备相应技术能力的第三方社会组织自发对司法辅助系统的算法开展审查监督。在审查的内容和方式上，应当注意运用大数据、反向算法检验等方法，侧重对算法中立性、公正性以及隐私保护方面内容审查。对司法智能算法的审查不但应当适用于算法的设计和启用阶段，而且应当覆盖算法运行和辅助司法裁判的全过程，以保证算法可以持续有效地为司法裁判提供合规性的辅助服务。

(三)增强办案人员的主体意识与责任

“法治由国情决定，国情可以决定一国法治的具体样态。”(53)杨正万：《习近平法治思想论纲》 ，《贵州警察学院学报》2021年第3期。“司法裁判的价值判断过程是一个非人工智能所能胜任、不能为人工智能所取代的领域”。(54)王江涛：《人工智能下自由裁量权的前景及应对》，《理论观察》2020年第2期。“机器审判”“AI法官”的理想虽然独具吸引力，但是却着实难与时下的司法实际及主流司法理念相符。“辅助”而非“替代”依然是目前社会对人工智能在司法活动中的基本角色定位。(55)参见陈灵峰：《司法人工智能的技术效应与应用边界》，《求索》2021年第6期。“作为司法权核心的裁判权亦需要法官把握最后一道防线，即使在高度智能化的现代法治下，司法裁判权的不可让渡仍是人工智能介入司法的基本原则”。(56)胡铭、宋灵珊：《“人工+智能”：司法智能化改革的基本逻辑》，《浙江学刊》2021年第2期。

在智能辅助系统与司法实践融合日益深化的当下，避免和纠正智能算法对司法审判的消极影响，首先应当增强办案人员的主体意识。毕竟，“在大量的数据面前，司法人员容易对算法决策结论产生盲目迷信，如传统司法对于鉴定结论的盲目信赖一般，从而导致司法人员的能动性法律判断的弱化”。(57)马靖云：《智慧司法的难题及其破解》，《华东政法大学学报》2019年第4期。而既有理论与实践表明，“法官疏于行使自由裁量权可能会使案件判决结果明显违背常情和常理，无法实现个案正义，最终损害了法律的权威性和司法公信力”。(58)刘亮：《司法裁量基准研究：一种规则控制模式》，《社会中的法理》2019年第11卷。因此，办案人员应当牢固树立审判主体意识，对智能辅助系统的决策建议保持必要的合理怀疑，积极行使自己作为司法主体的裁量权，避免对智能算法决策的依赖。尤其需要注意的是，不能以算法决策的建议作为免除自己对案件裁判说理责任的理由，必须在裁判文书中，结合对算法决策的取舍就自己的裁判推理过程作出充分的解释和说明。法官撰写裁判文书“需要‘严谨地思维’和‘精准地表达’方能使‘读者’理解法律条文运用于案件判决的合理性。”(59)方臻、叶青：《司法责任制改革中的刑事合议庭办案机制研究》，《贵州民族大学学报(哲学社会科学版)》2019年第2期。当然，增强办案人员主体意识离不开责任制度安排上的有力保障。在司法责任制度的改革中，应当坚持以司法人员为主体的责任归责原则，在注重运用偏离度预警等智能模块加强司法责任监督的同时，需同时强调，不能仅以错误判决符合算法决策结果或是依据算法决策建议而作出的为由，免除或者减轻司法人员责任的承担，以切实从责任层面避免司法人员对司法智能辅助系统的过度依赖。