智慧法院伦理风险的表现样态及其化解进路*

屈茂辉,谢 欣,2

(1．湖南大学 法学院,湖南 长沙 410082;2．美国明尼苏达大学 法学院,明尼苏达州 55455)

一 文献综述与问题提出

“智慧法院”最早由我国最高人民法院提出[1],其内涵是充分运用互联网、云计算、大数据、人工智能等技术,可以促进审判体系与审判能力现代化,实现人民法院高度智能化运行与管理。智慧法院是数智时代科技运用与法院传统业务进行交融后应运而生的新型样态。[2]随着智慧法院信息系统的建成及司法应用与程序的开发越来越丰富,智慧法院的研究成果呈现递增趋势。

在智慧法院的概念涵义与定性方面,学者主要关注智慧法院本身的技术特性。例如有学者提出,智慧法院建设作为我国更大的信息化战略的一部分,中国特色的智慧法院建设实践成果,彰显了法律与科技的深度融合,在推进审判体系和审判能力现代化方面作出了巨大贡献。[3]相应地,另外一些学者从工具主义的维度探讨了智慧法院为什么在根治“案多人少”方面存在制度优势。与传统法院业务模式不同的是,智慧法院构建了一种新的在线诉讼服务模式,它可以满足人民群众多层次、多样化的司法需要,使处于网络场景的诉讼程序逐渐优化,破除“最后一公里”的司法障碍,消除当事人因各种因素产生的诉讼不便,尽最大可能实现公平与正义,让人民群众在每一个司法案件中感受到公平正义,[4]在人工智能、大数据、互联网等现代科学技术的基础上,在司法诉讼方面进行信息化改革,使法律与技术交汇融合,逐步形成司法管理以及诉讼程序的数字化、智能化。[5]大多数的研究都是采用智慧法院中技术运用的工具属性来展开该领域论述的。我们应该反观的是,如果在对智慧法院的研究中仅仅考虑技术因素,忽略对其中所蕴含的价值进行考量,势必对智慧法院的研究产生掣肘。

目前,智慧法院信息系统已经建成,有一些研究开始注意到仅仅从技术视角来考察智慧法院已经不足以适应实践发展,对智慧法院的关注在学术考察上缺乏人文属性面向。有学者将研究视角进行了转向,例如有研究提出,智慧法院建设在处理个人信息、提高数据安全系数、保护信息权益等领域都要有所关注,[6]在本体的选择方面更加关照个体权利的实现。

从另外一个角度看,在智慧法院的运行之中出现了各方面的问题。有学者谈到,智慧法院在数字化、智慧化过程中,不能仅仅关照法院本身,还要将智慧法院与国家整体的信息化战略相连,打开数据端口,做到信息互通、共享[7]。还有学者考察了“智慧法院”在建设热潮中,人工智能的使用过于局限,其在案件裁判过程中仅被作为辅助性工具[8],技术的运用在智慧法院的运行过程中作用是有限的。另外有学者发现智慧法院是存在潜在风险的,例如,智慧法院在大数据技术使用方面,将会对个人信息安全产生广泛影响,个人信息所有者面临数据安全防范风险。[9]还有学者认为在法学院校复合型人才的培养方面要加大力度,以解决智慧法院建设人才数量不足的问题[10]。

从对文献的分析来看,学者对智慧法院进行了广泛的研究,然而,现有的研究成果也存在以下问题。在对智慧法院整体内容阐释方面,现有的成果更多地集中于概念阐释、框架构建、要素分类、人才培育等方面,关注视角较为宏观和中观,缺乏微观视角的分析,尤其是对智慧法院伦理风险缺乏应有的关注,研究成果相对稀少。同时,国务院颁布的《新一代人工智能发展规划》指出,要重视人工智能法律伦理的基础理论问题研究。基于此,本文选取智慧法院伦理风险这一研究对象,通过对智慧法院伦理风险的表现样态进行诊断,进而提出风险化解的进路方略,助力实现“数字正义”的司法目标。

二 智慧法院伦理风险的表现样态

从智慧法院实际运行过程的角度考察,由于科学与技术本身的局限性,加上法院业务处理在由人向科技转向的过程中,智慧法院这一新模式将对原有的伦理秩序和价值标准产生巨大影响,滋生着一定的伦理风险。

(一)智慧法院技术运用容易导致司法公平风险

研究表明,司法公平风险更加倾向于出现在法官裁判的个案当中。智慧法院在案件裁判过程中,裁判者主要依赖于依靠电子卷宗自动编目、OCR图文识别、信息自动回填等技术采集而来的“数字化”案卷进行裁判活动[11]。智慧法院依托信息化技术在案件立案时转化而来的各类证据与电子化卷宗,极易因为转录过程中的失误或其他原因,进而导致个案发生公平风险。在智慧法院运行过程中,电子卷宗随案生成[6]和网上流转环节必须保证电子化卷宗与诉讼参与人在庭审中的实际参与保持完全一致,在后续的电子卷宗深度应用环节才能输出准确的裁判文书。但在实践运用中要使两者保持完全一致存在不确定性。尤其是采用在线诉讼方式时,诉讼参与人在庭审过程的事实调查环节,庭审效果会因为远程交流而受影响[12]。另外,智慧法庭的庭审记录往往通过录音转换智能系统自动生成开庭笔录,如果生成过程混入杂音导致文字识别发生错误,将会生成带有瑕疵的文书材料,进而在裁判过程中带来司法公平风险。

同时,智慧法院在运用过程中由于技术的“人性真空”[13]诱发歧视等公平风险。一方面,“数字弱势群体”在寻求权利救济时始终处于程序选择被限制的境界[14],这势必会为智慧法院建设带来挑战。另一方面,在应用基于人工智能的审判辅助系统、智慧法院“大脑”、司法大数据高效处理等技术时,由于人工智能存在算法“黑箱”的特征[15],研发人员的固有偏见可能会使智慧法院在运行过程中滋生由歧视带来的公平风险。换一个角度来看,基于前文的论述,即使自动编目、OCR图文识别、信息自动回填环节不出任何差错,但在使用智慧法院应用时加载了人工智能技术,算法偏见问题将不可避免地发生。以类案自动推送为例分析,推送列表的排序算法往往由开发人员决定,而在类案较多的情况下,法官在裁判时,大概率会选择查看排序在前的推送,非常容易在算法推送的情况下生成裁判结果。个体信息筛选排序的主体性和选择性逐步让渡给算法分发的被动性和工具性[16]。由于算法技术的“黑箱”特性,使得法官等司法人员不了解或者难以了解推送的背后逻辑,此种情况将滋生司法的公平风险。

(二)智慧法院技术运用容易诱发司法公正风险

智慧法院在运行过程之中,所有与案件有关的材料均已被数字化、技术化、应用化[17],同时,“物理的人”被替换成线上“虚拟的人”,人民法院被智慧赋能后,使得传统法院具备虚拟性、格式性、跨时空性,即使案件按照智慧法院的标准技术流程裁判是准确的,但“物理的人”的缺位,有可能会使诉讼参与人对人民法院价值的态度或者看法发生转变,容易诱发司法公正风险。智慧法院运行过程中“物理的人”的缺位可以概括为以下两种情形:第一种情况是当事人等诉讼参与人在智慧法院流程的引导下进行的参与诉讼等行为,有可能会因流程的虚拟性导致价值偏转;二是智慧法院视野下法官等司法人员在进行司法行为时,所面对的是技术化之后的案卷和“虚拟的当事人”,在生成裁判结果或是进行其他行为时,容易在某些方面缺乏考量进而在价值问题上发生偏向,进而引发司法公正风险。

在智慧法院运行过程中,与传统法院相似,解决当事人等诉讼参与人间的矛盾和纠纷是人民法院的最终目的[18]。但在智慧法院运行过程中,由于当事人等诉讼参与人的“物理空间”缺位,而导致其在起诉、应诉、上诉等环节与法官等司法人员不能进行充分的交流与沟通,容易滋生司法公正风险。智慧法院从传统的面对面的业务办理,转换成了通过技术语言来进行意见交换的“赛博”场域和数字化的司法空间。“生命存在的感性确定性与丰富性在数据模式操控的数字世界里被替换为冰冷单一的数据信息。”[19]传统法院司法人员与诉讼参与人之间的意见交换也同时包含情绪交换与态度交换,“人们通常认为人类处理问题的模式更为人性化,而算法处理模式更为机械化、无情感性”,[20]从法官等司法人员的角度来看,在办理婚姻、继承等涉公民亲密关系的案件时,过度使用技术流程,而忽略当事人的情绪与态度,可能会对案件所体现的价值造成错误判断。由此观之,诉讼参与人在在线法院进行意见表达的过程与在传统法院可能存在巨大差异,且法官等司法人员也会因为智慧法院的虚拟因素凸显而可能诱发潜在的司法公正风险。

(三)智慧法院技术运用容易滋生司法公开风险

智慧法院在实际运行过程中,需要运用到各类司法类应用程序,在涉及人工智能应用时,技术“黑箱”的存在不可避免,这可能会在案件或诉讼参与人员间产生司法公开风险。

一方面,在智慧法院关联主体与智慧法院技术运用之间可能发生司法公开风险。当事人可以通过人民法院在线服务平台在线参与调解、诉讼,智慧法院可以为人民群众提供更加优质、高效、便捷的司法服务,全业务网上办理、全流程依法公开、全方位智能服务的人民法院组织、建设、运行和管理形态正在形成。[21]智慧法院采用技术与应用,使人民法院数字化、智能化、智慧化。比如,重庆市法院系统采用了金融案件智能专审平台,[22]在智能类案推送和与智能有关的环节中,智能运转的自动化及不透明会带来一些技术伦理问题。[23]智慧法院运行过程之中所依赖的技术日益复杂,将导致一系列衍生问题的出现,如技术黑箱导致裁判结果的不可理解性、技术的符号性与数字性导致运行过程蒙蔽。从理论上说,技术赋能智慧法院的初衷是使裁判主体呈现相对客观和中立的一面,坚持以事实为根据,以法律为准绳。事实上,人民法院全流程的技术运用面临着智能化转向给既有民事诉讼制度带来的巨大挑战。人工智能的自主性随着技术发展而逐渐增强及其在智慧法院运行过程中的程度越来越深化,以及强人工智能具备“能够智能地行动”的特征,智慧法院关联主体与智慧法院技术之间的司法公开风险将随着技术运用的加深而逐渐强化。

另一方面,智慧法院关联主体与技术之间的司法公开风险将逐渐传导,进而使关联主体与人民法院之间滋生司法公开风险。《最高人民法院关于加快建设智慧法院的意见》指出,以信息化促进审判体系和审判能力现代化,努力让人民群众在每一个司法案件中感受到公平正义,落实到智慧法院设计与建构的全过程,就是要以满足人民的真正需求为目标,以人民为中心,在此基础上健全智慧法院体系。从实践的角度看,智慧法院虽然在司法效率提升方面做出了重大努力,但实现诉讼的实质化需要在智慧法院的构建过程中予以重点考虑。智慧法院的实现需要技术的赋能,在司法数据电子化、诉讼活动网络化、司法裁判智能化的全流程中,技术与应用大多藏于技术“黑箱”中,诉讼参与人甚至司法人员都会对其保有陌生感;同时在智慧法院运行过程中,司法文书在数字化生成与流转过程中极易发生泄漏风险。因此,智慧法院在审判的全过程如果不能使技术与应用可解释化、可视化,将使智慧法院关联主体与人民法院之间滋生司法公开风险。

三 智慧法院伦理风险的化解进路

智慧法院在运行过程中可能滋生公平、公正与公开等伦理风险,虽然全国智慧法院信息系统已经宣告建成,智慧法院的“硬环境”已经具备运行基础,但“软环境”的营造,尤其是防控可能滋生伦理风险的措施与手段还需进一步强化,化解伦理风险进路有待学界关注。

(一)宣教符合时代价值的技术伦理观念

个体对技术的观念直接影响其知识积累、技能培养、思维方式以及使用技术的动机[24]。个人和群体的价值观与世界观对于行动具有指引作用。为了化解智慧法院可能滋生的伦理风险,首先要从观念与意识上对智慧法院的关联主体进行宣教,提升司法人员、诉讼参与人、技术开发人员具备符合数智时代价值的技术伦理修养。

一方面,要对法官等司法人员和诉讼参与人进行技术运用的伦理宣教。我们已经分析了智慧法院技术运用过程可能出现的三类风险,可以知道是由于智慧法院运用的技术存在“黑箱”效应,导致相关后果的发生。破除此类现象的方法在于了解“黑箱”运作原理与方法,消除对技术的陌生感。可以采取的途径包括:对于司法人员,采用定期院内培训、考核、实操等方式掌握技术和应用的全流程,力求不漏盲点;对于诉讼参与人,要通过媒体宣传、短视频等方式进行引导,对于“数字弱势群体”甚至要安排专人手把手进行辅助操作,保证每位诉讼参与人都能够享受“数字正义”。另外,在宣教时要特别向智慧法院参与主体安排技术伦理与科技伦理的知识,通过通俗易懂、娓娓道来的方式将其灌输,使之对智慧法院报以包容的态度。另一方面,对于智慧法院的技术开发人员,也要定期进行技术伦理的宣教。技术开发人员对程序和应用的生成起着决定性作用,他们对程序运行的机理最为熟知,在应用开发过程中,要健全风险管控,防范和化解司法应用中可能产生的司法伦理风险。其次,对司法应用程序的开发要遵循可解释、可视化、全程透明的原则,以防陷入“黑箱”效应及在智慧法院运行过程中滋生伦理风险。

(二)制定智慧法院技术伦理的政策和法规

我们要秉持“治未病”的理念来规制智慧法院伦理风险的产生,关键要在《新一代人工智能发展规划》《最高人民法院关于规范和加强人工智能司法应用的意见》等政策的基础上制定智慧法院技术伦理的法律和规范,在操作上可以从以下两个方面展开。

一方面,要统筹制定政策与规范对智慧法院伦理风险进行规制。最高人民法院目前尚未出台针对智慧法院的专门性伦理规范,虽然已颁布了规制人工智能司法运用的意见,但是其中对伦理规制的条款还比较欠缺,无法从根本上控制智慧法院的伦理风险。因此,要进一步从宏观入手,在智慧法院技术体系架构的基础上,针对易发生伦理风险的节点进行有关技术伦理的政策和规范的制定。另外,制定的伦理政策与规范必须进行细化,使司法人员、诉讼参与人、技术开发人员有章可循,最大限度控制智慧法院伦理风险的发生。

另一方面,要对所制定的智慧法院技术伦理政策和规范进行定期评估。新技术的出现和法院面对的司法场景实时处于更新进程中,要顺应时代的发展,将政策的评估工作摆在重要的位置。要有针对性地按照实际情况对伦理政策和本级智慧法院的运行情况进行对照,并按照智慧法院技术伦理指标体系与评估指南,对智慧法院运行情况进行评估,分析政策发生偏向的成因,及时按照法院的层级将实际评估情况上报,努力创造更高水平的“数字正义”。

(三)开发符合司法伦理的智慧法院应用程序

《新一代人工智能发展规划》强调,必须高度重视人工智能等技术可能带来的冲击法律与社会伦理等问题,加强前瞻预防与约束引导,最大限度降低风险,确保安全、可靠、可控发展。智慧法院在技术运用过程中,越来越多的程序采用了人工智能技术,如类案推送、全案由裁判辅助、司法活动笔录自动生成、案件裁判偏离度预警等。在开发智慧法院应用程序时,必须将应用程序与伦理规范进行兼容。

一方面,在智慧法院技术体系架构的全流程纳入伦理规范。智慧法院在运行过程中可能滋生伦理风险,关键是伦理规范没有渗入整体技术架构。审判执行、诉讼服务、司法管理和服务社会治理作为目前智慧法院的关键节点,在针对这些节点搭建全局技术架构时,需要提前将各节点可能出现伦理风险的地方进行标记和厘定,在后续开发具体的应用程序时,技术人员能够一目了然清晰掌握并熟知伦理风险节点,将公平风险、公正风险、公开风险在全局上降低至低水平。

另一方面,在智慧法院技术与应用的具体研发时检测伦理合规性。在智慧法院司法应用开发结束后,需要按照伦理规范对其是否合规进行分析与测试。要组建智慧法院应用伦理合规委员会,对可能产生伦理风险的应用与程序采取“一票否决制”,杜绝进入实际运用。检测过程中,要将开发人员、司法人员、广大群众的意见全部纳入考虑范围。设立“智慧法院技术伦理指标体系”,作为智慧法院应用与程序开发的伦理考核标准与参照,对技术伦理进行全量化评价,从根本上杜绝智慧法院运行过程中可能滋生的三类司法风险。

四 结 语

研究表明,从实施质效来看,智慧法院在降低各类人员工作负担、提高司法效率、满足人民对高质量司法需求等方面发挥着重要作用,一定程度上提升了法院建设智能化水平和司法管理水平。从学者的研究中和智慧法院发挥的效用来看,它对司法效率的提升与人员负担的释放产生了正向效应。然而,不可否认其在某些作用的发挥方面还不尽人意,诱发着一定的司法伦理风险。我们应该加强事实认知,进行科学研判,强化伦理规约,寻求化解进路。惟其如此,才能进一步提升智慧法院的司法应用实效,促进审判体系与审判能力的现代化。