思危与守正:人工智能介入司法领域的路径依赖——以程序思维与技术认知为切入点

马军杰，李士得，杨 睿

(周口市中级人民法院,河南 周口 466000)

人工智能介入司法领域是时代的必然选择,在国家人工智能发展的战略号召下,我国司法机关纷纷引入人工智能技术服务审判,且有规模化部署的趋势。然而,人工智能在为司法带来便利的同时也带来了新问题, 如何清醒地看待人工智能介入司法的程度及优化的路径,便成为司法机关当下不可回避并亟须研究的课题。

一、观察:系统性述评

(一)科技发展与现代司法供需契合

社会复杂性衍生出诉讼递增与案件复杂性升级,案多人少一直是法院普遍面临的困境。立案登记制使案件数量井喷,员额制改革导致一线办案人员减少,更是加剧了人案矛盾。“正义被搁置等于正义被剥夺”表明审判迟延或积案将引起司法的非正义。司法效率无法实现,不仅是对司法程序的减损,更是对法律体系合法性的漠视。因此,司法效率问题就显得十分重要。同时,随着司法公开的逐步推进,群众对审判流程、裁判文书、庭审视频的实时查询也为外部监督提供了科技平台,正在消解司法权垄断的支配图景,由外而内倒逼审判活动高效性与精准性的提高。

人工智能作为科技“新贵”,模仿人类思维、意识过程的学习方式被认为是其拥有智能的根本途径。加以数据驱动,致力于替代人力或实现人所不能的技术创新,这与现代法治要求高度技术化的制度本质不谋而合。而人工智能的功能本质上也是将专家经验智慧以数据形式长久储存,并通过各种对数据的深度分析与智能运算，帮助人类更好地处理不确定性问题而变为众人的智慧。面对来自群众的利益诉求,基于对诉讼效率与公平成本的考虑,其高效作业的先天禀赋也切中了司法实用主义的脉搏,成为实现“及时正义”供给侧的技术创新。期待依托人工智能消解案件激增状态,并为法官办案、诉讼服务、司法治理提供实质性帮助,促进审判结构的现代化更新与重塑以及社会公正感知与司法权威的积累。

(二)智能技术的介入助力审判

目前而言,H省法院系统内部强力推动的人工智能技术,为提高审判质效开辟了新的途径，见表1。

表1 H省法院系统应用人工智能统计表

1.业务替代与案件分流

面对审判程序事务烦琐与人案矛盾突出的现状,以自动化技术实现纠纷化解与业务简化的双赢是其基本预设。首先，借助人工智能完成文书起草、信息查找等标准化、重复性事务，使法官聚力于案件审理,并以全天候回应式服务让群众从快速有效的事务办理中对司法改革有更多的获得感。其次,还利用人工智能改良立案关口,有效识别虚假诉讼,并在案件的智能筛选与繁简分流中追求法官判案效率的提高与司法解决纠纷的效益倍增。这也是改善审判渠道拥堵、防止审判资源浪费的有效手段。

2.完善法官知识架构与辅助审判质效提高

审判结果是群众获得司法公正感的来源。借助智能助手改善法官的思维和判断模式,带动裁判质量和效率与法官专业度提升、实现裁判最优应当是本轮改革的核心预设。从根本上讲,机器算法是被用来做出预测的。“美国威斯康星州早在2012年起就鼓励全州在法庭上使用 COMPAS系统对罪犯进行危险度评估为法官判刑提供参考。美国政治学家根据判例建立的最高法院的决策模型也比一组最高法院的专家更准确地预测了裁判结果。”[1]通过人格测评和“对不确定风险因素的分析进行罪犯受感化或暴力再犯倾向等前瞻性裁决预测”为裁判适当性提供数据支持,也可弥补我国强制医疗程序中证明标准等程序性保障手段的缺失。而智能法律论证从单一性论证逐步发展为多种推理模型结合的深度学习术建模来提升预测准确性(见表2),则是以相对统一的推理、评价标准为法官提供裁判参考,并在裁判偏离度分析、预警中发挥数据监管促进裁判公正的正效应。

表2 法律推理智能技术发展

此外,借助“人工智能助手”海量专业性数据储备,在面对复杂的科学或技术问题时为法官提供明确、有效的指引(如图1),也可防止因经验认知的有限性而引发片面评判,进而促使法律真实趋近于客观真实。而根据完整证据链进行证据标准建模,通过对全案证据合法性、证据印证逻辑、不可采信情形等因素的智能校验来实现对证据瑕疵与矛盾的智能识别与补正指引,也是防范冤假错案的有效手段。

图1 证成科学证据的算法建模思路

最终,以提取有效信息、梳理待审事实、总结审判经验、推送相关信息一体化所构筑的案情导图(见图2)将极大压缩法官审阅卷宗材料的时间成本,并可以第三方视角帮助法官跳出法理学因果分析的思维定式,弥补因法官信息疏漏或思维局限引起审判瑕疵。在对判决结论的动态校正中也促进了审判人员完整知识体系的构架和实务经验的积累。

图2 案情思维导图脉络模板

3.智能化管控规范审判行为

面对审判活动所生成的大数据,审判管理往往很难单凭人力监督完成。智能系统的应用使审判活动趋近于“标准化”行事,并提供了同等条件下的资源利用,可以无差异的评价标准与程序对审判行为进行测评。且有可能将自己的输出自动地转化为监管行为。因此,寻求“智能”监督规则内嵌成为规制司法进行审判管理的新“武器”,似乎也是人工智能保障审判质效的一个合乎逻辑的预设。通过设立风险评查点,实现审判信息质量、程序操作从“面”到“点”的智能化监督,及时进行信息纠错与行为预警反馈,使管控的及时性、准确性和全面性成为可能。

二、思危:人工智能+审判的技术效应畸化可能

智能技术可有效缓解司法程序与人力缺陷造成的审判瓶颈,使各地法院蓄势待发。但贝勒斯的诉讼成本理论表示“倘若有人只想使直接成本最小化,则错误成本可能升得很高”[2]。而技术效用的不确定性本身也是一种风险,在效率的极力推崇下更易因盲目扩张引发过热隐患。

(一)技术依赖致审判程序畸形与主体异化

智能技术带来审判活动的专业化与效率性提升是毋庸置疑的。但有效性主要是工具性的,而合法性是评价性的。在偏重实体结果的司法传统下,一味求快的智能化强势推行可能引起人为压缩甚至裁剪程序空间,仅借助智能手段达成裁决外观。但“正确之法”取决于“理想对话情景”中所产生的合意。相对于实体正义因评判标准不确定而难以衡量,以利害关系者的实质参与和程序保障为核心要义的程序正义获得了前所未有的珍视与推崇,并在驯化与规束司法者与当事人方面发挥着重要作用。而过度追求审判程序过简化与经济化将削弱参与者的公正感知,违背诉讼规律也将引发对裁判结果公正性的质疑。

同时,人工智能从简单的数据提取到完成关系分析、模拟决策等智能型技术可为法官判案提供全面的外脑支持,避免个人意思表示的自动化运算也被认为可更好地替代个人决策。但审判活动是一项讲究自由心证的判断活动,法官也是以经验法则、逻辑推理在司法审判中的不断运用来提升其审判能力。非理性地遵从数据驱动式决策容易形成“运算替代经验”的误区,即“事实和法律经法官剪裁和取舍用以证成数据博弈的最终结论”的本末倒置,使判决决策轨迹让步于机器的“精准”评估(如图3)。同时,技术依赖使法官成为机器输出的“纯粹代笔者”也将降低法官运用自身经验、逻辑推理对各种证据与矛盾进行分析取舍的能力,形成判断力不断弱化的恶性循环。另外,司法责任制要求司法正义的实现最终需要有权责统一的司法主体作为承担者,当决策依赖人工智能输出却有违公正时,也难以在现有法制中准确找到责任承担人,使严格司法无法落实。

图3 审判程序与主体的异化演变

(二)偏信评价导致地位失衡与裁判失正

数据决策带来结论的确定性与统一性,并帮助法官做出决定。如前述 COMPAS系统就因其算法无个人主观性介入而大受推崇。但不可否认的是，被测评人将被机器异化为数据客体进行优劣定位。这将与公平程序原则下保障诉讼(控辩)双方享有平等的诉讼立场相悖。同时,侧重相关性的智能运算在实际运用中演化为主导决策产出的角色错位,因逆向逻辑的法律适用可能造成裁判的明显失准。“如一名盗窃车辆者经 COMPAS评估为高危险性后被法官判处八年有期徒刑。又基于复杂算法而无法对结论进行直观解释来获得认可将引发裁判异议。在对该软件的逐渐运用中甚至发现,其虽无与种族相关的提问,但在结论产出中却具有了种族歧视倾向。而在对罪犯的后续跟踪中,其以个人数据、与类似的人进行关联性分析等概括性断言的再犯预测也被验证出其正确率仅为20%。”[1]

人工智能可在一定程度上矫正案件决策受人性主观影响造成的公正性偏颇,但也具有软件所固有的编程偏差与运算错误。当因使用偏离最初设计等不可知的机器故障以及因“伪数据”与采集不周的的输入错误等造成对事实或条件的错误分析时,将可能引起决策公正的偏离。同时,具体个案之间迥异、“开放结构”的法律概念及参与人文价值的司法解释也使法律规则和案件之间不存在单一的逻辑对应关系。排除了对社会因素与人文价值考量的封闭式推理，也可能引起结果的反人文性,而当被法官无条件采信时将引发公平成本恶化与正义的流产。

(三)技术自动化造成司法场域弱化

法院裁判往往关乎当事人较为重视的某项权益,其目的不仅仅是为了惩罚,更重要的是在理性与威严中解决纠纷和冲突。法学家阿诺德(Arnold)说：“审判如同古代的神迹或寓言剧,他们能剧场化地表达一个社会中不同价值的冲突,这是形式逻辑无法做到的。”[3]审判活动作为一种司法艺术,也具有相对特殊的场域。而法的观念也是人类之观念。人工智能可与人类认知以某些基本相似的方式处理信息并表现出超过人类决策的优越性,但过度追求技术替代可能引发技术迷信,导致所谓审判成为在一系列自助操作下基于对证据的逻辑演算后胜负结果的输出。面对冰冷机器的明法析理,“司法傲慢”演变为法律形式主义下的“自动售货机”,剥夺了当事人的知情权与选择选,也因失去发泄心理不满或寻求倾诉及心理治疗的情境而削弱了审判的参与感。马克思主义实践哲学视域中的社会学认为,人应该是一切制度、行为的出发点和归宿。同时,俄勒冈州最高法院的一位法官也提出了一项针对测谎仪的“人格”论点，表示当事人应该被视为“被同行相信或不相信的人,而不是被机器认定为真实或虚假的电化学系统”[4]。

法治的实现程度往往与司法信仰息息相关。若人工智能从促进司法正义的道路异化为达成司法决策的主体,将有违当前司法改革以审判为中心的核心要义,并可能形成不负责任的电脑霸主形象，使司法仪式感式微,司法信仰削弱引起基于公正的敬畏感荡然无存,也极有可能使审判陷入“塔西佗陷阱”。

三、守正:以审判为中心的宏观思维规划

面对人工智能应用可能引起的风险,相对于因技术担忧而放弃机制更新,通过制度措施防止技术驯化陷阱显然是更好的选择,这也是科技时代下的必然选择。因此,协调技术与司法复杂关系的因应性顶层设计是效用守正的先决要题。

(一)法官本位:理顺工具性与人文性的主客之序

智慧法院建设应是通过技术深度发掘法官智慧，并使之得以沉淀而更好地反哺于司法公正的新型审判机制构建,仅以技术促进发展的方法通常是不正确的。而正义是法的首要价值,正确的判决也是建立在其解释力和现实符合性之上的。首先，个案正义仍需要法官在心证事实与法律推理的基础上，结合具体案件“环境”进行柔性调和来化解纠纷而实现。情理结合的经验理性在审判过程中具有不可摒弃的地位,而这是机械运算与机器学习难以实现的。机器智能与人类理性更多的是相互支持的合作共赢,而不是取代与被取代的零和关系。在以还原法官审判主体地位为核心的本轮司法改革中,机器运算只是辅助事实阐明的工具,并构成法官正义判断的若干推论之一,而非取代法官或授权裁判。其次,科学本身永远无法“做出”决策,智能系统运算目标的创设以及监督也仍是由人掌控,所以，人工智能以无主观意识的模型运算与数据分析参与到审判活动中应是提供裁判信息指引与公平性矫正的辅助性工具,促进司法经验的“整体性”构建,并在决策“矫正”中潜化法官思维规则以提高法官专业能力。而法官以法律规定为大前提,借以智能技术完成对事实的客观评价,以平等保护为原则,加之社会政策、伦理人文等价值性取舍进行惩罚犯罪与保障人权等关系的调整,最终做出符合社会公序良俗的最佳利益分配方案从而化解矛盾,才是智能司法的核心要义,也确保了裁判的最终责任仍然是法官而不是计算机。

(二)程序为纲:确保审判活动程序性权利完整供给

审判活动具有剥夺个人自由权益或财产权利的功能属性。在诉讼两造对抗的基本格局中,司法程序是裁判者遵循既有审判架构与程序规则为各方参与者提供一个平等表达利益诉求与优劣争论的平台。以制度化的纠纷解决过程保障行为正当,也是实现司法公正、累积司法公信力不可或缺的制度安排或技术装置。对审判活动效率性与简洁性的追求不应以损害司法程序性结构为代价。同样,对科技手段的追求也不能忽视程序正当的初衷。不仅体现了对人之尊严的捍卫,更是对司法公正的仪式性宣示。尽管不能确保实体正义的必然实现,但是能够最大化地保障司法程序参与者程序性权利的有效行使,进而以裁判的正当性与合法性产出促进裁判结果的可接受性,使矛盾纠纷得到实质性化解。所以,在涉及确保效率和公平的困难任务时,应把司法公正的提升与对当事人诉讼权利与实体权利的保护放在价值导向的优先位置,秉持庭审实质化改革,构筑一个诉讼(控辩)双方实质性平等对抗的司法场域,来保障程序参与权的充分行使与当事人意愿的充分表达。

(三)协同发展:需求导向下制度与技术的互助互制

制度是一种确立行动者身份认同的程序或规则框架,制约并塑造了行动者的行为路径与选择。人类作为组织场域中的能动者又能对规则系统进行变革以适应技术的发展。而技术则作为实现一定目的的物质性结构体,因嵌入不同组织结构而被制度安排形塑其应用形态,并有赖于制度安排发挥最大效用。但与新技术匹配的制度安排又可能影响到原有的角色期望和职位安排,进而触发制度或组织结构的变革。基于三者间的动态互联,如同不会统筹协调的政府大多会出现治理失效,开启司法智能时代的重要密匙也应是基于人、制度与技术组成的系统性思考(见图4)。以用户需求(包括审判人员与诉讼参与人)为导向进行智能技术的有的放矢;以制度弹性提升技术效益,以制度刚性规范技术使用,防止审判程序销蚀与主体的弱化。而智能系统也在与用户的数据交互中实现算法框架的实时矫正与优化,形成数据资源持续完善、质量进阶优化、分析能力不断提升的智能体系,并以技术效能撬动制度与组织结构变革。同时,其运算结论的产出也将在潜移默化中对审判人员思维逻辑进行积累与完善。技术与制度、组织在创新与试错的动态过程中实现渐进融合,而在技术、用户与制度的协同互构中使彼此进入渐进优化的良性循环轨道,也应是司法智能化实现纵深发展的关键。

图4 智能技术与审判互助

四、优化:以技术效用为核心的技术完善与制度安排

人工智能服务审判的技术创新并非对我国司法组织体制的替代和颠覆,而是遵循现有程序结构,围绕审判流程进行技术链部署来开辟新空间或加速带,以内嵌式流程优化来实现敏捷服务与公正裁决的正向交互(如图5)。面向未来时代技术规范,还应以人工智能的效用实质为导向优化操作层面，促进规范调整以探求技术效益的最大化。

图5 以审判流程为主干的智能技术应用

(一)前端设计:以用户便利与当事人权益为考量

实现智慧法院理想转型的技术应用不能忽略审判活动的服务本质——以提供便捷、优质以及人性化的诉讼服务为价值导向。便利性应是衡量智能系统质量高低的重要标准。

首先，在技术设计上,作为提供审判服务的一站式“诉讼超市”,应设计“一键应答”的扁平式菜单、设置悬浮窗口,实现便利答疑。借助各种技术驱动为数据填入提供快捷方式,如扫描输入、语音识别、环节自动同步等。防止因菜单层级复杂与操作烦琐引起用户抵触。其次,需保持人工、机器两条线服务模式。一是解决群众对智能系统操作水平参差不齐的社会实际,并使群众保有接受智能服务的选择权。二是保证了即使关闭所有的智能系统,法院也具有维持审判活动运行的基本能力,而避免落入智能化陷阱。最后，实际诉讼中,当事人在物质基础、诉讼能力、信息占有等方面往往存在差异,公正也并非仅通过形式上保证当事人之间的程序平等就能实现。因此,还需依托人工智能对用户诉讼行为进行深度分析后提供瞄准型“法律顾问”。以精准推送相似案例、量身定制疑问清单、提供风险评估与诉状生成等定向施策使当事人摆脱诉讼客体的被动感,并对可能适用司法救助、法律援助等司法服务的当事人推送申请入口。在诉讼资源差距的趋近中促进当事人之间实质上的诉权平等。

此外,诉的本质是调节社会中各主体间利益关系。基于对诉讼成本与风险规避的考虑,大多数当事人都更倾向于在他们对案件价值的估计下选择和解的确定性,而非诉讼风险。因此,理论上只要双方就金额达成一致,案件就有可能达成和解。借助人工智能对案件价值进行评估,并在对相似案例进行调解成功或失败的因素分析下生成的调解方案可能促使各方迅速达成协议。程序内共识达成的理想化利益妥协将推动审前程序对争议的有效解决,也减少了不必要的审判。

(二)基座盘亘:夯实数据集成与规范技术应用

首先，机器运算有赖于数据发挥基础性作用——在有限的数据里集中提取相关信息或进行决策,消除了个人价值介入可能导致的决策不平等,并依靠结论反馈的算法训练来提高结果准确性与可靠性。而“过度拟合”现象表明数据样本越少,越有可能得出错误推论,因为这些数据集实际上可能并没有反映真实的生活。因此,要确保运算准确,在矫正数据偏差的同时,实现数据共享集成的起点工程不可偏废。如“澳大利亚、荷兰、苏格兰的司法审判支持系统已实现判决数据的全球联网来进行个案事实与类似判例的比较”[5]。目前，我国部分法院也已实现与社会相关单位建立信息共享与业务协同。在实名登记制的推进下,诉讼参与人提供给法院的个人数据也将造成元数据的巨量积累并降低交叉分析的难度。为了避免因人为输入或数据质量引起的决策错误,应开发数据监测软件实现对数据完整性与准确性的测试与修补。同时,对内需加强对业务数据的录入监管,并规范文书标准化书写来促进机器解构与挖掘信息准确度的实质性提高。对外则建议实行信用评分制,并对信用较低的信息将不作为运算基础数据源,仅用于相关信息参考,并做出警示。此外,因法律规范与社会变动出现样本数据和现实之间的时间差也很重要,所以还需要注意数据与算法的及时更新来确保其实用性。

其次,运算的准确性与公正性取决于系统的运行情况。但智能算法无法预测模型或算法在“现实世界”中的表现,并因其难以被直观理解的复杂性以及难以被发现的编码歧视而具有风险,可能给予某些特定人群优惠或不利的歧视性结果。为防止期望目的落空,需要对基础运算方法、信息支持数据来源、变量、调优参数等框架规则进行披露,便于检查是否存在可疑的歧视性变量,对数据错误率以及量化标准进行“有益批评”。还可通过决策查控来发现系统隐藏的偏见和错误。如通过与相似案例的预测结论进行对比,以数组随机案件或假设包含可能具歧视特征的案情进行对比是否产生偏见性结果差异,并以此推断机器的歧视性意图,以及通过设置不同“评估指标”测试机器学习性能等。

一位研究数据科学的学者表示“不透明会导致一种不公平的感觉”[6]。而机器学习的“黑箱”本质将必然会引发非法的、不透明的谴责。在欧洲,一般的数据保护条例禁止公民在对具有法律上或同样重大影响的事项仅基于自动处理的情况下做出决定。即绝对禁止以自动化的算法决策对当事人权益进行剥夺。因此,无论数据源是否能经受住可靠性的考验,奉行技术民主原则也是必要的:对法官而言,介入自身经验进行现实权衡与合理性判断的自由裁量权不可被剥夺。对当事人而言,对涉及其利益并影响最终裁判的运算输出进行预先“披露”说明,并通过证明程序偏见或数据能力不足、来源不诚实以及案情与数据具有巨大情势差异等保有对结论“弹劾”权也是必要的。这是对道德司法的回应,也是对抗主义下“除了保护决策的准确性外,应该保护系统的感觉和公平的外观”[7]的技术性外延。一方面测试了技术的可靠性,另一方面也以问责制和透明度保障了裁判公正与合法性的被认可,成为推进人工智能技术发展的制度保证。

(三)智序之治:推进法制结构与技术发展的耦合

在理论和制度的创新中实现技术与既有制度结构间的互动调整,是在技术的横向功能扩权与纵向监督收权中对司法效率与秩序的兼顾,也决定了技术改革的最终绩效。

1.审判行为与职能标准化规范

智能化带来行为的全过程留痕使得建立审判全流程监督和一站式效能监察的综合监控平台，对审判活动的每一行为、政策的目录式、动态化检测成为可能。加以绩效导向跟踪与问责,形成技术在司法管理中对业务提升的“强刺激”,引导审判行为在制度的轨道上向着“善治”的目标运行。而技术介入还应根据用户性质进行系统内外的区分分配,并尽可能尊重各部门的独立性,实现审判组织与监督组织区分授权。以系统功能的职权标准化防止因权限混同造成监督部门依智能决策输出影响法官裁判,审判组织越矩后台“刷数据”妨碍绩效管理的技术滥用。

2.制度的有度剪裁与有效吸纳

智能应用需受到程序法规的约束,司法体制适应新的工作方式也是一个组织内部复杂的微观过程。在现有法治弹性允许范围内引入技术是创新转型的首选。但智能技术对人力的替代或决策的被委托不可避免地将对传统审判架构产生冲击或造成法律权利的“违规”转移。为避免技术应用抵牾核心法律基础,对其适用范围与操作授权的预先界定是保持对技术最终控制的必要手段。同时,制度选择的实质应不仅重视对风险的控制,更应是基于效用的决策。因此,当智能技术在实施中呈现出较之现有法制更利于公正实现时,制度应服从于技术的安排,转变为技术协同架构为技术的合法性使用扫清障碍。即通过政策、立法赋予人工智能合法性地位,借助立法完善技术构想与应用的落实,并最终使其成为法治环境中的固有要素产生技术刚性的制约作用。以技术刚性与司法理性的融合进行制度革新或体制结构优化,使技术治理的正效应得以充分释放,这也是维护法治权威的另一做法。

五、结语

人工智能只是司法机关作为推进以审判为中心诉讼制度改革和法院信息化建设的一个审判辅助手段。为避免人工智能介入司法领域偏离轨道,可依托司法程序刚性，时刻提示审判人员对技术应用保持警觉意识和谨慎态度。而对技术细节的人性化设计与制度的因应性规范也应是控制效能偏差的必要思虑。由此,以程序理念与技术本质作为规制智能技术服务司法的路径来触发司法智能化的有序绽放,也不失一种完善之道。