智慧司法中技术依赖的隐忧及应对

文/张凌寒

技术创新驱动了社会生产与生活方式的变革，也给司法领域带来了革命性改变。我国的智慧警务、智慧司法、智慧检务等重大建设方案也纷纷出台落地，人工智能技术在其中扮演了核心角色并发挥了重要作用。

人工智能技术起到的作用大致可以分为以下两类：一类是信息收集与管理技术，旨在实现司法业务相关信息的收集工作，并促进信息在司法环节中的顺畅流转；另一类是信息处理技术，旨在应用人工智能技术实质性地处理法律案件。我国偏重第二类的信息处理技术，因此，国家积极推进智慧检务、智慧司法等涉及司法实务各个流程的制度建设，提出了“全流程网上办案”并积极研发“数据＋算法”的司法辅助系统。

但是，在司法裁判中对信息量与处理速度的过度追求，可能造成司法裁判中的信息过载、司法决策权力让渡给算法决策系统、司法机关过度依赖技术公司等一系列问题。这些新问题对现有司法制度中的正当程序、权力专属原则等提出了挑战，如何在智慧司法如火如荼的建设中规避与应对此类问题，将成为人工智能时代必须解决的重要课题。

从技术辅助到技术主导：人工智能驱动下的智慧司法变革

在智慧司法建设中，对司法系统影响最大的技术应用方式与逻辑可从三个方面展开：事关法律事实认定的证据收集与采信，有关司法决策的决策辅助系统，以及以技术主导为理念的司法系统改造工程。在国家大力推进的智慧司法系统建设中，技术的影响从辅助逐渐走向主导。

（一）证据运用中的技术应用

在智慧司法中，有关证据的收集、存证和采信的技术应用构成了技术影响从辅助转向主导的起点。第一，在证据收集中，技术手段深刻改变了证据信息收集的方式、时间节点与收集对象。第二，在存证过程中，电子证据的大量增加及其在证明案件事实中的作用日益重要，使得“区块链存证”成为证据保存的重要制度。第三，在证据采信中，为了使计算机系统识别出案件要素与证据标准，从而进行自动关联匹配，“证据标准数据化”成为智慧司法的基础性环节。

（二）具体司法决策中的技术支持

通过技术支持法官的日常工作与司法决策，减轻法官的事务性工作负担，提高司法效率，一直是智慧司法建设的核心价值目标。对司法决策的技术支持，也从发挥简单的办公便利辅助功能逐渐深入到对法官的决策产生实质性影响。

首先，技术将法官从行政事务中解放出来。2016年发布的《最高人民法院信息化建设五年发展规划（2016—2020）》的核心目标之一就是利用信息系统和智能化服务，将法官从大量具体、繁琐的事务中解放出来，提升法官的司法能力。

其次，技术系统为法官提供决策支持。最高人民法院提出，要建设基于大数据智能服务的审判支持系统，实现“部分法院基于人工智能、虚拟现实完善审判支持系统，实现审判支持精准化、高效化”。

最后，在某些司法场景中技术系统直接取代了人类的决策。《人民法院信息化建设五年发展规划（2019—2023）》中规定，“需要构建大数据分析系统……，为人民群众提供司法公开和类案智能推送、诉讼结果预判等诉讼服务智能服务，为审判执行提供决策支持和监控预警智能服务，为司法管理提供司法研究和工作评估智能服务”。

（三）智慧司法系统建设中的技术主导

技术系统不仅是提高效率提供便利的工具，更是从深层次推动了治理能力现代化中的司法制度改革。这种技术对司法系统建设的深度影响体现在具体技术应用、司法技术系统建设等层面，同时对传统法律制度提出了不容忽视的挑战。

首先，以具体技术应用中最为常见的类案推送为例，其已经从技术辅助系统升格为最高人民法院对法官的制度性要求。最高人民法院构建了跨层级、跨地域、跨部门、跨业务的“大数据管理和服务平台”，法官和普通公众可以利用其智能推送功能，从该平台海量裁判文书中搜索出相类似的案件材料。

其次，通过司法平台化建设对司法系统进行全面升级与改造本身就是智慧司法建设的目标。国务院印发的《新一代人工智能发展规划》明确“智慧法庭”建设要平台化，将线下工作搬到线上，实现司法任务执行网络化、可视化和平台化。

（d）变更：当用户的分配部门或岗位、密级等其他信息发生变化后，系统管理员在权威数据源中对用户信息进行修改和更新，然后通过（b）、（c）两个步骤将用户信息同步至统一用户身份库，然后由统一用户身份管理系统统一更新并同步该用户关联的其他信息系统中的账户信息。

在技术建设的推进下，司法公开、公正、透明等价值得到凸显与放大，传统的司法制度也面临着变革。一方面，技术推动司法公开达到前所未有的水平，人民法院在裁判文书公开、庭审公开、审判流程公开和执行信息公开领域建设了四大公开平台。另一方面，传统司法制度面临着技术变革带来的挑战，这已成为制约智慧法院建设的瓶颈因素。

综上所述，在智慧司法中本为辅助司法流程开发的技术应用，最终却引发了技术主导下的司法制度变革。那么，在技术主导下的司法制度深刻变革中，智慧司法建设存在哪些隐忧与挑战呢？

从技术主导到技术依赖：智慧司法中技术应用的挑战与隐忧

在技术介入司法的过程中，司法决策与智慧司法系统建设可能产生技术依赖。这种具体司法决策中人对技术的依赖和系统建设中司法机关对技术公司的依赖，可能给权力专属原则、司法监督制度和责任分配制度带来挑战。

（一）从技术主导到技术依赖：技术介入司法的挑战

技术依赖既是指在具体的司法决策中个体对技术支持的依赖，也是指司法机关在智慧司法建设中困于自身技术力量，不可避免产生的对技术公司的依赖。

首先，在司法决策中产生技术依赖。传统的司法组织和法官的判断力及其威权在技术控制中逐步下降，人（司法机关）与技术的关系从技术辅助走向技术主导，并有可能继续滑向技术依赖。技术系统架构下僵化的信息种类、模式与评价指标必然导致信息多样化受损，灵活的人类决策模式逐步被替代。同时，追求类案同判与降低自由裁量权的制度目标，必然使司法决策变得可预期、普遍化与系统化，这进一步加大了推翻机器决策的难度。

其次，在平台系统建设中产生技术依赖。司法机关不仅需要从技术公司购买技术，还需要技术公司长期提供技术以对相关系统进行维护和改造。技术公司为了垄断相关技术领域，会以涉及商业秘密为由拒绝将技术开源或者公布，这会进一步强化这种依赖关系。

（二）智慧司法中技术依赖带来的隐忧

具体决策和系统建设中的技术依赖，可能导致以下问题：

第一，技术对司法专属原则的挑战引发正当性难题。庞大的司法信息化市场使得技术公司有动机批评传统的人类审判模式，推销自身的“精准、公开、高效”的技术替代方案。平台系统建设的政策驱动带来相关科技市场的繁荣，但不可避免地以将自由裁量与解释法律的权力部分地交给技术系统（公司）为代价。

第二，判定标准与程序的缺失导致监督难题。既往针对人类法官的司法决策监督机制和程序遭遇了前所未有的挑战。智慧司法中技术系统的输出结果直接关系到法律事实认定与司法裁判结果，但缺乏具有公信力的、统一的技术标准。与此同时，监督检测智慧司法中技术系统的程序也尚未建立，这使得算法系统决策的准确率无法保证，一旦出错可能造成无法挽回的损失。

第三，责任链条分配产生追责难题。首先，人工智能技术系统的开发和运行通常是在复杂和动态的环境中进行的，当发生错误决策时，如何在复杂的责任链条中认定责任与分配责任？其次，人类法官和机器混合作出决策将逐渐成为未来司法的常态。审判责任分配的第一种方式是完全让法官承担责任，这个方式必然会引发法官对技术系统的不信任；第二种方式是完全由人工智能的设计者或者生产者承担责任，这极有可能导致司法机关对人工智能技术的滥用。最后，多个技术叠加于某个系统、多环节技术系统互动已经成为智慧司法的常态，在技术之间出现交互错误时，难以勘定与及时更正，追究责任更是难上加难。

应对技术依赖的理念与制度：勘定技术嵌入司法权力的边界

人工智能时代的人机关系并非新的命题，但基于司法活动在人类社会中的定分止争作用与在权力体系中的地位，技术介入司法活动应更为谨慎。对于智慧司法中的人机分工，可从以下三个层次讨论：

（一）控制机制：司法裁判相关信息的准入与流出

当信息技术触及司法领域，需要受到司法活动自身规律的限制，智慧司法应当在信息的质与量上都进行合理的控制。否则，智慧司法将面临大量的信息噪声和信息失真现象，最终难以从纷繁的信息数据中提取真正有益的信息。

司法裁判依赖的信息包括两大类：一是有关案件本身的信息；二是为司法裁判决策提供支持的“类案”信息。这两大类信息均应贯彻“信息准入”的理念。第一，在司法裁判中，有关案件本身的信息对法律事实认定与司法决策生成至关重要，因此，在智慧司法阶段仍然要坚持“信息准入制度”。第二，对类案检索的支持系统也需进行质与量的控制，总量多与有意义的案件数量足够多并无必然联系，进行量的控制可避免司法效率的降低。

从司法领域流出的信息并非越多越好，要受到司法规律和特点的限制，要从公开范围和信息种类的层面合理控制信息流出。第一，司法信息公开的原则是尊重司法规律与法官尊严。具体而言，一是要尊重法庭尊严，控制司法信息流出的范围；二是要保障法官主体性地位，控制司法信息公开的种类。第二，司法信息公开的底线是尊重司法伦理与保护当事人权益。司法信息公开的尺度需在司法公开与尊重法官主体性和当事人权益之间找到平衡，既不得影响法官独立、公正行使审判权，也不得过分暴露当事人的隐私及个人信息。

（二）司法决策：人类“算法”与机器算法的合理分工

一个具体司法决策并不是人类决策和机器决策的简单加合，而是有机混合的系统化结果。人类算法与机器算法的合理分工，意味着具体司法决策可兼顾司法的公平、效率、灵活、人文关怀等价值，并避免人类决策和机器决策的弊端。

在外部制度构建上，需要在具体司法决策中避免人类对机器决策的技术依赖，将具体司法决策看作整体社会系统的一部分，而非单纯的人类与算法决策的关系问题。第一，智慧司法的技术系统设计需注重信息收集的多样化，避免信息减损影响决策质量。第二，智慧司法的技术系统需重视人文主义的设计理念，充分发挥人的主体性作用，以规避技术系统可能带来的机械化偏差。第三，智慧司法的技术系统需注重架构设计与更新频次，其一是注重智慧司法系统中法官与技术系统互动的架构设计，其二是智慧司法的技术系统必须强制更新。

在内部合理分工上，需从人机混合决策系统的合理标准出发，设置鼓励人类参与的责任框架体系和合理的事后责任追究制度。第一，合理的人机混合决策标准是人类与算法各司其职，而非“人在环中”（human in loop）。第二，设置鼓励人类参与的司法责任追究制度，保留人在算法决策中的参与，以回应社会对于自动化决策的担忧。

（三）系统建设：谨慎应对技术权力与司法权力的共建

在智慧司法的制度建设中，应谨慎应对技术权力与司法权力的共建，在智慧司法系统谋求高质量技术支持的同时，增强司法机关对技术权力的掌控能力，避免司法系统对技术公司的技术依赖。

要增强司法系统的技术掌控能力。避免智慧司法系统建设的技术依赖，需要突出强调司法机关在与技术资本合作中的相对独立性和主导性。第一，要抑制司法机构的惰性，避免将智慧司法建设简单地全盘外包给各类技术公司。第二，应强化司法部门技术能力，使得司法部门能够对司法系统与技术公司的合作关系事宜作出合理判断，避免智慧司法系统建设被算法绑架、被技术公司控制。第三，智慧司法建设应构建技术标准体系，并建立详细的采购程序来对其进行控制。

要明晰智慧司法的责任链条。要防止无责任的权力和无代价的技术，贯彻司法问责制等传统制度，进而维持司法系统的稳定和秩序，避免过于强调效率、利益的智慧司法系统对司法责任制的冲击。第一，将智慧司法技术系统的研发者、设计者、维护者共同纳入司法问责的体系中，通过研发者责任、设计伦理等将其共同纳入司法责任的治理框架中。第二，在人机混合决策中分配责任，明确技术系统与人类共同的司法责任，避免动因迁移（agentic shift）使技术成为人类推卸责任的对象。

结语

技术嵌入司法系统必须有明确的权力边界，以避免技术依赖的产生。技术嵌入司法系统，既要避免混淆技术处理海量信息的边界，有效筛选对于司法有意义的信息，控制司法信息的流出与流入；又要在人类和机器之间合理分工，明确人类与机器决策之所长，充分利用各自的决策优势而规避其劣势。除此之外，还要警惕技术公司、技术资本对司法权力的侵蚀，增强司法系统对于技术权力的掌控能力，并合理进行司法责任的分配。