民事司法智能化：应用风险的思考与分析

2024-05-10张卫平

法治社会 2024年1期

张卫平

内容提要：智能化技术在司法领域的运用并非都是正向的、积极的，也存在负面的、消极的一面。司法智能化应用中存在的风险就反映了其消极的一面。司法智能化应用中的风险包括：司法亲历性的疏远、算法司法对司法公正的消极影响、司法过程中大数据滥用对个人权利的侵害、司法过程监督机能的弱化、司法行政化的强化等。对风险产生原因、后果的充分认识将有助于人们采取相应的措施预防和降低风险的发生。

话题的提起

众所周知，人工智能在司法领域中的应用有助于提高司法效率和司法水平。但另一方面，我们也应该意识到，无论何种技术作为人们实现某种目的的工具，在使用中都必然存在一定的风险。只有充分地认识其风险，才能采取相应的措施预防或抑制风险。司法智能化技术的应用也是如此，如果我们能够充分认识司法智能化运用中存在的风险，将有助于我们在运用人工智能相关技术（包括大数据、算法等）的过程中尽量消除或避免这些风险。

人们所谓的“风险” 通常是指事物或制度中可能具有的负面作用或影响，一般是对人为的某一事物实际存在的过程中产生的某些超出人们预期的作用，而这些作用往往是消极的，非人们所期待的作用。当然，也有人将风险与收益联系起来。从风险与收益的辩证关系角度看，风险未必一定是消极的。本文对风险的认识仅仅是从消极后果来看待，而非基于风险的辩证视角。至少，笔者对风险的认识是基于消极与防范的角度来认识的。对于技术的应用而言，对于这些作用的消极性的判断根据是看技术的应用是否有悖于制度的目的，如果该技术的运用有悖于制度的目的，则这些作用就是消极的，就是一种风险。①关于科技对社会所带来的风险，参见刘松涛、刘晓青：《科技风险的社会转化及其规避》，载《当代中国价值观研究》 2016年第5 期，第114-122 页；艾志强、沈元军：《科技风险伦理困境的规避途径及其调节机制》，载《科技管理研究》 2014年第14 期，第242-245 页。风险意味着一个事件产生我们所不希望的后果的可能性，或者是某一特定危险情况发生的可能性和后果的组合。从广义上讲，只要某一事件的发生存在着两种或两种以上的可能性，如果这些可能性有其不确定性，那么就认为该事件存在着风险。一般认为，风险具有客观性、普遍性、可识别性、可控性、损失性、不确定性。所谓风险的客观性，是指该消极后果不以人们的主观认识为转移，是客观存在的，即使人们主观上不予承认，这种后果依然独立存在，因此，对于风险，我们必须实事求是地对待；所谓风险的普遍性，是指该事物所具有的风险只要在条件或环境相同的情况下就可能发生，只有条件或环境发生了变化，风险的有无才有可能发生变化；风险的可识别性与可控性是相联系的，因其可识别性，才有可能予以控制。当然，对风险的认识也有一个过程，有一个逐步深化的过程，这就需要人们不断总结经验，继续研究和探索，努力认识和探究特定事物发展变化的机理或规律，实现对风险的控制。本文对民事司法智能化风险的探究也是笔者对风险的初步认识或进行研究的尝试，这种认识也有一个不断深化和提升的过程。

一、司法智能化应用风险：司法亲历性的疏远

（一）司法亲历性的含义与意义

司法主体的亲历性或司法亲历性一直被视为传统司法的基本特征。②除了亲历性之外，司法的被动性、公开性、公正性、透明性、终局性等也都被认为是司法的基本特征。其实不仅传统司法强调司法的亲历性，即使在现代社会的司法中，亲历性也依然是必须且应当慎重对待的问题。尽管人工智能技术使得亲历性的内涵可能有所变化，但亲历性的重要性是不容忽视的。司法亲历性是司法主体性的体现，也可以说是司法主体之所以具有主体性的原因、基础和根据之一。

如果从更严谨的意义上说， “司法的亲历性” 也可称为“诉讼亲历性”，因为多数情形下，只有在诉讼中，亲历性才具有意义。诉讼亲历性包括两个方面，一方面是作为司法主体的法官对案件审判的亲历性，另一方面是当事人及其他诉讼参与人对诉讼案件的亲历性。所谓亲历性，是指诉讼主体对案件审理过程中通过自己的感官对案件事实的感知、体会和认同。③关于司法亲历性，参见朱孝清：《司法的亲历性》，载《中外法学》 2015年第4 期，第919-922 页。在司法主体和诉讼主体之间，司法主体的亲历性更为重要，或者说司法的亲历性就是司法主体的亲历性。诉讼主体相互之间在本案诉讼形成之前，多数情形下已经对案件涉及的实体关系有所了解，而司法主体对案件的形成过程则完全陌生，司法主体必须通过对案件的直接接触来了解案件的所有重要细节，还原案件的真实。

司法亲历性的意义在于通过对案件审理的亲历，使得司法（诉讼）主体更具体、更实在地把握和理解案件的诉讼程序，对案件的事实认定有更深切的认识。这种认识有利于体现和实现案件裁判的公正性，能够更有效地吸收不满，对参与者更具有说服力，也更有利于维护司法的权威。第二审和再审中的不开庭审理以及审判委员会对案件审理的干预之所以为人们所诟病，其原因在于，不开庭审理和审委会对案件的干预缺失了司法的亲历性，隔离了司法主体的亲历性。正是因为对亲历性的忽视，导致现行民事诉讼法关于第二审不开庭审理的条件设置实际上有碍司法亲历性的实现。既然第二审具有纠错防错功能，那么在案件事实存有重大争议时，其审理的亲历性就更加不可轻视。民事诉讼审理中的直接原则、言辞原则都是为了保障司法主体和诉讼主体在案件审理中的亲历性。

最能体现亲历性的环节是庭审，虽然在起诉受理、证据交换、审前程序等环节，法官都能够与案件当事人有所接触和交流，但庭审在一般民事诉讼程序中是诉讼和审判的核心环节，也是最能体现和实现亲历性的场域。庭审的功能在于通过公开场景，使审理者直接与当事人双方互动，听取、询问当事人双方的主张、辩论，对证据进行调查、质证、认证，以最大限度地保障当事人的陈述权，明了权利人的请求、对方当事人的反驳和抗辩，查明相关事实，以便实现裁判的适正与公正。虽然对在线诉讼是否应当坚持庭审或以庭审为中心存在异议，但尚未有足够的理由否定其庭审存在的必要性以及庭审的中心地位。④对在线庭审的异议，参见自正法：《互联网法院的审理模式与庭审实质化路径》，载《法学论坛》 2021年第3 期，第41-47 页。庭审仪式感、现场感、戏剧效应等也通过其亲历性得到体现。没有司法主体和诉讼主体的亲历，这些效应也就无法得到反映，并对案件审理公正性的实现发挥作用。

（二）司法智能化与司法亲历性的弱化——一个需要注意的趋势

在民事司法智能化的技术运用中，在线民事诉讼是其运用最多的领域。在线起诉应诉、在线交换部分证据、在线进行审前程序、在线庭审、在线调查、在线送达，但凡能够通过在线技术实施的，都尽可能通过在线完成。毫无疑问，民事司法智能化中的在线技术能够提高效率、节约诉讼成本，大大地减少了司法主体和诉讼主体参与案件审理的付出，但问题也在于因此而大量降低了司法主体和诉讼主体的亲历性，对于司法主体而言，这种亲历性的降低必将影响案例裁判的公正性——实质公正与程序公正。尤其是在案多人少的司法背景之下，⑤关于案多人少的议论，参见张卫平：《审判资源程序配置的综合判断——以民事诉讼程序为中心的分析》，载《清华法学》2022年第1 期，第197 页；张卫平：《“案多人少” 问题的非讼应对》，载《江西社会科学》 2022年第1 期，第57-70 页；程金华：《中国法院 “案多人少” 的实证评估与应对策略》，载《中国法学》 2022年第6 期，第238-250 页。司法主体对非亲历性就具有了更大的需求，司法的亲历性将进一步降低，这是当下和今后司法过程必须引起重视和注意的问题。

不仅对于司法主体，当事人也希望能够通过低成本高效率的方式解决民事纠纷，但是当事人对于低成本高效率解决纠纷的心理前提是能够在最大程度上揭示案件事实。因此，也就出现这样一种矛盾的情形，一方面当事人双方往往都会同意以在线的方式进行诉讼，但另一方面又要求能够保证审理的公正性。许多案件的当事人在诉讼一开始都会同意以在线方式进行诉讼，但当事人往往没有充分注意到这种在线方式带来的非亲历性会给案件审理公正性带来消极影响。尤其是在线诉讼的技术手段还不能完全与线下审理效果等同的实际情形之下。实践中，在线的单向性、缺乏流畅的互动性，都使得法官和当事人很容易在审理案件时游离现场，尤其是当事人之间就事实和法律问题激烈辩论时，这种情形则更加突出。这种情形突显了诉讼案件审理中因为非亲历性所带来的各种问题。

司法公正是司法的基本价值追求，但司法效率和司法成本是司法的基本价值追求。而这两者之间存在矛盾和冲突。可以说，司法亲历性也集中反映了司法公正追求与司法效率、司法成本追求之间的矛盾。尽管从法院的职责和担当要求来看，追求公正是第一价值要求，但与法官个体利益最直接相关的还是效率和成本。效率和成本是直接能够感受和看得见的。因此，在司法亲历性和效率、成本冲突时，司法操作者很容易偏向于后者。我们注意到，在近来的一系列民事诉讼法修改中提高诉讼效率成为修改的主旋律。这与最高人民法院主导民事诉讼法修改有直接关系。这种主导使得民诉法的修改无法摆脱法院利益的牵制，在公正与效率之间的衡平中，更容易倒向效率，因为法院是诉讼效率的直接受益者。

（三）司法亲历性的保障与司法智能化适用的限制

正因为如此，为了维护司法亲历性，实现司法公正，需要通过法律和规则对人工智能中去亲历性的做法要有所限制。尤其是人工智能、在线技术尚处于初期阶段时，更应该注意这一点。限制的基本框架或基本思路是关系重大和案件复杂的案件应当限制适用在线诉讼或限制在线庭审。具体而言，一是案件争议标的数额的大小。诉讼标的数额大的案件应当限制适用在线诉讼或在线庭审。这一考量同诉讼程序的复杂性与案件争议标的数额大小的关系考量是同样的。争议标的数额大的虽然未必就一定复杂，但由于涉及的利益大，人们对结果的公正性就更加在意，司法的亲历性有利于增进人们对司法公正性的认同，因此，应当强化其亲历性而不是相反。二是考虑案件的性质。不同性质的案件的复杂程度是不同的。通常而言，商事案件比一般的民事案件复杂，商事案件、侵权案件、知识产权案件、环境污染案件等原则上应当限制适用在线诉讼或在线庭审。因此，在对待是否适用在线诉讼的问题上就并非只要当事人同意就可以适用在线审理，特别是在线庭审。如果同意原则视为适用在线诉讼的唯一前提条件，则从司法主体的利益出发就有可能导致在线诉讼的滥用。需要根据案件的性质、案件事实认定复杂程度来考量是否应当适用在线审理的方式。而且，即使一开始适用了在线审理的方式，在案件审理变得复杂时也应当及时转为线下增强其审理的亲历性，以便更加灵活地处理在案件审理中的亲历性问题。

一旦认识到司法亲历性的重要性，就要求人们在司法实践中，尽可能实现和保证司法亲历性，而非弱化、疏远其亲历性。亲历性的体现也并非一定是传统的方式，同样可以与现代信息传输技术结合，虽然是异地，甚至异时，也可以更接近现场、现时的方式或方法实现亲历性。例如，在不得已必须异地参与诉讼的情形下，较好的做法首先是选择就近的异地法院或法庭，在异地法院或法庭的特定场所参加庭审。如此，可以通过这种 “准现场” 方式，在一定程度上获得传统庭审的现场感、仪式感，使得庭审的过程能够在庄重、严肃的气氛中进行；同时，也便于法院对当事人参加庭审的行为进行监督（防止一些当事人以技术以及其他理由干扰在线庭审的正常进行）、指挥、协调和调度；再者，便于在出现技术问题时的临时应对和处置。在有的情形下，也可以考虑在公证处，由公证人员和法院的司法人员在场的情形下参加在线庭审活动，也可以在一定程度上满足庭审的实质化要求。公证过程本身也是一种法律监督的过程。⑥关于我国公证制度的功能，参见宫晓冰：《中国公证制度的完善》，载《法学研究》 2003年第5 期，第52 页。通过当事人的异地在场，也就在一定程度上模糊了在线庭审中非在场与在场的区别，使得在线庭审具有更大的灵活性，增加了司法的亲历性程度。尤其是借助于公证制度，可以将更多的场外证据以及证明行为得以“保全”，⑦公证不仅能够对具有法律意义的行为提供证明，同时也可以提供证据保全。关于公证证据保全的作用，详见张卫平：《论公证证据保全》，载《中外法学》 2011年第4 期，第796-801 页。从而实际扩大了在线庭审的张力。通过在线庭审的“准现场化”，对于在线庭审中认为无法实现的实物证据的质证、认定就可以通过这种“准现场” 方式予以实现。异地法院或派出法庭的司法人员或公证员可以监督实施实物证据的质证过程，并且通过在线法院的委托或协助实现实物证据的认证。⑧参见张卫平：《在线诉讼：制度建构及法理——以民事诉讼程序为中心的思考》，载《当代法学》 2022年第3 期，第31 页。

二、司法智能化应用的风险：算法司法对司法公正的消极影响

算法是数字化的非意识运作，非人类智能的人工智能。从技术角度讲，算法指的是为了解决问题而进行计算的一套有条理的步骤，包括通过机械、电路等非意识性的运作和通过感觉、情感和思想等意识性的运作两大类。前者即人工智能或人工算法，后者则是人类算法。⑨参见黄春晓、胡蓉：《算法（智能）时代的司法筹谋——基于革新命题视野下的思维导向与图景架构》，载上海市法学会编：《上海法学研究》（集刊） 2023年第5 卷，第271 页。因此，从此意义上算法并不仅仅作用于无生命个体的运行，人类的本身也是算法的集合，通过感觉、情感等运作。

若将两种算法即人类算法与人工算法结合到一起，会发现人工算法是一种规律性的存在，不会因为感性而出现变动，即人工算法具有“理性化” 的一面；相对于此，人类算法由于是以感情、思想等运作，就存在着因人而异的问题，进而存在着“感性化” 的一面。因此，人工智能或人工算法具有普遍适用性，而人类每个个体都是不同的“算法机器”。

如果将这一点与司法审判相结合，就会发现，其实司法审判本身也存在着“理性化” 与“感性化” 这两面。前者如“类案类判” 的要求，后者如自由裁量权的行使。因此，当将法官这一人类个体作为“算法” 看待时，实际上其思想或观念中被植入了“法律” 这一算法，法官要按照这一算法进行裁判；同时针对案件的不同情况或情节，法官会根据自己的社会经验、思想、感情等进行个案的平衡。因此，司法审判本身就是上述两种算法运用的一种极佳体现。

算法本身包括人工算法也包括人类算法，而司法审判中算法的应用当然也适用于这两方面。从人工算法的角度而言，为了使得司法审判更加 “理性化”，实现同案同判、类案类判（同案同判、类案同判本身也是有商榷余地的命题。只有在判例法的法律体制下，同案同判、类案同判才有意义，是判例法先例拘束原则的要求。但在成文法体制之下，其原则要求的是依法裁判，而非同案同判或类案同判），人工算法会将已有的裁判数据根据一定的计算方式进行“要素提取”，进而建构不同类型案件的裁判模型，进而当 “要素” “吻合” 或 “大面积吻合” 时，推送相应类案供法官裁判参考，甚至取代法官裁判。从人类智能的角度而言，正是由于人类算法基于感情或经验，进而成为“同案不同判” 的根本诱因。而人工智能或算法部分或全部取代人类算法，则会进一步促进裁判的理性化或公正化。因此，甚至应当说，算法适用于司法审判，主要就是为了避免或解决人类算法的问题，比如量刑中的自由裁量。⑩天津大学法学院曹云吉副教授为算法所涉及的风险分析提供了支持。

算法在司法上的运用即人们所言的算法司法，其最大的问题在于以下几点：

（1）算法的隐蔽性（即所谓算法 “黑箱”）和司法公开、透明性的冲突。算法的最大特点就是其隐蔽性，也就是算法不具有可解释性。这种隐蔽性或不可解释性，迄今为止仍为算法发展中的技术难题。这显然与现代司法公开的精神发生冲突。⑪参见杜宴林、杨学科：《论人工智能时代的算法司法与算法司法正义》，载《湖湘论坛》 2019年第5 期，第68 页。

（2）算法的隐蔽性或不可解释性与法官主体性的冲突，也就是算法对法官独立办案裁量思考的影响。由于法官并不了解也不知晓算法的具体运作原理、算法依据和标准，当算法推送出多套可选的案件解决方案时，要求法官对于这些解决方案予以适用，必然影响法官对案件的自我判断。

（3）司法算法是以简单的逻辑来推演复杂的司法现实，这种简单逻辑是在对过去的经验法则进行归纳的基础上形成的，缺乏变通性，这是算法“只会处理过去，不会创造未来” 的特性所致。⑫参见前引⑪，杜宴林、杨学科文，第69 页。

在算法 “黑箱” 治理应对方面，强调开放与控制并重的 “硬法—软法” 范式能够为算法 “黑箱” 的治理提供一种新的立法框架。进一步而言，在 “硬法—软法” 范式下，除了需要明确算法“黑箱” 治理的硬法规范和软法规范外，还需要在这两种规范中建立双向沟通机制，确保两种规范的衔接与协调。⑬参见钟晓雯：《从算法 “黑箱” 走向算法透明：基于 “硬法—软法” 的二元法治理模式》，载《中国海商法研究》 2023年第4 期，第53-63 页。在具体的治理方面，核心也是最难之处在于确立解释算法的技术标准。作为一项技术攻关也就不是法律规则所能解决的问题，算法风险的解决规则还需要技术规则的建立和完善。

三、司法智能化应用的风险：大数据滥用对个人权利的侵害

在社会信息化的背景之下，大数据也在司法领域中得到了越来越广泛的应用。特别是随着我国智慧法院建设的大力提倡和推进，智慧法院也从电子文档化的信息化1.0 版转向线上办案的信息化2.0 版，我国司法全面进入以大数据和人工智能为核心的信息化3.0 版的时代，并进一步迈向更高级的4.0 版阶段。可以说，司法的信息化也就是司法的大数据化，但随着大数据在司法领域中的广泛运用，司法大数据应用的风险也在日益加大。尤其是在我国个人信息权利观念比较薄弱，强调信息公益化、大政府架构的国情之下，司法大数据的利用中个人信息滥用的情形就更容易发生，对个人信息的保护就显得尤为重要。笔者注意到，在相对更强调个人信息保护、个人隐私保护的法治发达国家，在司法大数据的利用方面更加注重法律对其使用的限制，以维护个人信息权。

所谓司法大数据是指，司法机关在司法过程中为达成司法目的所推出的大数据。司法大数据的应用主要体现在以下几个方面：公安机关为刑事侦查、治安管理等使用的大数据；法院为诉讼案件的审判和裁判等使用的大数据；法院为民事执行、财产保全等所使用的大数据；检察机关为提起公诉、检察监督等所使用的大数据。在民事司法中的大数据虽然只是司法大数据的一部分，但却是数量最大的一部分。在民事司法领域使用司法大数据也是更容易滥用个人信息的情形，因为民事司法过程中个人信息权利更容易被忽视。在民事司法智能化的推动之下，个人信息收集过程中原有的“双方博弈” 有沦为“单方决策” 的风险。⑭参见刘艳红：《智慧法院场景下个人信息合规处理的规则研究》，载《法学论坛》 2022年第6 期，第40 页。尤其是司法机关对大数据的运用相比企业商家对大数据的利用更容易导致对个人信息的滥用，因为有所谓公共利益、国家利益、司法效率和公正为理由。

例如，在实施失信惩戒制度中，就可能涉及个人信息滥用的问题。失信惩戒的机制在于利用声誉机制的强大威慑力实现对失信主体不良行为的矫正与约束。⑮参见王少祥：《失信约束制度适用范围的实践扩张与立法限缩》，载《征信》 2022年第11 期，第32-38 页。失信惩戒具有明确的人身专属性与可识别性，精准、适度地处理个人信息既是客观评价失信行为的前提和基础，也是合理联结失信主体和“声誉制裁” 的桥梁和纽带。然而，受个人信息结果保护模式的影响，部分地方对失信惩戒的实践应用场景有过分扩大之嫌。个人信息在跨行业、跨领域、跨部门的流通应用中，逐渐有偏离主体指向和行为评价基础坐标的可能而涉嫌侵犯其他人格权益。譬如，多地在对失信人进行信用惩戒时，选择向失信人子女所就读的私立学校及其所属教育局发布《协助执行通知书》，限制其子女在私立学校继续就读。尚且不论此种惩戒措施是否可能会给未成年人的受教育权、发展权带来不良影响，仅就其直接将失信人子女的私密信息告知学校的这一做法，便已是将失信人的不良行为与其子女的个人信息进行不当连接。失信人子女是独立的民事主体，而并非失信惩戒的对象，其私密信息一旦外泄，个人私生活便可能完全透明地暴露在一定范围的公共视野之中，失信人子女将不可避免地被贴上污名化的 “标签”，导致其社会评价的降低与人格权益的减损。这种信息利用的方式不仅有损失信人子女合法人格权益，也违背了公正司法、文明执法的基本要求。

为了维护公民权益，防止个人信息被滥用， 2016年8月29日最高人民法院《关于人民法院在互联网公布裁判文书的规定》第十七条特别要求社会各界要合法利用公开的裁判文书，不得有损他人合法权益。《全国法院被执行人信息查询使用声明》第三条也规定， “查询人必须依法使用查询信息，不得用于非法目的和不正当用途”。 2019年7月31日，最高人民法院发布《关于建设一站式多元解纷机制一站式诉讼服务中心的意见》，第二十一条要求 “全面应用中国移动微法院，打通当事人身份认证通道……在诉讼服务大厅配备便民服务一体机等智能化设备”，并在《关于全面加强知识产权司法保护的意见》第二十六条强调“加强对电子卷宗、裁判文书、审判信息等的深度应用”。由此可见，智慧法院建设需要创新技术手段来合理处理个人信息，在降低司法大数据流动与利用的安全风险、充分保障当事人个人信息权益的条件下，进一步提升司法大数据赋能司法实践的能力。⑯参见左卫民：《AI 法官的时代会到来吗——基于中外司法人工智能的对比与展望》，载《政法论坛》 2021年第5 期，第3-13 页。个人信息处理是国家、社会信息化发展的必然要求，同样在司法领域，个人信息处理也是司法信息化发展的必然，因此，在司法领域中，个人信息保护与处理的冲突和风险依然是无法避免的。⑰参见许可：《诚信原则：个人信息保护与利用平衡的信任路径》，载《中外法学》 2022年第5 期，第1143 页；李雷：《论数字时代个人信息保护与利用平衡的展开路径》，载《行政法学研究》 2024年第1 期，第111-113 页。

虽然我国法律和政策上都有相应的规定，但具体的配套制度还是有所欠缺。有时也存在政策上相互冲突或不明确之处，因此，实践中依然存在诸多权利维护不能到位的情形。笔者就注意到，在民事司法以及法院推进的电子化信息收集中可能存在侵犯公民隐私权的嫌疑，因此，司法机关在收集个人信息时就必须要有法律的授权，以此作为个人信息合法性使用的正当性根据。在制定这些规则时也要充分考虑个人隐私的保护，避免基于其主观判断，超出法律的限制，从而加剧社会公共利益与公民个人隐私的冲突与失衡。⑱参见苏海雨、李欣潮：《行政信息电子化收集的法律控制》，载《新疆社会科学》 2020年第6 期，第77 页。

当下，在法理上，人们主张通过合规这一概念和要求对个人信息予以充分的保护。 2021年1月10日，中共中央印发《法治中国建设规划（2020—2025年）》中的第十四条规定事实上就是对我国的司法公开建设提出了更高的要求，而合理处理后合规公开个人信息则是推进司法公开建设的应然之举。在智慧法院的建设过程中，个人信息不能肆意公开，而是要在公开前进行相应的利益衡量处理，从而在个人信息保护和社会公共监督之间取得平衡。利益衡量方法也是个人信息合理处理的手段之一，通过利益衡量后适度公开个人信息能够确保公开过程的整体合规。⑲参见前引⑭，刘艳红文，第38 页。

司法大数据与一般大数据有所不同，司法大数据通常是司法机关所收集的数据，其是为了达成司法的目的，但问题在于司法大数据的收集或获取是否也应当坚持同意原则。个人信息与普通数据最大的区别即在于其“可识别性” 记载和处理。由于语境差异，相对于美国、欧盟等发达国家和地区，中国公民个人信息权意识尚显淡薄。通常情况下，只有在数据处理行为直接涉及个人隐私、名誉或财产性利益等情形时才会引起权利主体的高度重视。由此即给予人们一种假象：只要不直接涉及个人隐私、名誉或财产性利益等，即便未经权利主体同意亦可进行个人信息处理。⑳参见吕炳斌：《数据流通利用语境下个人信息财产利益的实现路径》，载《比较法研究》 2023年第6 期，第63-67 页。

纵观我国的相关法律规定，除《中华人民共和国网络安全法》第四十一条、第四十二条明确规定个人信息处理须经权利主体同意外，作为保障个人信息权的主要法律依据，《中华人民共和国民法典》和《中华人民共和国个人信息保护法》亦明确个人信息处理须经权利主体同意，进一步充实了司法实践中针对非网络场景中非法处理个人信息行为“知情同意” 原则的法律依据。否认个人信息权作为一项基础性权利的法律地位，忽视权利主体对其个人信息处理“知情同意” 的必要性与合理性，仅在权利被侵害或导致其他民事权利受到客观侵害时才予以救济，本质上是否定个人信息权的实体权性质，不符合信息化可持续发展要求，也与现代法治社会的发展趋势相背离。㉑参见张佳华：《数字时代个人信息保护的法律边界厘定》，载《人民论坛·学术前沿》 2023年第22 期，第108-111 页。以利用虚假广告非法获取公民个人信息为例，通过判例可知，此类行为显然违反了权利主体对真实情况知情之前提，缺乏知情同意之合法性基础。

四、司法智能化应用风险：监督机能的弱化

司法智能化对于司法的最显著意义在于提高司法效率。例如，在民事诉讼中通过录音文本自动生成技术，可以实现法庭笔录文本化，大大提高笔录制作效率，甚至免除了法庭书记员的记录工作负担，有的法院也在实践中，不再需要法庭书记员人工完成法庭笔录工作。但问题在于，虽然司法智能化能够大大提高司法的效率，但也存在着通过智能技术提高效率的同时，可能导致某些制度功能的丧失或弱化。其中，值得我们注意的是庭审笔录制度本身的意义和功能问题。

众所周知，在民事诉讼中，庭审程序是诉讼程序的中心，庭审程序的合法运行对于公正解决民事争议、体现程序正义具有十分重要的意义。从诉讼法理和逻辑而言，如欲发挥庭审的功能，强化庭审的程序性和公正性，提高法官庭审水平和能力，防止庭审程序空洞化，就必须建构法定化的庭审笔录制度。从应然的角度，我国的庭审笔录制度尚未成为一种有效制约庭审的现代法定化庭审制度。我国现行的庭审笔录还仅仅是一种记录性文本，并没有被视为一种具有法定证明效力的文书。法定化的庭审笔录制度要求庭审笔录是一种由相对独立于庭审法官的公证官员制作，能够为当事人阅览或使用的，具有法定证明效力的文书。法定化的庭审笔录不同于现行庭审笔录，是一种具有法律证明性的文书，而要具有法律上的证明性就必须有相应的要求，否则不能成为一种具有法定证明效力的法律文书。

法定化的庭审笔录的制作主体应当是与庭审法官保持相对独立性的司法人员。笔录作为一种证明文书，必须清晰地表述或表达相应的审理行为和诉讼行为，尤其是庭审中的程序性事项，所以，庭审笔录总是在庭审程序完成之后经过一段时间才制作完成。从国外的制度规定来看，虽然没有具体的时间要求，但由于言词辩论笔录是当事人可以利用的法律文书，当事人有可能根据本次辩论的情形决定下次言词辩论或以后诉讼行为的实施，因此就要求笔录应当在该辩论日期终结之前完成。㉒在国外，如日本，笔录的制作往往是在本次辩论日期终了之后一周左右完成。因为笔录必须根据速记进行整理，因此往往需要花费比庭审陈述更多的时间。学者也指出要求在本次辩论期间终了之时即完成庭审笔录是不现实的。正是由于笔录的制作需要一定的时间，因此下次辩论日期通常要在一个月以后。参见[日] 新堂幸司、福永有利编集：《诉·辩论的准备》（《注释民事诉讼法（5）》），有斐阁1998年版，第343 页。庭审笔录的意义在于，庭审笔录是关于法院、当事人、诉讼参与人在庭审中实施诉讼活动的法定证明文书，其中包括法院、当事人、诉讼参与人诉讼行为和程序性事项的记载，也有关于庭审辩论的实质性内容，如当事人、诉讼参与人，尤其是证人关于案件事实的陈述内容。庭审笔录中关于庭审程序性事项的笔录具有绝对证明效力，其他证据无效。当人们对这些事项是否发生产生争议时，笔录是唯一的证明，不允许提出反证。㉓《德国民事诉讼法》第165 条对庭审笔录就程序性事项证明唯一性有明确的规定。该条规定： “关于是否遵守为言词辩论所规定的方式，只能用笔录证明。只有在证明笔录是伪造时，才能否定笔录中关于辩论方式的内容。”这也是理论上所谓的“法定证据”。庭审笔录没有记载的程序性事项，即视为没有发生或实施。㉔庭审笔录中关于辩论实质性内容事实的证明虽然也具有重要的证明作用，但不具有唯一的证明性。也就是说，即使该笔录中没有反映的内容或事实，也不能认为绝对不存在，不能作为裁判的事实依据。有相应的证据证明时，依然可以为法官采纳。这是因为庭审笔录毕竟不可能完全记载和反映整个庭审中的所有事实以及证明过程，所以，如果在裁判中完全以庭审笔录的记载事实作为唯一的依据，显然是不妥当的。言词辩论笔录法定化的正当依据是笔录制作权限和程序的法定化，不仅是笔录制作需要满足法定要求，更重要的是制作主体对笔录制作的法定权限以及特殊的法律地位。这种特殊的法律地位集中体现在只有法律所规定的专门司法人员（在大陆法系国家为书记官）才能制作笔录，而且书记官在笔录制作过程中与审理法官保持相应的独立性。

在庭审笔录的法理上，专门制作笔录的司法人员——书记官，在诉讼中具有辅助性和独立性的双重属性。一方面，从笔录记载辩论和证据调查的内容有助于法官作出公正裁判的角度而言，书记官制作笔录的行为对法官的裁判具有辅助性；另一方面，就笔录对辩论程序性事项的记载内容而言，书记官独立于审理法官，不受审理法官的干预。庭审程序性事项的有无，以书记官笔录为依据，作为对该程序事项的证明文书具有唯一性。同时书记官对笔录具有保管责任。㉕有关内容参见前引㉒，新堂幸司、福永有利编集书，第336-338 页。正是这种书记官的相对独立性，从一个方面保障了庭审程序或言词辩论程序的实在化，保证了审理法官对庭审程序的尊重，有利于程序的安定性，平息当事人之间就庭审程序性事项的实施所发生的各种争议，有利于吸收当事人对审判程序的不满。毫无疑问，具有法定独立地位的书记官制度是庭审笔录法定化、庭审程序实在化的前提和保障机制。㉖关于庭审笔录的法定化，参见张卫平：《论庭审笔录的法定化》，载《中外法学》 2015年第4 期，第903-918 页。原本现行的笔录因为没有法定化，还只是一种单纯的事实记载载体，因而就非常容易在电子化数字化的时代被全程录音、录像所替代。在推进司法智能化和智慧法院建设的当下，由于庭审笔录文本的自动生成，也就进一步削弱了庭审笔录制度的监督制约功能，使得制作笔录的司法人员——书记员进一步被隐形化，一旦书记员被隐形化，则庭审监督制约制度也就自然处于缺失状态。这一点是我们推进智能化、大量运用文本自动生成技术的过程中所应当特别注意的。

五、司法智能化应用风险：法院司法行政化的强化

所谓 “法院司法运作体制行政化”，是指法院在整个体制构成和运作方面与行政管理有着基本相通的属性，是按照行政体制的结构和运作模式建构和运行的。行政机关的体制结构和运作方式需要满足整个行政管理自上而下的统一性和行政权力行使的效率性，这就要求在体制结构和运作方式方面强调行政内部的上下服从关系。上级机关与下级机关是一种命令与服从的关系。下级机关必须严格执行上级机关的行政命令；行政工作人员也必须严格执行本部门内上级的命令和指示。为了保证行政机关中，上对下的行政命令能够得到有效的执行，就必然要求有相应的组织形式和管理形式，有严格的行政等级差别。如果将我国法院体制和行政管理体制加以比照，行政机关的这一基本特征在我国法院体制中有明显的反映。因为我国法院实际上一开始就是按照行政体制的结构模式来建构的，当然也就具有行政化的特性。

从法院相互关系的本质上讲，法院之间在审判活动方面应当是彼此独立的，而不是像行政机关那样的行政隶属关系。行政机关上下级的隶属关系决定了下级行政机关必须在行政管理活动中听命于上级行政机关。上级行政机关也有权对下级行政机关发出指示，实施具体的行政行为。法院之间的关系就不同，虽然有上下级法院之分，但如果依照法院独立审判的原则，上级法院不能对下级法院的具体案件审理活动进行干预。我国刑事诉讼法、民事诉讼法和行政诉讼法均规定了上诉审制度。设置上诉制度的目的在于防止一审法院在认定事实、适用法律方面出现错误，是一种纠错救济机制。通过法院的再一次审理，从概率论的观点来看，法院裁判的出错率会大大低于仅仅一审终审的情况。上诉审这种纠错功能的发挥必须有一个条件，即审理同一案件的一审法院和二审法院必须是各自独立的。如果一审法院在审理案件时，已经按照二审法院的指示或要求去审理，并做出了判决，这种纠错功能便会大打折扣。然而，法院体制的行政化则难以避免上级法院对下级法院的直接或间接的干预。既然是一种行政关系，上级法院不管是在权力运作，还是在观念意识上都会自觉和不自觉地对下级法院的审判进行干预。这种干预通常是以“指导” 的方式出现。而下级法院在审判过程中，也会主动或被动地接受上级法院的干预。但如果允许上级法院直接干预下级法院对案件的具体审理，必将架空审级制度，使审级制度徒有虚名。在当下，由于司法公信力长期低迷，操纵司法的问题极易引起社会疑虑。㉗参见孔祥承：《“去行政化” 背景下我国法院案件分配制度之重构——以法定法官原则为视角》，载《湖南社会科学》 2019年第4 期，第43 页。司法的行政化恰恰助长了司法操纵，严重影响了司法公信力的提升。

在司法运行体制行政化的构架之下，下级法院一旦在案件审理中遇到自己认为的疑难问题，出于对司法责任和行政责任追究的顾及，必将向上级法院请示汇报案件审理的实践问题，以获得上级法院的指示。在司法行政化的机制之下，上级法院作为司法的上级机关也必然会给出相应的指示。虽然上级法院通常会有比下级法院更丰富的审判经验，对法律有更深、更透的理解，但这样会影响下级法院审理案件的独立性。这样的请示制度，实际上也就造成案件审理的间接性。现代审判的一个原则是直接审理原则，要求审理作出裁判的法官必须直接审理案件，在直接参与案件审理的过程中去感受案件争议的实质，体会案件当事人对案件的认识，这样作出的裁判才会最接近案件真实，而且是一种为当事人所信赖的真实。虽然没有任何法律规定下级法院必须服从上级法院的指示，按照上级法院的命令或指示作出裁判，而且上级法院的指示常常以某种意见的形式出现，与单纯的行政机关的行文方式有所不同，但在法院体制行政化的环境下，下级法院实际上会按照上级法院的意见去做。㉘参见张卫平：《论我国法院体制的非行政化——法院体制改革的一种基本思路》，载《法商研究》 2000年第3 期，第3-11 页。

根据《新一代人工智能发展规划》（国发〔2017〕 35 号），未来将建设智慧法庭，即 “建设集审判、人员、数据应用、司法公开和动态监控于一体的智慧法庭数据平台，促进人工智能在证据收集、案例分析、法律文件阅读与分析中的应用，实现法院审判体系和审判能力智能化”。 2018年1月科技部发布的国家重点研发计划 “公正司法与司法为民关键技术研究与应用示范” 专项（第一批）的16 项司法大数据与人工智能技术的研发中，就有相当部分涉及对司法全流程的数据解构与智能管控，如“支持面向审判各环节的审判行为合法合规监督和偏离预警，预警准确率不低于95%”。㉙王禄生：《司法大数据与人工智能技术应用的风险及伦理规制》，载《法商研究》 2019年第2 期，第2-13 页。

对司法活动的管控成为人工智能技术运用的一种基本要求和目的。虽然对司法活动监控并非没有意义，但如果这种监控的权力集中在司法行政管理者的手中，就可能成为个人干预司法的一种手段，必然也将有悖于司法公正的基本价值要求。

近年来，我国法院正面临着汹涌而来的案件潮的冲击。最高人民法院工作报告显示， 1979年全国法院受理案件52 万件， 1999年则上升到623 万件， 2015年是1566 万件， 2016年全国法院收案量进一步升至2305 万件，与1978年相比上升40 余倍，同期法官数量上升不足2 倍。司法改革后，全国法院树立起“让审理者裁判、由裁判者负责” 的司法理念，传统的院庭长逐案审批的管理模式已经无法持续。在这一背景下，法院的信息化建设必将对审判管理起到关键作用。㉚参见胡昌明：《中国智慧法院建设的成就与展望——以审判管理的信息化建设为视角》，载《中国应用法学》 2018年第2 期，第107 页。

具体表现是，通过网络信息技术的提升，有进一步强化司法行政化的趋势。依托信息化建设，法院内网网站功能实现了升级，全国四级法院内网初步实现了权威发布、业务交流和应用整合。办公办案平台升级融合与应用的拓展，实现了工作桌面统一，并与信访、科技法庭等系统全面贯通，进一步优化了流程审批、审限管控、绩效展示等功能模块。㉛参见前引㉚，胡昌明文，第109 页。问题在于，信息化的加强有可能使得法院内部的行政干预更为便捷和有效，审判机关的行政领导更容易掌握每一个案件的审理情况。例如，法院领导可以直接旁观每一个法庭的审理。有的法院领导甚至宣称，我想看哪一位法官的庭审，就能够看到哪一位法官的庭审。这无疑就是对司法行政化的典型写照。基于法院行政化的机制，这种旁观实际上就构成了一种干预。在管理的意义上，可以说这种做法有助于对法庭具体情形的了解和掌握，但可能产生对法官审判的不信任这样的消极后果。这种干预不仅不利于法官的履职，反而有可能为司法腐败所用。另外，领导的这种对案件具体情形的了解又由于时间和亲历性，无法像具体办案法官那样更切身地体会和理解案件中涉及的事实问题和法律问题，但领导长期形成的领导意识和责任使得其有可能从自己的认识角度出发，对案件的审判进行干预，这些干预基于行政机制是能够有效发挥作用的，这样就必然影响案件审判的公正性和公平性。

信息化实现了对法院庭审活动的全程监控，办案过程公开透明、有痕有迹，案件的运行情况“看得见、摸得着、管得住、说得清”。问题是，在司法行政化的运行机制下，公开的程度、公开的内容、留下哪些痕迹、抹去哪些痕迹，是完全可以为人所控制的。因此，我们应当尽量避免通过人工智能技术强化司法运作体制行政化，而非通过人工智能技术反而强化司法的行政化。为此，必须充分认识到司法行政化的弊端，坚持司法运作的规律。将智能化技术运用到提高审判效率，而非强化行政干预，是我们在应用智能技术中所必须注意的问题。技术毕竟只是工具，任何工具都应当服从于实现社会的正义和福祉，服从于法律的价值追求，而不是相反。

结语

正如上述所言，民事司法智能化作为智能化技术在司法领域中的应用有可能存在风险。智能化可能“放大” 既有制度中的某些缺陷，也有可能仅仅侧重于智能化应用中的信息运用，而忽视了个人信息权的维护。这是我们在司法智能化应用中所应当注意避免的。规避风险的有效办法是建立相应的应对制度，以预防和消除风险发生的可能性。这些应对制度的基本宗旨就是要保证司法智能化的应用必须在司法的基本价值和各种法律规范之内，即坚守智能化应用的合法性。例如，司法公正系司法基本价值追求之一，而司法亲历性是达成司法公正的重要方法，那么，司法智能技术的应用就应当为司法亲历性的实现服务，而不是背离或疏远司法的亲历性。

本文旨在揭示司法智能化应用中的风险，虽然也论及风险防范，但这方面不是本文的重点。相应风险的防范需要根据风险的原因进行更为细致、深入的研究，才能更好地把握相应法律规则与智能化应用的契合点，在制度缺失时及时加以补充和完善。司法智能化作为智能化技术的应用，其风险防范的法律规制在内容上取决于相关的技术规则，法律规范只是这种技术规则运用的价值导向。因此，风险的防范还需法律价值导向与技术规则研究结合起来，共同推进风险防范机制的完善。