生成式人工智能介入刑事审判的可能与限度

虞 浔，魏健宇

(华东政法大学 刑事法学院，上海 200050)

一、问题缘起：生成式人工智能介入刑事审判的实践趋势

2022年11月30日，美国人工智能研发公司Open AI正式推出了基于大型预训练语言模型开发的生成式人工智能产品—ChatGPT(Chat Generative Pre-Trained Transformer)。一经问世，ChatGPT便掀起了一股生成式人工智能热潮，短时间内就有超过1亿用户注册使用，也引发各界探讨生成式人工智能对我们社会现实可能带来何种变化与挑战[1]。2023年3月15日，Open AI正式发布了GPT-4版本。GPT-4是基于ChatGPT大模型GPT3.5的基础开发的升级版。对比此前发布的版本，GPT-4面向用户开放图片处理功能，并且在自然语言理解响应能力和生成内容质量上也有显著提升。例如，GPT-4在参与模拟美国律师执业资格考试中取得了前10%的成绩排名，而GPT3.5版本的成绩则是后10%，测试表明GPT-4目前的技术水平已经接近了专业领域的人类水平[2]。ChatGPT的快速进步是数字时代人工智能技术飞速发展的缩影，在专业领域模拟考试中展现出的较高专业水平为生成式人工智能技术应用于专业领域提供了可能。

随着生成式人工智能的面世与发展，2023年7月，国家网信办联合七部门发布了《生成式人工智能服务管理暂行办法》。该规定将生成式人工智能定义为“具有文本、图片、音频、视频等内容生成能力的模型及相关技术。”将生成式人工智能定义为技术，既符合事物的本质又展现了立法者鼓励发展、应用新兴事物的态度。有学者指出，ChatGPT作为生成式人工智能技术的代表，已经成为具备普遍适用性、动态演进性、创新互补性的能够推动经济增长的“通用目的技术”[3]。技术的正确运用可以推动社会进步发展，以ChatGPT为代表的生成式人工智能技术已经向我们充分展现了其应用于现实的强大能力。进入数字时代，人工智能技术的普及和应用是时代必然趋势，生成式人工智能技术作为人工智能技术的一部分，应用于刑事审判领域既是数字时代的大势所趋，也是司法进步的必由路径。

司法实践中已有人工智能技术应用于刑事审判活动的先例。域外方面，2023年，一名哥伦比亚法官就在刑事审判活动中使用ChatGPT辅助其完成量刑任务[4]；国内方面，人工智能技术早已介入刑事审判程序。例如，上海市第二中级人民法院在审理一起抢劫案件过程中，运用上海刑事案件智能辅助办案系统“206系统”辅助庭审。“206系统”具有能够在庭审过程中自动抓取归类证据、言辞证据与视听资料的快速比对等功能，通过人工智能系统的辅助有效提升了庭审效率，同时也在案件办理质量方面起到保障作用[5]。无论是国外生成式人工智能技术在刑事审判中应用的先例，还是国内人工智能技术介入刑事审判的实践，都显示了数字化时代人工智能技术介入司法程序的可行性和必然性。因此，作为人工智能技术的重要组成部分，我们有必要进一步研究生成式人工智能在刑事审判领域应用的可能及应用限度问题。

数字时代的浪潮向社会现实涌来，以ChatGPT为代表的生成式人工智能技术的兴起表明我们尚处于数字时代的起步阶段。在数字司法尚未完全成熟和社会尚未作好完全转型准备的条件下，本文将从方法论路径出发，旨在通过新兴数字技术的应用，在运行方面对现代法学进行升级优化，具体到点则是聚焦于生成式人工智能技术与刑事审判结合的价值动因、可能路径、介入限度，探寻出一条推动生成式人工智能介入刑事审判的中国路径。

二、智能司法：生成式人工智能应用于刑事审判的价值动因

2017年，国务院发布了《新一代人工智能发展规划》，一方面明确了我国新一代人工智能发展的战略目标和要求，另一方面展现了国家在人工智能建设与发展方面的决心与信心[6]。生成式人工智能技术的日趋成熟，已使其成为人工智能领域不可忽视的一股重要力量，因而生成式人工智能技术应用于刑事审判亦成为以数字技术推动现代法学升级优化，建设人工智能司法的关键。

(一)人工智能司法发展的必由路径

人工智能技术的发展由弱到强可分为三个阶段：“弱人工智能”(Artificial Narrow Intelligence，ANI)、“强人工智能”(Artificial General Intelligence，AGI)和“超人工智能”(Artificial Super Intelligence，ASI)。弱人工智能阶段机器能够完成基本的信息处理工作，在法律领域的应用体现为法律检索系统和法律专家系统，这也是过去我们人工智能主流研究所在阶段。目前，人工智能技术的发展方向是向强人工智能阶段发展，开发出具备推理、直觉、思维能力的强人工智能技术[7]。生成式人工智能技术的诞生开拓出了人工智能技术通往“强人工智能阶段”的道路。美国斯坦福大学的相关研究表明，ChatGPT作为生成式人工智能技术的代表在“拟人度”和“处理能力维度”方面已经实现了“多维度高拟真度”的质变，创作能力远超既有人工智能应用[8]。随着《新一代人工智能发展规划》和《最高人民法院关于加快建设智慧法院的意见》等规范文件的发布，人工智能在司法领域的应用已经成为时代发展所趋，在人工智能司法如火如荼建设的今天，具备强大能力的生成式人工智能技术已成为人工智能司法发展进程中不可忽视的关键力量。

(二)助力数字时代刑事审判赋能增效

数字化时代，我国犯罪类型结构和各类犯罪特点发生变化，犯罪网络化趋势明显，犯罪手段与网络新技术结合引发诸多问题[9]。为了推动刑事审判业务更好应对数字时代新型犯罪以及数量巨大的网络犯罪案件，目前，我国在刑事审判实践中已经展开人工智能技术与刑事审判融合的探索。2017年2月6日，“上海刑事案件辅助审判系统”即“206系统”正式立项开发；北京高院依托人工智能、大数据、云计算等技术研发推出“睿法官”人工智能司法系统。“睿法官”在立案、庭审、文书撰写各个环节都能为法官提供必要支持，既提升了诉讼效率、节约司法资源还能保证案件审判质量[10]。

生成式人工智能不同于“弱人工智能阶段”的传统人工智能技术，其具备自主学习、泛化能力强、交互修正等新特性，对比传统人工智能技术具有变革性意义[11]。生成式人工智能的自主学习能力能够通过建立巨量数据库的学习模型来不断学习、理解使用者的提问内容，泛化能力可以执行更为普遍通用的任务，既能满足专业性需求也能满足一般程序性事务需求，而交互修正则是可以在使用中结合输入内容与反馈不断修正内容，提高生成内容质量品质。生成式人工智能技术与刑事审判结合，能够充分发挥技术特性优势，依托我国巨大的刑事审判业务数据库学习刑事审判理论。由生成式人工智能扮演“AI法官”角色在审判过程中辅助法官在立案审查、证据审查、量刑辅助、文书撰写等环节进一步发挥高“拟真度”和交互修正力强的优势，协同专业法官高质量完成各项审判工作，并在审判活动中基于原始语言模型结合实践中获得的大量审判经验，通过不断自我更新迭代提高生成内容质量和效率，拓宽生成式人工智能司法服务范围，实现刑事审判业务的赋能增效。

三、可能路径：刑事审判与生成式人工智能技术结合

生成式人工智能技术应用于刑事审判必然涉及司法裁判正当性的讨论。已有学者提出，虽然技术革新使得人工智能司法具备巨大潜力，能够极大提高司法效率，但完全的人工智能裁判依然缺乏正当性，其不具备裁判主体的正当性[12]。本文认为，基于目前人工智能发展阶段和数字司法建设进程，应当以生成式人工智能技术作为优化和辅助刑事审判的技术工具而非取代专业审判人员的“AI法官”。

(一)庭审实质化的“AI法官助理”

根据以审判为中心的诉讼改革方向要求，庭审实质化意味着走流程模式的庭审将成为历史。实质化的庭审活动要求法官在庭审中充分听取双方辩论意见，对事实和证据进行实质化审查，这也意味着在开庭时法官将承担更多任务要求，这些任务既包含实质层面的法律、事实问题也包含形式层面的程序性问题，生成式人工智能与审判的结合就显得尤为重要。

生成式人工智能在庭审活动中可以辅助法官完成对证据的审查认定。例如，庭审实质化的刑事审判活动要求充分听取控辩双方的意见，而由于言辞证据具有易变性，被告人当庭作出的供述可能与先前供述存在矛盾、不一致的情形甚至出现当庭翻供的情况。因此，关于言辞证据内容是否发生变化的审查可交由生成式人工智能处理，庭审时由生成式人工智能自动记录被告人的当庭供述内容并自动与先前供述进行比对，并自动生成对比报告提示法官是否出现供述矛盾、不一致的情形。

生成式人工智能具有高“拟真度”和“多维度应用能力”。一方面，生成式人工智能可以充分发挥“拟真度”的优势，充分理解庭审活动中各诉讼参与人的发言内容，自动形成庭审笔录并根据法官的要求进行实时调整，辅助诉讼参与人出示证据，自动检索相关法律规范内容供法官参考；另一方面，生成式人工智能的“多维度应用能力”与复杂的社会现实相匹配，刑事审判活动绝非是一场仅仅关乎法律专业知识的辩论，查清犯罪事实正确适用法律，既需要大量的法学专业知识作为基础，同样也需要对案件所涉领域的专业知识有一定了解。例如，在涉嫌医疗事故犯罪的案件当中，法官如若对医疗事故鉴定报告进行实质审查就必须具备一定医学知识，在经济犯罪案件中大量的金融数据和会计账目需要经过专业人士的解读才能为合议庭所理解，而审查认定这些事实都需要一定专业基础作为依托。人工智能全面性的优点能够填补法官认知判断的局限性[13]，生成式人工智能的“多维度应用能力”成为审查认定事实的强力助手，生成式人工智能拥有远超人类的学习、记忆能力，可以掌握各领域的专业技能，由此在刑事审判中可以辅助法官对犯罪事实中涉及到专业知识内容的部分进行审查认定，由生成式人工智能提出相关的专业意见，法官可依托生成式人工智能的“专家意见”对证据的关联性、合法性、客观性进行审查，也可以对庭审中专家证人发表的专家意见进行专业化的审查判断。

(二)辅助量刑

计算机科学技术介入量刑并非人工智能时代的产物，早在2004年山东省淄博市淄川区人民法院在审理一起故意伤害案时就使用规范量刑软件系统进行量刑，只需要输入被告人的犯罪情节电脑就会生成对应刑期[14]。由于过去计算机科学技术水平有限，软件程序只能机械地执行预设命令，缺乏主动创造性和高拟真度。有学者对电脑量刑提出异议，认为使用电脑量刑所追求的只是机械的公正，电脑量刑不能考虑到个别化情景并且缺失了法官的价值判断，无法追求真正的公平正义[15]。但随着人工智能技术的普及和应用，尤其是生成式人工智能技术的出现，前述问题将能够得到妥善解决，这涉及两方面的变化：一方面，从技术上，生成式人工智能技术具备高拟真度的特点，能够以拟人思维进行思考和表达，在对案件事实进行综合分析研判时能够模拟人的视角进行分析；另一方面，使用生成式人工智能技术辅助量刑并非取代法官在量刑中的作用，而是借助生成式人工智能的先进生产力辅助法官完成量刑。辅助量刑过程中生成式人工智能可为法官提供量刑所参考的各种依据并提供量刑建议，而最终的量刑决定仍是经过法官自由裁量后含有人的价值判断的结果。

目前，在司法实践中，各地法院在对被告人定罪量刑时都会依据最高人民法院和最高人民检察院联合发布的《关于常见犯罪的量刑指导意见(试行)》(以下简称《意见》)以及各地方高院发布的具体细则完成量刑工作。《意见》中规定了各种犯罪的基准量刑起点及具体情节的加重或从宽处罚幅度，《意见》的发布为生成式人工智能提供了学习参数模型，生成式人工智能可以发挥高拟真度优势，在领会《意见》规定基础上辅助生成量刑意见。

前述学习过程实际上即“强人工智能阶段”的生成式人工智能“深度学习”路径。从技术层面而言，具体学习路径由以下几个阶段组成：“自然语言—法律语言—‘计算机语言+算法化的法律规范’=裁判”[16]。由此生成式人工智能辅助量刑，能够从被告人违法犯罪前科背景、认罪认罚情况、社会影响、再犯风险等法定、酌定量刑情节方面为法官提供量刑建议，也可以根据法官拟量刑幅度进行量刑幅度预警，结合过往类案的上诉、抗诉情况以及类似情节的量刑结果以及《意见》规定的自由裁量幅度，提醒法官量刑结果是否过严或过宽，能够提高诉讼效率节约有限司法资源。

(三)完善类案裁判机制

基于法律面前人人平等的原则要求，类案的判决不应当出现相差较大甚至矛盾的裁判结果。因此，为统一裁判尺度维护法律的公平正义，2017年8月，最高人民法院发布《最高人民法院司法责任制实施意见(试行)》。该规定要求承办案件的法官在办案过程中应当进行类案检索并制作类案与关联案件检索报告。发挥类案的指导功能是形式正义的要求，无论在英美法系还是大陆法系国家，类似的情形得到类似的对待都是公平正义的基本要求[17]。刑事案件的审判不同于民事案件，刑事案件关乎被告人的人身自由和基本权利，因此，其对刑事案件的证明和裁判提出更高的要求，必须做到事实清楚证据确实充分，定罪量刑准确。但是，在司法实践中却存在着大量罪与非罪、此罪与彼罪、罪重罪轻的模糊地带，在这类案件的审判中参考类案的裁判结果成为实现公正审判的关键。生成式人工智能技术的出现可以在深度学习“事物本质思维”的基础上，通过专门算法训练，在类型化的基础上结合案件要点形成可视化的类案知识图谱，为法官提供类案裁判标准[18]。

生成式人工智能的大模型技术原理决定了其需要以海量数据作为学习基础，只要能够满足海量数据需求并辅以专门训练，生成式人工智能就可以形成类似人的理解方式和思维模式，应用于专业领域后可根据相应需求生成正确内容[19]。生成式人工智能大模型训练中学习的数据量越大，生成内容质量越高。我国司法实践中积累的亿万裁判文书成为了生成式人工智能充分发挥大模型学习优势的数据库，依托司法实践中产生的海量判决结果生成式人工智能在专业人员的辅助训练下可以形成可视化类案知识图谱，将不同类型案件自动学习归类。前述生成式人工智能深度学习“事物本质思维”与类案知识图谱的融合指的是将案件的客观事实与法律规范中构建的框架事实相结合，能够将二者相连接的点是主体、行为、法益等要件，而这些要件可以成为分析判断类案的比较点。因此，生成式人工智能可以在深度学习这种思维模式的情况下，按照各类型案件事物本质的要点进行类案分析研判，根据法官提出的案件信息将类案推送结果呈现给法官。

四、介入限度：刑事审判中生成式人工智能的应用治理

数字时代生成式人工智能技术应用于现代法学领域必然会带来一系列问题，面对日新月异的数字技术我们决不能因噎废食，但在进一步推动技术与制度深度融合的同时也必须稳步前行，正确处理技术与制度的矛盾，从技术辅助层面推动刑事审判发展前进。

(一)算法黑箱与司法公开的平衡

生成式人工智能离不开算法技术的支持，算法虽由人编写完成但算法逻辑运行层面却存在着不透明和不可解释性特征，算法“黑箱效应”难以避免，并且在司法实践中已经出现认为算法“黑箱效应”会影响司法公正的质疑[20]。算法“黑箱效应”在一定程度上与司法公开的要求形成了矛盾。例如，生成式人工智能依据其算法逻辑生成量刑建议，但生成过程和依据无法充分向被告人解释，这在一定程度上侵犯了被告人的辩护权。由于结果的不可解释性和不透明性被告人无法针对生成量刑建议的理由进行辩驳，使得被告人的诉讼权利保障成为问题。

为应对算法技术发展带来的一系列问题，学界有观点认为可通过算法透明原则来解决诸如算法“黑箱效应”等技术特性带来的问题，通过要求算法开发的主体公布源代码等算法要素来实现算法透明[21]。从技术层面讲，公开算法源代码只是形式上的公示，不能满足司法实质公开的要求，公布源代码对于缺乏专业计算机知识的被告人来说无法起到保障辩护权的作用，偏离了算法“黑箱效应”问题的核心本质。虽然将源代码公开可以起到公示公信作用，但借助传统审判活动来理解，人们对司法裁判不满主要集中于“结果”而非“过程”，由法官自由心证产生的判决结果也存在类似的“黑箱效应”，即使在判决中充分释法说理能够证成的也只是裁判结果而不包括自由心证过程[22]。因此，算法“黑箱效应”与司法公开相协调的关键并非在于打开“黑箱”而是如何妥善处置“黑箱”。

刑事审判中实现算法技术特性与审判公开相协调必须限制生成式人工智能的应用场景，虽然“黑箱效应”无法从根本上解决，但可以通过合理规制生成式人工智能在刑事审判中的应用场景来规避“黑箱效应”的负面影响。从类型性理论的角度出发，对于需要充分解释产生过程以及合法性来源这一类型的审判活动，应当避免单独使用生成式人工智能代替法官进行。生成式人工智能的生成内容可作为参考依据，但不能享有“准据法”地位，司法决策最终仍要由法官作出，并且，法官不能单独依据生成式人工智能的生成内容进行司法决策。

(二)独立行使审判权与生成式人工智能的介入相协调

传统的独立行使审判权原则要求法官不受任何单位、团体、个人的影响，依据法律和事实独立作出判决，即重点在于排除外在人员对司法审判活动的不公正干扰。进入数字时代人工智能技术的出现也带来了人工智能是否具备主体地位问题的相关讨论。本文并不认为人工智能具备法律主体地位，但认为应当重视人工智能尤其是具备“高拟真度”的生成式人工智能在法律实践中的应用角色。因此，数字时代的独立行使审判权还包含了不能以技术代替人的要求，要在发挥法官的主导作用的同时，充分利用科技手段，以达到提高诉讼效率维护司法公正的目的。

生成式人工智能经过专业人员配合专业语言模型训练可以在一定领域内成为具备“高拟真度”的“AI专家”，但生成式人工智能在思维逻辑方面与人存在着质的区别。在思维逻辑层面，人的思维可以被细分为形象思维、抽象思维、社会思维等多种思维方式，而在人工智能领域，对于逻辑思维的研究最为成熟。因此，逻辑思维也构成了人工智能的的算法基础，所以生成式人工智能可以在数理逻辑思维方面具有较大优势，但人的思维模式却不止于数理逻辑思维，生成式人工智能目前尚未具备其他思维能力[23]。法官作为自然人拥有着生成式人工智能所不具备的多种思维模式，庭审过程中法官可以通过对被告人情绪变化、面部表情以及证人作证时的神色进行观察从而得出自己的心证，而这是生成式人工智能所不具备的能力，即使其可以通过摄像技术细致分析人的面部表情变化也无法真切感受到人的情绪。每一桩案件的判决结果都受法官价值判断的影响并会对社会产生一定作用，法官的价值判断是在多种思维模式影响下基于当前社会公序良俗等因素综合考量产生的，这也是生成式人工智能所无法模拟的判断过程。

保障法官独立行使审判权而不受到生成式人工智能介入的影响必须坚持辅助性原则。在审判中心主义的建设中要求利用科技手段将法官从非审判实务中解放出来，将审判辅助工作交由人工智能替代，使得法官有更多精力投入核心审判工作[24]。法官在核心审判工作中并非不使用生成式人工智能，而是应当将生成式人工智能定位为辅助性角色，可以通过生成式人工智能完成程序工作，分析提供各类参考意见，但最终的价值判断和司法决策必须是完全独立作出而不能依赖于生成式人工智能。因此，审判活动中应用生成式人工智能技术必须注意使用限度，既要在广度上满足规定的应用场景，也要在深度上满足合理使用的程度要求。

(三)刑事审判的地方性与生成式人工智能的兼容

在我国的司法实践中由于各地在经济发展水平、文化传统、治安状况、刑事政策等方面存在差异，反映到刑事审判程序中也显现出一定的地方性特点。例如，在刑事证据规则方面，在我国刑事司法领域中各地司法机关分别结合地方特点，制定、颁布了地方刑事证据规则，这些具备地方性的刑事证据规则虽然存在着影响法律统一适用的争议，但在地方的司法实践中发挥了重要作用[25]。在关乎被告人刑罚轻重的量刑问题上，也存在着大量的地方性刑事司法规则。在北大法宝数据库以量刑指导意见为标题进行检索，结果显示效力层级为地方性法规的量刑指导意见共有80部，实践证明地方性因素对刑事审判程序有着巨大影响，我们不能忽视刑事审判中的地方性因素。

我们应当认识到在刑事司法这种关乎人权保护的特殊领域之中，人工智能技术还存在着一定的应用局限性。例如，刑事司法实践中的地方性因素能够导致相同的量刑情节无法得到相同的量化赋值评价，但人工智能算法模型往往立足于从全国范围进行数字提取与建模[26]。生成式人工智能的算法训练需要以大量数据为基础，在早先的司法实践中诸如北京“睿法官”、上海“206系统”等地方人工智能司法辅助系统开发过程中都是以地方司法数据为训练基础并在地方进行应用，所以并不会出现因为地域属性而导致的“水土不服”问题。法律实质上是一种地方性知识[27]，进入数字时代，我们在普及、推广生成式人工智能应用于刑事审判时必须考虑各地司法的地方性因素与生成式人工智能兼容的问题。

实现生成式人工智能与刑事审判的地方性兼容需要从两方面入手：一是从开发层面出发，要实现生成式人工智能刑事审判辅助系统开发的条块结合，即在最高人民法院、最高人民检察院的主导下，开发研制基本的生成式人工智能司法系统框架，各地法院可在此基本框架基础上通过结合地方性法律文件等内容作为训练数据库来进一步优化升级生成式人工智能算法模型；二是从应用层面出发，在司法实践中充分发挥人的主观能动性，在涉及诸如量刑等存在地方性因素影响的领域中，应用生成式人工智能时必须坚持辅助性原则，以辅助法官完成流程性事务为主，在涉及司法决策的程序中法官只能根据案件事实和法律作出相应司法决策，生成式人工智能只能提供参考意见以及对决策内容进行形式审查。

五、结语

以ChatGPT为代表的生成式人工智能技术的诞生将带领人类社会进入强人工智能阶段，数字法学在强人工智能阶段的发展并非以完全颠覆现代法学为目的，而是以数字时代的技术为支撑从方法论层面对现有法律制度进行革新。人工智能的研究不仅包括算法模型和数据的研究，也必须对它所产生的社会关系和后果进行研究。后者是基础也是主体[28]。生成式人工智能技术快速发展的今天，我们必须重视其在刑事司法的重点领域——刑事审判中所可能扮演的角色和发挥的作用。生成式人工智能在刑事审判领域的发展绝不会是一帆风顺的，以辩证的眼光看待生成式人工智能，既要利用好生成式人工智能技术的强大生产力，也要处理好技术两面性带来的风险和应用问题。因此，对于生成式人工智能应用过程中存在的社会风险、法理风险等问题要审慎对待，探寻生成式人工智能与刑事审判的最佳结合点，以数字技术推动现代法学不断转型升级。