刑事审判中人工智能的进与退

陈思桐

（武汉大学法学院，湖北 武汉 430072）

人工智能有两大主要目标：一是技术层面的，利用计算机完成有益的事情；另一个是科学层面的，利用人工智能概念和模型，帮助回答有关人类和其他生物体的问题。[1]人工智能要提供有益的智能①阿西洛马会议达成了23 条人工智能原则，第1 条规定人工智能研究的目标是“建立有益的智能（beneficial AI），而不是无向的智能”，确认了“有益于人类”是人工智能发展的目标。详见皮勇：《人工智能刑事法治的基本问题》，载《比较法研究》2018 年第5 期。，协助人类提高效率，完成有益的事情。在刑事司法领域，智能法院的建设已经如火如荼。我们对人工智能在刑事司法中运用的限度，一方面感到迷茫，另一方面感到忐忑，原因在于我们不能否认人工智能可以深度赋能刑事司法，但又忧虑失去社会公正最后一道防线的掌控权。刑事审判是刑事诉讼中最为关键的一个环节，关系到法官对整个刑事案件的事实认定、证据采认、法律适用以及定罪量刑。在刑法的层面思考，如何将人工智能提供的便利最优化，协助司法人员公正司法，是本文讨论的出发点。

一、人工智能：辅助刑事审判的“新贵”

不能否认的、也不能逆转的趋势是，人工智能已经成为辅助刑事审判的“新贵”。我国不少地方法院已经开始尝试人工智能与司法审判的对接，有一些新兴尝试已经走在了这场“人工智能浪潮”的前沿。法院智能化与信息化同时成为司法界与科学研究领域的新兴课题。

人工智能（Artificial Intelligence）又称为机器智能或计算机智能，其中“智能”的含义是指人为制造的或者由机器和计算机表现出来的一种智能②像许多新兴学科一样，人工智能至今尚无统一的定义，不同科学或学科背景的学者对人工智能有不同的理解，这些理解分别为符号主义、连接主义和行为主义等。具体见蔡自兴：《人工智能及其应用》（第5 版），清华大学出版社2016 年版，2-3 页。，是人的目的行为与理性思维相结合的产物。而“人工”一词则将“人工智能”区别于“自然智能”，特别是人类智能。人工智能的研究目的是建立最接近人类认知水平的智能模型，模拟人类的预测、学习、推论和沟通等活动。[2]按照人工智能实力的强弱，人工智能可分为弱人工智能、强人工智能和超人工智能。我国目前处于弱人工智能发展阶段，更可能在这一阶段实现赶超人工智能研究发达国家，适宜的刑事法治环境是实现这一目标的重要条件。[3]以现有技术水平为基础，适当展望未来，是刑法学思考如何与人工智能技术迅猛发展态势相接轨的应有姿态。

（一）人工智能在刑事司法中的发展现状

最高人民法院2016 年、2017 年的工作报告中均提出“加快建设智慧法院”的工作要求，2017年工作报告中总结了“开发智慧法院导航系统”“深入推进智慧法院建设”“以网络化、阳光化、智能化为特征的智慧法院初步形成”等内容。智慧法院的本质是审判体系和审判能力的现代化，核心是人的智能现代化。[4]将人工智能技术运用到刑事司法审判领域，是人的智能现代化向刑事审判领域延伸的表征。

本文通过梳理最高人民法院信息中心官方微信平台“智慧法院进行时”中发布的全国各地法院的智慧法院建设报告文章，通过分析得出，人工智能在刑事司法审判中的运用呈现纵深化发展趋势，并非流于形式，也非“空口号式”发展。部分地方法院已经走在这场人工智能浪潮的前线，上海高院的刑事案件智能辅助办案系统通过运用深度神经网络和图文识别技术（OCR），进行智能识别、定位和信息提取，实现了对单一证据的自动校验，目的在于建立统一的刑事证据标准，推进以审判为中心的诉讼制度。[5]浙江省玉环法院研发的“一体化办案系统e 助理”，实现了刑事案件从立案到归档全流程电子卷宗深度引用的数据融合与对接。①“e 助理”系统内的部分对于刑事电子卷宗智能化应用功能在全国范围内尚属首创，利用“阿里飞狐”人工智能技术，建成多个场景司法辅助机器人（RPA），即通过机器人实现并代替人完成重复性的任务，主要针对刑事审判流程各个环节进行智能化改造，实现一键立案、一键送达、一键调警、一键结案、一键生效执行、一键转档、一键文书上网等功能，使电子卷宗的深度应用更加智能化。详见陈绍青：《刑事案件难办理？浙江玉环法院“e 助理”再添“羽翼”！》，https：//mp.weixin.qq.com/s/VwuTRl8A7uXpXUXnP5J-3A。河南郑州法院智能系统自动、及时、准确推送与案件相关的法律法规、司法解释、参照案例、计算工具、量刑标准等。[6]江西抚州法院“诉讼风险评估”“智能诉状生成”服务一体机基于大数据和人工智能完成海量起诉状和案件裁判分析、整理和提炼，形成各类案件诉状要素、诉讼风险评估要素。②当事人可以通过回答引导问卷中的问题，就可以分别获得高效、格式化、免费的自助诉状生成服务和诉讼风险咨询服务。周阳、元春华、徐敏：《江西抚州“智慧法院”成果亮眼！指尖诉讼走进寻常百姓》，https：//mp.weixin.qq.com/s/zkhz3a S23NwEftEKcmV_Xg。由于各个地方的经济发展和科技水平不一致，各地法院发展人工智能辅助审判系统的进度和深度亦差别较大，总体上看，均利用了基于大数据前提下的人工智能深度学习的能力。

综上观之，本文认为可按照不同功能将人工智能在刑事司法审判中的运用分为四方面，第一是衔接与分流，即随机分案、诉调对接、繁简分流；[7]第二是辨识与审核，即提供计算机视觉，以及图像和人脸识别技术，辅助实现诉讼主体身份验证；[8]通过机器学习等技术提取和校验单一证据；第三是预测与评估，类案推送，对案件的判决结果进行预测，为当事人提供法律咨询和诉讼风险咨询；第四是转写与生成，庭审语音转文字及司法文书智能生成。

（二）人工智能在刑事审判运用中的忧患

人工智能的运用究竟能辅助司法审判达到何种程度，实属未来可期，尤其在刑事审判领域，地方法院纷纷加入这场科技浪潮，忧患意识更能促进我们对人工智能辅助刑事司法审判的理性认识。本文认为，人工智能在刑事审判中的运用存在以下的忧患。

1.司法公正是否能够容忍算法黑箱③在人工智能输入的数据和其输出的答案之间，存在着我们无法洞悉的“隐层”，它被称为“黑箱”（blackbox）。这里的“黑箱”并不只意味着不能观察，还意味着即使计算机试图向我们解释，我们也无法理解。参见许可：《人工智能的算法黑箱与数据正义》，载《社会科学报》2018 年3 月29 日第6 版。的存在。首先，算法黑箱的不透明性是否具有正当性。观察目前学界的讨论，算法黑箱面临众多否定和质疑。中间的分析论证过程不可见，这种机器学习算法的不透明性挑战了法律的可预测性和确定性。[9]人对客观世界的认识是一个逐步清晰化、明朗化的过程，在这一过程中，客观世界的可知性和可解释性让我们更加坚定自身的角色定位。对于作为自然角色与社会角色相融合的个体而言，一项政策或一套制度如果能够被合理解释，国民更加能够从内心去接受和信服。“在小数据时代，很难证明由直觉而来的因果联系是错误的。将来大数据之间的相关关系，将经常会用来证明直觉的因果联系是错误的。最终也能表明，统计关系也不存在多少真实的因果关系。大数据技术引发思维变革；应更为关注事务之间的相关关系，而不是探索因果关系”[10]，智能时代的思维模式并不是传统的因果关系，而是相关关系。或许这种人工智能时代的新思维会挑战我们这种传统的思维范式，但是就目前来看，这种对可解释性具有强烈需求的思维仍旧是我们最为熟悉和信赖的，重要问题的决策、重要技术的运行依旧需要具有可解释性。再者，算法黑箱的正当性一旦被承认，甚至仅仅是得到默许，都可能给司法活动带来极其严重的影响。原因在于不可解释性使得人工智能在权利义务的归属分配方面会更多地从属于人工智能开发团体的内部规则而非国家法律。因此算法黑箱的正当性问题会伴随着人工智能的发展一次次被摆在司法人员和科技人员面前。于是需要进一步思考的是如果算法黑箱始终伴随着人工智能的发展，如何平衡司法的公开透明与算法黑箱的关系。生产资料之间的信息变得越来越对称，但作为信息匹配中介的人工智能则越来越不透明，其规则设计和运作从属于用户甚至开发者无法理解的秘密状态，[11]但确定性是刑法罪刑法定的要求，司法透明是刑事审判程序运作完美和结果公正的准则。刑法和人工智能不同，刑法将复杂的社会现象抽象成一般性的规则条文，以适用于社会大众，而非仅为单一个体所制定。法律最本质的特征，即“深度不学习”。[12]此外，如果强制公开算法的全部代码以示透明能否真的解决国民对人工智能在刑事审判中运用的疑虑。本文认为算法即使全部公开，也未必能满足社会大众对算法可解释性的需求，而且全部公开可能涉及人工智能开发企业的商业秘密和个人隐私等问题。这也是后文提出设立禁区的原因之一。

因此在司法公正零容忍算法黑箱的前提下，我们依旧对算法提出了可解释性的要求，只有算法具备可解释性，不至于在发生误判结果的时候产生责任分配的鸿沟，才能承认其在司法审判中的运用具有正当性。

2.基于人工智能系统下的类案推送以及服务外包的开发模式如何具有长远性。2017 年十八届中央全面深化改革领导小组第38 次会议审议通过《关于加强法官检察官正规化专业化职业化建设全面落实司法责任制的意见》，第11 条提出“完善智能辅助办案系统的类案推送等功能”“推广外包服务方式”。基于遵循“法律面前人人平等”原则的刑事政策这一出发点，以“类案推送”为主要功能的智能辅助审判系统已经在司法领域得到应用，但真正意义上实现人工智能类案推送仍面临许多技术层面和法律层面需要厘清的问题。

类案推送着眼的根本问题在于逐步减少同案不同判与类案不类判的现象，通过发掘隐藏在众多类似刑事案件中的共同逻辑，形成统一的定罪标准和量刑规范，实现司法统一。我国刑事审判中的同案不同判现象并非个例。比如以接受性服务的方式交易毒品的行为，能否构成贩卖毒品罪，地方法院确实存在不同的定性。原因在于一方面是法官对贩卖毒品罪、对非财产性利益能否作为贩卖对价的理解不同，另一方面是地区毒品犯罪的态势不同。更加能体现我国追求司法统一的是案例指导制度，1999 年《人民法院五年改革纲要》即提出将“有适用法律问题的典型案件予以公布，供下级法院审判类似案件时参考”，经过10 年的推进，2010 年《最高人民法院案例指导工作的规定》正式确立中国的案例指导制度，其中指出开展案例指导工作目的在于统一法律适用，维护司法公正。不仅如此，实行案例指导制度的机关不仅限法院，检察院和公安机关也有自身相应的检察指导案例和公安指导案例。类案推送相比于指导性案例来说，官方权威性不足。且目前各地区法院有自己的试点，不同的人工智能辅助审判系统研发公司缺失统一的顶层规划与设计，[13]这使得司法人工智能类案推送系统的发展呈现各自为政的局面。但如果地区法院的类案在范围上有所限制，那推送的类案进行迭代之后，无异于建立起一面无形的网络围墙，法官在使用智能辅助系统类案推送功能的时候只能在自家网络围墙之内转悠。类案推送系统目前发展面临技术层面的问题如案例数据不充分、推送案例的可参考性不强、来源不够明晰，尚未能以直观的形式实现刑法规范、案件疑难争议以及法律推理的关联，我们更需要从司法应然层面思考，人工智能类案推送在有指导案例制度的前提之下，是具有法律上的指导意义，还是仅具有参考意义？本文认为类案推送研究的目的与指导案例的目的并行不悖，但类案推送的基本案例数据需求大，指导性案例的数量相比之下较少，因此应当对类案推送的案例进行分级，人工智能系统根据案例的等级决定推送的顺序，指导案例应当优先于其他指导意义有限的案例。

此外，实行外包的开发方式实际是通过司法系统外部科技因素来缓解司法系统内部人工智能研发水平不足的困境，目的在于为司法机关简化开发项目的复杂度，使司法活动更加集中化和专业化。应当注意到，外包是科技公司与司法部门合作开发的产物，而开发活动目前基本是基于委托开发合同的约束之下进行的，开发的项目尚且处于一个实验期，法律法规尚未对相关活动作出反应。即使将来存在较为完备的监管措施，也不能否认外包政策的确让司法系统由闭合状态转变为半闭合半开放状态，这也是后文强调应当设立禁区的原因之一。

因此，类案推送并非对指导案例制度的超越，主要目的不在于实现机械性的“同案同判”“类案类判”，通过类案推送实现司法统一的目标依旧任重道远；外包开发应当慎重，避免无形中将刑事审判权利外放。

3.智能辅助刑事裁判存在不确定性和可解释风险。[14]这种不确定性更加明显地表现在，人工智能分析的结论如果提供刑事审判定罪和量刑的参考结果，需要思考的问题则纷至沓来：该参考结果的可借鉴度能达到的百分数如何确定，是否需要统一划定，是否遵循个别罪名个别标准、类罪名类标准；结论性裁判意见能否作为案件裁判的合法有效的证据；[14]智能辅助刑事裁判的判断结果在判决书中是否有一席之地，法官在判决书的论证内容里是否需要注明采用其分析的缘由，抑或论证不能采用其分析的原因。上述问题均考验着拥有不确定性的智能辅助审判系统。完全放任、不加管制的开发将会导致司法实践完全依赖智能刑事裁判，造成判决书的说理懈怠，人类智能某种程度上让位于机器智能。

4.刑事审判如何看待人工智能系统预测审判结果的偏差率。本文认为首先应当回答前提问题，即人工智能的存在与发展究竟是要模仿人的思维，还是追求误差值为零的结果。这个问题的答案取决于偏差的存在是否有合理性。人工智能的近期研究目标和延期研究目标均以模拟人类智能和思维活动为主。①人工智能的近期研究目标是建造智能计算机以代替人类的某些智力活动；远期目标是用自动机模仿人类的思维活动和智力功能。详见蔡自兴：《人工智能及其应用》（第5 版），清华大学出版社2016 年版，18 页。人的认识总是带有主观性，认识事物也是存在客观偏差的，模仿人类思维的目标定位说明了偏差存在的合理性，但是人又是不断追逐完美的动物。因此偏差最小化，应当是建立人工智能系统一个目标之一。

5.智能系统所面临的网络安全威胁使得刑事审判面临风险。2018 年12 月3 日我国工业和信息化部最新在官网上发布的《2018 年第三季度网络安全威胁态势分析与工作综述》中，总结了网络安全威胁态势的四个特点，即恶意程序和内部完全管理机制不完善致使用户数据泄露，云计算平台管理、运维、防护等不足，勒索病毒如WannaCry、Globelmposter 频繁攻击，网络安全漏洞持续新增。而在《2018 年第一季度网络安全威胁态势分析与工作综述》中，黑客组织篡改网页事件仍有发生，且特别指出2018 年政府机关网站被篡改事件2 起，与2017 年第一季度的政府机关网站被篡改的事件数量相比，减少约80%。①参见《2018 年第三季度网络安全威胁态势分析与工作综述》，http：//www.miit.gov.cn/n1146285/n1146352/n3054355/n305 7724/n3057728/c6521859/content.html；参见《2018 年第一季度网络安全威胁态势分析与工作综述》，http：//www.miit.gov.cn/n1146285/n1146352/n3054355/n3057724/n3057734/c6363977/content.html。报告显示，我国网络安全的形势十分严峻，且我国地方法院的互联网技术发展参差不齐、互联网环境安全系数高低错落，智慧法院建设对法院网络的保密工作提出了更复杂的挑战。

二、自由与秩序兼顾：人工智能提供有益智能

（一）自由空间：人工智能的刑事司法工具性

首先需要厘清，本文所指自由空间与禁区，并非讨论在该领域能否适用人工智能，而是指法律是否承认在这一领域使用人工智能的效力。人工智能在刑事审判中的“自由空间”是指法律在一定的预设空间内承认人工智能运用的效力，而人工智能在刑事审判中的“禁区”是指法律不承认在这一预设空间内运用人工智能的效力。设立自由空间和禁区，是平衡司法公正与鼓励科技创新的着力点。在刑事审判中拥有自由空间能够促进人工智能发挥具有辅助性质的工具作用。本文认为，人工智能在刑事审判中的自由空间应当是协同促进、管理记录、文书初稿形成三个层面，人工智能在自由空间中充当“陪伴”司法人员进行司法活动的角色。

其一，从协同促进层面来看，在法官审理案件期间，人工智能作为认知工具来辅助法官充分挖掘刑事司法大数据中的隐秘知识、深层规律和行为结果模型，[15]加强法官对于刑事案件大数据的整体把握，提高法官逻辑演绎、归纳推理能力和审慎思维的深度运用。社会结构与进化逐步随着文化世界的不断膨胀而复杂化，人类个体需要通过学习来达到对社会的进化施加权重更大的影响，然而受生物进化的客观规律支配，个体的学习能力不能在短时间内迅速实现突变，在延长系统学习之外还有两条重要有效的进路，分别是专业化和发明各种能增强学习能力的工具。因此人类在发展的过程中进化出许多认知工具，例如手机、计算机、互联网，这些认知工具不仅代替人类执行重复性工作，还可以与人类的思维协同发展以创造更多元的知识，[16]帮助人类更好地开拓未知世界，而非代替人类去思考和理解。

在刑事审判当中，判断被告人是否成立犯罪，具体定什么罪名以及量刑，法官的思维并非一蹴而就。类案推送以人工智能的深度学习，抽取刑事司法案卷中的犯罪具体事实情节、定罪罪名、量刑、相关法条等形成类案仓库。法官在对案件的审理过程中，首先形成对案件事实和法律定性的内心确信，即大致的审理，然后根据记忆中的法理和现有法律，运用推理规则去论证这一内心确信。在人工智能系统对证据进行收集和固定之后，法官有更多的空间去重视分析过程，使得裁判决策从“决策—论证”回复到“论证—决策”的过程，[17]法官从大数据中获得刑事司法数据的极值、分布和变化趋势，克服思维的局限性和偏差，从而得出一个具有逻辑性的结论。

其二，从管理记录层面上看，“管理”体现为在电子卷宗的深度运用前提之下，进行证据形式审查和证据清单完整性审查，涉案人员身份核验等形式认定工作，“记录”体现为审判全程留痕。刑事审判的流程较为繁杂，人工智能辅助系统全程记录具体详细的审判流程，并结合刑事诉讼法规范判断进度是否符合刑事诉讼法的时间、数量和签名盖章等要求。刑事案件的阅卷是极其关键的审判环节之一，是高质量庭审的保证。人工智能辅助系统记录“有痕”阅卷的时间、笔记、流程定点签到，整体智能判断是否合乎规范。

其三，从文书初稿形成层面上看，人工智能辅助系统根据预设的法律文书框架和固定文本，智能提取电子卷宗中的案件要素，形成不同刑事诉讼阶段的初稿文本，司法人员再根据案件具体情况的需要决定是否需要对初稿进行调整。

（二）黑色禁区：秩序

人工智能在刑事司法领域的应用，必须有明确的禁区。[18]究其正当性之根本，即司法权是司法机关独立行使的权力。在刑事司法中，适用刑事法律进行司法的主体是人，即居于核心地位的法官。[19]具体来说，本文认为原因如下。

其一，法官的居中裁判地位是刑事诉讼控辩审三方形成“等边三角”格局的关键。法官对案件事实和情节形成内心确信的过程中，夹杂着理性因素和感性因素。在众多因素中，主要起作用的是法意识①即职业法律工作者、法学专家在世界观性质的法律意识形态和专门法律知识的基础上形成的、并且积累了法律实践、适用法的活动的经验和主管机关对法的各方面内容（包括对专业法律内容）的理解的法的观念。参见陈兴良：《刑法的人性基础》，中国人民大学出版社2006 年版，470 页。，这是刑事判决结果的思想基础。

其二，目前我国人工智能辅助刑事审判的技术开发工作主要是外包形式，也即是将整个工程交由专业的科技公司或团队研究开发。正如上文所述，外包政策是一个适应我国司法系统科技水平的选择，然目前缺乏完备的监管机制，双方的权利和义务、法律责任均由委托开发合同规制，设立禁区可以有效地防止将刑事司法权“外包”。

其三，智能技术运用造成纠纷解决场域弱化。[20]当庭控辩审三方的局面正是把所有的指控、案情、证据、被害人的诉请摆到台面来，实实在在地定罪量刑与维护人权。辩护制度不应当成为基于对证据的逻辑演算后胜负结果的机器输出的牺牲品。禁区的设置应当缓解这个尴尬的境地，还控辩双方足够自由的纠纷对峙环境。黄京平教授首先明确提出了人工智能在刑事司法中的禁区，即案例规则及其调整，与非正式制度如刑事政策、改革试验、地方规范等等。[21]这无疑是将人工智能在刑事审判中运用的可操作性向前推进一大步。刑事实体法实际上就是解决定罪量刑的实体法律。定罪解决犯罪的定性问题，刑事审判的定罪量刑以及具体事实的实质认定，均需要设立人工智能的禁区。具体而言，人工智能在以下几方面的运用不具有法律效力。

1.人工智能预测定罪量刑结果的法律效力。在现代国家治理体系中，法院是政府权力与个人权利之间关系的校准器，是秩序形成和维持的枢纽。[22]定罪量刑是刑事法官的使命，必须完全交由刑事法官主导。此外，人工智能辅助审判的目的并非是为了代替法官的劳动，而是辅助法官更为公正地适用刑事法律。如果人工智能预测定罪量刑结果具有法律效力，一方面会稀释法官在刑事审判中的重要中立地位，动摇刑事庭审控辩审三方平衡对峙的局面，甚至随着技术的发展可能会形成控辩审与人工智能四方对立的局面；另一方面，由人工智能预测定罪量刑结果并赋予该结果法律效力，容易过度约束法官在认定案件事实方面的自由裁量权，或者使法官仅满足于作出“证据确实、充分”的表面认定，从而造成机械司法，法官本末倒置地进行案件事实的形式认定，但最终由人工智能来敲锤定音，这样一来法庭辩论、二审终审、再审制度将“形同虚设”。

2.人工智能对证据的证据能力的实质判断。现实中人工智能已经在单一证据合法、合规性的自动校验领域有所作为，如上海法院的“206 工程”。[23]但本文仍认为，认定事实乃至定罪的最关键因子是证据，而裁判结果的得出须建立在实质判断的基础之上。刑事法虽然预设了证据资格的种类和条件，但面对五花八门的案件事实，有限的法律条文并不能预先涵盖所有的情形。证据能力的判断，并非只是一个证据是否符合法律预设，而是形式判断与实质判断的统一。证据是挖掘案件事实的关键，一个证据能否成为证据链条中的一环，应当是法官结合法律条文的规定，实质性判断这个证据是否具有证据资格。

3.人工智能对证据证明力以及闭合的证据链的判断。与证明力判断，以及所有证据汇集是否能形成一个完整闭合的证据链条需要法官结合案件实际进行实质判断。具体到非法证据排除，在刑事诉讼中，物证、书证在收集、固定和管理的过程中都有可能遭到破坏，或这些证据很可能是通过非法收集的途经得来的，特别是可变性强的言词证据。证据证明力以及闭合证据链的判断不可能仅仅是一个事实认定的问题，而是事实认定与法律判断相结合、形式判断与实质判断相统一的过程。证据是刑事诉讼法的血肉，但刑事诉讼法并非一部简单的证据法，我们设立刑事程序法与实体法相互辅助适用，目的就在于从实体和程序上均有效地惩罚犯罪和维护人权，因此在证据证明力以及闭合的证据链，包括上文第二点提到的证据能力的判断上，应当慎用人工智能。

4.人工智能对刑事案件疑难问题的价值判断与抉择。刑法条文颁布之后是静态的文字状态，其生命力需要由法官来赋予，刑法条文的精神就隐藏在刑事判决书里面。刑事法官的使命不仅要严格遵循罪刑法定原则适用刑法，保证司法公正，还需要追求个案正义。随着我国新时代主要社会矛盾的变化，新的社会问题也时常出现，刑法条文的修改不能完全亦步亦趋，应当在社会主流价值观的指引下科学运用法律解释方法对法律条文作出相应解释。同时，把握静态的刑法条文与动态的社会发展之间的关系，使得任何法律条文都不只是用来宣誓某种价值倾向，而是应当实在地根据社会认知进行价值判断与权衡。

三、原则与应对：刑事审判人工智能的工具性作用

为人工智能的运用设立原则是必要的。刑事审判运用人工智能的目的在于为审判活动提供有益的智能，而不是让它像经历生物演化一样没有确定的发展方向。例如在什么原则的指引下去设计和投资人工智能系统，使其在刑事审判的运用当中具有算法的鲁棒性；①鲁棒性又称健壮性，是指对非法输入的抵抗能力。当输入的数据非法时，算法不应是中断程序的执行，而应恰当地做出反应或进行相应的处理。周元哲等编著：《程序基本算法教程》，清华大学出版社2016 年版，7 页。或者是在什么样的原则之下通过自动化辅助司法实现独立公正，同时不打破资源和目的的平衡。总体上看，应当坚持在刑事诉讼中人工智能的工具性作用最优化原则。其内涵为应当充分发挥人工智能的工具性作用来辅助刑事审判，具体的子原则如下。

1.司法人员主体原则。即坚持司法人员在刑事审判中的主体地位。犯罪的刑事处罚作为一项刑事审判活动，其审判权只能由法院行使，即人工智能无法代替司法人员成为刑事审判的主体。我国的庭审制度沿袭了职权主体的特征，法官在刑事诉讼庭审中处于主导地位，裁判结果的产生也会围绕着法官的思路进行，因此人工智能代替的是刑事审判中机械性重复工作，使得法官更注重于案件的实体思考。

2.自由空间与禁区原则。在人为设定的自由空间内承认人工智能使用的效力，在禁区内则一概否定人工智能使用的效力。不能机械地理解“科学无禁区”的含义，在人类的伦理与科技产生冲突时仍需设立禁区。法律和科学逐步融合发展是国家、社会和人民喜闻乐见的现象，然法律并不完全等同科技，法律需要一定的“保守”，才能成为维护公平的利器。

3.个案正义优于司法效率。人工智能深度学习所依赖的大数据技术，更多关注的是事物之间宏观上引起变化的数据关联关系，即上文所提“相关关系”，而非因果关系。也即是说，人工智能所提供的司法大数据提高了司法人员的工作效率，但是对人工智能的过度依赖并不能完全保证个案正义，数据分析体现的是“归纳样本——归纳总体”的过程，相关关系并不关注社会关系中深层次的利益纠葛以及司法实践对精确认识的要求，因此人工智能的效率并不能以牺牲个案正义来获得。况且我国地区犯罪差异十分显著，机械地以大数据分析进行辅助审判，易忽视事物发展的特殊性，尤其是个别疑难案件中的特殊情节以及复杂社会关系。

4.人工智能分析结果的可否性。人工智能在刑事审判中拥有自由空间，并非意味着只要在这一空间使用了人工智能并得到分析结果，这一结果就具有绝对的不可否性。既然明确了人工智能的工具性本位，则应当认识到，司法人员基于合理理由的前提下可舍弃人工智能的计算结果，当事人也可以对人工智能计算结果提出异议，主张司法机关对该计算结果不予考虑。[24]具有可否性的要求并非否定人工智能，基于人工智能的使用要为刑事审判提供有益智能的大前提下，理性坚持可否性能够客观地促进人工智能辅助审判系统的发展。

至于具体的应对措施，本文拟结合上文，试从不同角度给出多元建议。

第一，从人工智能系统本身的角度出发，要求由人工智能在刑事审判中的一切行动都要具有透明性、可解释性。建立法院系统的人工智能算法具体运算模型的备案本，人工智能系统在自由空间内的一切运算轨迹应全面记录备案。

第二，从监管的角度看，法院体系内部应当增设刑事司法人工智能监管机构。应当考虑对于人工智能辅助审判系统的核心服务增加编制正职人员，对于开发过程中的非核心的、短期问题和临时性项目，交由外包专业人员时应当赋予其严格的责任条款。

第三，对于人工智能系统的开发者而言，须建立司法体系内的人工智能问责制度，与强制披露算法制度。研发者和使用者相对于一般人而言，对人工智能产品具有更多的把控能力，因此在刑法中确立人工智能产品研发者和使用者的严格责任具有一定可考虑性。[25]《中华人民共和国刑法》第285 条非法侵入计算机信息系统罪、非法获取计算机信息系统数据、非法控制计算机信息系统罪、提供侵入、非法控制计算机信息系统程序、工具罪，第286 条破坏计算机信息系统罪，第287 条之二帮助信息网络犯罪活动等计算机犯罪的罪名均可评价人工智能产品研发者和使用者的刑事责任。

第四，从人工智能系统的安全方面出发，全面升级法院内部网络的安全操作系统，最大限度降低网络安全隐患。

第五，全局的角度看，促进全国法院刑事案件信息技术标准的逐步统一。如果技术标准不统一，各地法院水平参差不齐，司法数据的互通共享只能成为一个空口号，而无实质作用。

在刑事审判当中运用人工智能，将有很长的路要走。人类希望人工智能在我们追求最高理想时，帮助我们实现最大胆的愿望，而不是毁灭我们。[26]我们应当思考尤瓦尔·赫拉利在《未来简史》的“数据主义”这一章末尾提出的三个问题之一：智能和意识，究竟哪个才更有价值？[27]在司法公正这个领域，人类应当牢牢把握自身的主体地位，一方面以开放和善的态度接纳人工智能这一“新贵”，另一方面严守司法底线，亲力亲为，在人工智能禁区中充分行使审判的权利。