刑事司法中的人工智能应用探究

文/熊秋红

人类社会发展以科技创新为引擎，经历了从农业社会、工业社会到信息社会的变迁，而信息社会以互联网、大数据、人工智能等为主要特征。在刑事司法领域，由于人工智能可以在短时间内分析及处理大量的资料信息，因而被运用于犯罪预测、犯罪侦查和犯罪预防；运用于预测个体是否会再次犯罪、是否会在开庭日出庭等的可能性，从而影响关于保释和缓刑的决定；运用于分析量刑总体态势，从而影响检察官和法官关于量刑的决定；运用于评估罪犯的风险等级，从而影响关于假释和矫正措施的决定。可以预见，未来人工智能在刑事司法中的应用范围将会逐渐扩大。刑事诉讼立法应当如何回应人工智能的运用，成为一个亟待研究的问题。

人工智能在刑事司法中的应用状况

从世界范围内来看，目前刑事司法领域的人工智能应用，主要集中在侦查、保释、暂缓起诉、量刑、假释或监狱内的矫治及管理等领域。

（一）犯罪预测。相关研究表明，利用人工智能分析大量的既有信息，如犯罪记录、报案资料、经济数据、地理资料等，可以进行以下四种类型的犯罪预测：（1）预测犯罪可能发生的地点及时间；（2）预测可能进行犯罪的人；（3）预测可能成为犯罪者的特征；（4）预测可能成为被害者之人。

（二）犯罪侦查。人工智能在刑事侦查中起着情报智能收集、情报数据智能研判、证据智能获取、犯罪嫌疑人智能拘捕等作用，具有风险防控提前化、信息渠道多元化、数据采集精确化、刑事证明精细化等特点。

（三）辅助审前羁押与保释。在刑事司法中，人工智能可以作为风险评估工具，用于辅助审前程序中关于羁押与保释、附条件不起诉或暂缓起诉等决策。如在美国，许多州将人工智能作为保释程序中的风险评估工具，包括对公共安全的风险和不出庭的可能性，而非被告人是否有能力缴纳一定数量的保释金。

（四）辅助量刑。量刑可以说是刑事审判程序中最为困难的工作，量刑偏差和量刑不均衡是长期存在的全球性问题。运用人工智能辅助量刑，越来越成为各国共同的趋势。

（五）辅助假释与矫正。在刑罚执行方面，可以结合人工智能的数据预测，从服刑人、其家庭及社会等相关因素切入，探讨再犯危险因子，预测其再犯可能性，通过建立再犯风险评估指标体系，综合评估服刑人的表现、社会危险性、再社会化可能性等，避免仅凭司法工作人员的主观经验进行是否予以假释的判断，并以此确定对罪犯采取的具体矫正措施。

（六）其他领域的应用。在我国，除了犯罪预测与侦查，辅助保释、量刑、假释和矫正之外，人工智能还应用于其他一些刑事司法领域，如证据审查判断、文书生成、诉讼监督等。

在刑事司法中应用人工智能引发的争论

基于人工智能强大的数据搜集和分析能力，该技术对于刑事政策的制定者、对于计算机和数据科学家而言，无疑是一个具有吸引力的工具。从其他国家和地区的讨论情况看，赞成者一般认为，人工智能的使用具有以下优势：其一，有助于减少案件积压；其二，有助于限制人为的偏见；其三，人工智能具有科学性和专业性，操作起来也方便快捷，是一个有利于提高司法人员办案质效的科技手段。反对者则认为，人工智能技术介入和引导刑事司法可能因为使用了不可靠的数据，给刑事司法中的当事人造成伤害，人工智能的使用将会带来以下问题：其一，准确性问题；其二，公平性问题；其三，透明度问题；其四，权利保障问题。

对于人工智能在刑事司法中的应用，我国理论界和实务界总体上持乐观态度，主要原因在于在刑事司法中使用人工智能具有以下几方面的优势：其一，有利于打击犯罪；其二，有利于“同案同判”；其三，有利于提高诉讼效率。

部分学者对人工智能介入刑事司法持保留甚至反对立场，认为人工智能的介入会带来以下弊端：其一，导致司法人员机械司法；其二，背离司法的亲历性原则；其三，造成冤假错案，破坏司法公正；其四，侵犯公民的隐私权；其五，有劳民伤财之嫌；其六，模糊司法责任。

关于人工智能在刑事司法中的应用，存在着积极主义和消极主义两种不同立场。持积极主义立场者更多地看到了使用人工智能带来的增强打击犯罪的能力、提高司法效率、贯彻客观主义等好处。持消极主义立场者往往固守传统的法律理念及其制度文化，对于刑事司法中的自动化决策抱有相当程度的忧虑：一方面担心冲击司法人员的主体地位，另一方面怀疑自动化决策的准确性、公正性以及研发成本与收益是否成正比的问题。对于政策制定者而言，前者产生了“鼓励创新”模式，后者产生了“预警原则模式”。有学者试图调和这两种不同的立场，提出了“刑事司法人工智能的包容性规制”的主张。

人工智能对刑事司法制度带来的冲击和挑战

国内外学术界和实务界围绕人工智能在刑事司法中的应用所引发的争论，其原因在于人工智能应用对于社会的基本规范体系及其道德基础带来了极大的冲击和挑战。概而言之，人工智能对刑事司法制度带来的冲击和挑战主要在于合法性、公正性、民主性、有效性、伦理性等五个方面的问题。

（一）合法性问题。法律发展滞后于技术发展导致司法实务中人工智能的应用面临“合法性赤字”或者合法性质疑。在许多国家和地区，现行刑事诉讼法尚未对人工智能的应用进行规制，而通过解释既有法条容纳人工智能应用容易产生合法性争议。

（二）公正性问题。鉴于公正性是司法制度的本质特征，因此公正性问题成为人工智能应用于刑事司法时的核心争议。将人工智能技术用于犯罪预测和侦查，导致侦查模式从回应式侦查走向预防性侦查，警方对犯罪的应对主动化和长效化，警方在获得犯罪预测结果后对“犯罪热区”进行特别干预，部署警力定向打击某类犯罪。一旦将某一区域划为“犯罪热区”，警察会更倾向于在该区域发动拦停、盘查，甚至采取逮捕等强制性措施，并且自觉或不自觉地降低证明标准，这样居住在该区域的居民，其人身自由和隐私权等更易受到限制或者侵害。人工智能系统依靠大数据和算法运行所产生的结果，可能固化甚至放大不平等的风险。有研究指出：人工智能风险评估工具在刑事司法中运用时，往往不成比例地高估来自少数族群的个人犯罪再犯率。在未对公民进行事先告知并征得同意、其他正当程序机制保障欠缺的情况下，大数据侦查可能产生较大的侵害公民隐私权的风险。

（三）民主性问题。人工智能在刑事司法中的应用是否符合法治社会的民主性要求，主要在于其是否具有透明性与可问责性。人工智能应用中的“法律黑匣子”和“技术黑匣子”给刑事司法的透明性和可问责性带来了巨大的挑战。算法比司法人员自由裁量具有更为不透明的特性导致对于司法决策的监督和审查变得更加困难。人工智能的自动化特征，通常使受其影响者难以觉察和知悉，人工智能系统决策的过程与方法，也往往缺乏详细的说明，其决策过程和结果是否公平，难以进行监督和审查。大数据侦查通过相关性原理进行分析和预测，难以对其中的因果关系进行具体说明。应用人工智能系统决策可能出错，一旦出错，算法的责任难以追查，人的责任难以归咎。

（四）有效性问题。如果在刑事司法中通过人工智能作出的决定，可以避免司法人员的偏见，在公正性方面明显优于人类判断的结果，那么，人工智能的使用无疑就具有可接受性。但是，对此问题尚无明确的答案。人工智能系统以实然面的统计资料为基础，往往难以将应然面的社会期待纳入其中。就量刑辅助系统而言，在保障量刑的一贯性和一致性方面具有助益，但在保障量刑适当性方面存在局限。如果在过去的司法实践中存在量刑普遍偏低或普遍偏高的现象，人工智能系统提供给法官的量刑参考数据，可能背离国民的法律情感，从而误导法官量刑。

（五）伦理性问题。将人工智能应用于刑事司法中，需要解决诉讼主体对于人工智能系统中的自主学习有多大的决定能力、对于人工智能系统产生的结果有多大的控制能力等问题。为了确保人类的情感与尊严，将刑事司法的决策权完全交给机器，这是不能接受的。目前多是将人工智能作为刑事司法中的辅助性工具加以使用，并未产生取代人类决策的危机。现在的关键问题是要解决司法人员应当如何与机器进行合作的问题，即人机如何协同的问题。

刑事司法中应用人工智能的原则与基本要求

人工智能对于法治的影响可谓喜忧参半。一方面，人工智能带来的可预见性、可度量性和高效率，有利于促进法治；另一方面，使用人工智能带来了各种可测和不可测的风险。为了防范人工智能所带来的风险，安全和以人为本成为两项最为重要的伦理原则。2018年，欧盟成立了由52名专家组成的“欧盟人工智能高级专家组”，该专家组在2019年发布了关于《可信赖人工智能伦理准则》。其中根据尊重人类自主、避免危害、公平、可解释性等伦理原则，提出了七项基本要求：人权机构和监督，技术的稳健性和安全性，隐私和资料管理，透明度，多样性、非歧视性和公平性，社会和环境福祉，问责制。上述原则和基本要求理应适用于刑事司法中人工智能的应用场景。

我国采取发展优先的立场积极推进人工智能在刑事司法中的应用，因此，出现了人工智能使用泛化的局面，但从司法实践中的实际运用来看，在大数据侦查、辅助量刑等领域相对深入，在其他领域的运用尚处于浅表的层次。由于在刑事司法中使用人工智能尚未形成成熟的经验，相关研究也只是初步展开，目前对此进行专门立法、系统立法尚为时过早，更为紧迫的是对刑事司法中人工智能的应用提供方向性指导。

首先，应当认识到，在刑事司法这一特殊的领域，人工智能的应用具有较大的局限性。以量刑智能辅助系统为例，设计科学的量刑智能辅助系统存在不少困难：其一是案件信息数字化、结构化之困难，其二是案件信息数字化转换存在技术障碍，其三是刑罚适用统一化与个别化的矛盾难以调和。

其次，对于刑事司法中人工智能应用的规制应当从数据治理、算法治理和应用系统治理三个基本层面展开。从数据治理的角度看，应当保障资料的全面性、准确性以及合法性；从算法治理的角度看，应当保障算法的科学性、透明性和公正性；从应用系统治理的角度看，应当保障应用系统的安全性、有效性和诉讼主体使用应用系统的平等性。

最后，应当坚守司法人员在刑事司法中的主导地位，实行规则指导与智能辅助相结合。人工智能的介入使得刑事司法在法治主义之上叠加了“技治主义”，无论是法治主义还是技治主义，都不应当动摇司法人员的主导地位。司法人员不能以人工智能的运用来推卸司法责任，人工智能只是辅助手段，真正在刑事司法中起主导作用以及决定案件最终处理结果的还应当是司法人员。每个案件、每个被追诉人均有差异，用过去的资料预测未来，仅能作为参考，不能直接决定案件处理的结果，犯罪嫌疑人、被告人的刑事责任最终仍然需要由警察、检察官、法官综合各种因素后审慎判断。司法人员在规则指导与智能辅助下决策，要兼顾实然与应然，通过人工智能系统立足实然，通过规则指导纠正实然中的执法偏差，并且回应社会公众对合理执法、公正司法的期待。

结语

人工智能在刑事司法中的应用已经是不可逆转的大趋势，其正在经历由浅入深、由窄到宽的发展过程。在瞬息万变的数字时代，刑事诉讼理念和制度发展应当与时俱进。刑事司法中所开发的人工智能应用系统基于系统论、控制论以及信息论的理论成果，采用数学模型的统计技巧和信息科技，集法律规定与专家经验、案例分析于一体，具有增进效能、避免错误、减少成本等益处，但也存在新的人权保障风险，在科技化与自动化、数字化与虚拟化的趋势下，正当法律程序原则实质转化为“科技正当程序”。为此，应当创新治理方式，防止自动化决策的偏见和错误，建立新的人权保障标准，并对现有法律制度进行开创性的解释和发展。基于人工智能运用于刑事司法可能产生的风险以及人工智能介入刑事诉讼本身所具有的局限性，在使用人工智能时应当保障数据的全面性、准确性以及合法性，保障算法的科学性、透明性和公正性，保障应用系统的安全性、有效性和诉讼主体使用应用系统的平等性，并且坚守司法人员在刑事司法中的主导地位，做到人工智能介入有限、运用有度、辅助有力。

由于人工智能在刑事司法中的应用涉及法律问题和技术问题，因此，对其进行规则治理应当同时从法律和技术层面展开，人工智能应用系统的研发和有关的规则制定应当由法律专家和技术专家共同组成的专家咨询委员会进行审查。人工智能的应用应当趋利避害、扬长避短，妥善处理安全与自由、公正与效率、实然与应然的关系，达致多元法律价值的平衡和兼顾。在研发和运用人工智能的过程中，应当注重对其公平性的全过程检视，保障受人工智能决策影响的当事人可以适时更正不当或错误的自动决策结果；受到人工智能系统决策影响的当事人应当具有要求解释的权利；在人工智能系统的有效性存疑的情况下，受到人工智能系统决策影响的当事人应当享有“退出的权利”，选择只接受单纯的人为决策。在我国，人工智能在刑事司法中的应用从粗放式发展走向精细化规制，将是数字时代刑事法治发展的必由之路。