APP下载

风险与应对:论人工智能证据在刑事司法中的运用
——以“人脸识别分析结果”为例

2022-02-05

山东警察学院学报 2022年2期
关键词:证明证据人工智能

杨 菲

(吉林大学法学院,吉林 长春 130012)

一、问题的提出

人工智能在刑事司法领域的运用是现代科技发展到一定阶段的必然产物。伴随这一趋势,人工智能在刑事案件中的作用也逐步由辅助查明犯罪事实的技术性工具向证明犯罪构成的诉讼证据蔓延。例如,在盗窃犯罪以及脱逃犯罪案件当中,“人脸识别对比结果”逐步成为确定犯罪主体身份的必要证据(1)参见广西壮族自治区鹿寨县人民法院(2019)桂0223刑初231号刑事判决书。;在偷越国边境以及运输毒品犯罪案件中,“活动轨迹智能分析结果”已然成为影响犯罪成立的重要证据(2)参见云南省高级人民法院(2016)云刑终511号刑事裁定书。;在量刑程序中,检察机关出具的“智能人身危险性评估报告”也逐步被作为证明被告人人身危险性大小的证明材料。显然,以分析结果为呈现形式的人工智能证据已进入刑事案件中并作为证据使用。这些由人工智能形成的分析结果是一种以海量数据为基础要素,以智能算法为核心要素,以机器判断为本质要素的一种机器分析意见。[1]其无论是在内容形式还是其形成原理方面都具有与传统证据所不同的特征,这也使其在法律层面面临归属难题。有研究者可能会将其与大数据证据划等号,认为两者没有什么本质的区别。但问题在于,大数据证据是一种宽泛的称谓,除了大数据分析意见外,大数据载体、等量复制大数据本身以及通过大数据挖掘的部分小数据也都可以称为大数据证据。[2]人工智能证据属于大数据证据,但大数据证据却并非人工智能证据。伴随人工智能与大数据技术逐步实现深度融合,智能算法已在大数据技术中广泛应用,大数据分析结果逐步在向人工智能分析结果转化。可以说,人工智能证据呈现了大数据证据的显著特征,代表了大数据证据未来的发展趋势。探究人工智能证据在刑事司法领域中的运用,不仅有利于深化对大数据证据的认识,妥善应对人工智能技术对证据领域的冲击,而且有助于推动人工智能技术在证据领域中的应用,更好地发挥其独特的证明价值。可以预见,伴随人工智能技术在刑事证明领域的展开,人工智能证据的数量会越来越多,对人工智能证据的研究也必将成为理论界和实务部门难以回避的话题。

值得注意的是,办案人员在实践中一方面难以抗拒人工智能技术在证明方面带来的正向价值,另一方面又囿于缺乏证据种类归属和证据审查规则而对其使用心存疑虑。现有研究多聚焦于智能辅助审判领域,而对于人工智能分析结果用作证据的理论基础和实践状况都缺乏足够的关注,对可能存在的程序风险更缺乏必要的预见和反思。在人工智能分析结果的理论地位不明以及程序管控缺失的情况下,倘若盲目地在刑事案件中肆意使用,不仅会消减人工智能技术的正向价值,更难以应对人工智能技术对传统证据制度的冲击,甚至诱发刑事错案、控辩失衡以及权力位移风险。有鉴于此,笔者将首先在理论层面对人工智能分析结果作为证据的正当性基础进行探讨以回答“能不能作为证据”、“为什么作为证据”、“作为什么证据”的问题,继而选取人脸识别分析结果这一实践中最为典型的人工智能证据作为观察对象,实证考察人工智能证据在刑事司法领域的运用概况,在此基础上反思人工智能证据运用可能诱发的刑事风险,进而提出应对之策,以期助益于实践发展和制度变革。

二、人工智能分析结果用作证据的基础

人工智能分析结果是海量数据与人工智能技术相结合的产物,是通过智能数据处理程序凭借“机器学习”等关键技术,对海量数据进行标注、提取、挖掘、碰撞、分析等操作之后而得到的“二次开发数据结论”。实务部门虽然已经将其运用在刑事案件当中证明要件事实,但研究者对其在理论层面用作证据的基础却缺乏足够的探讨。明确其能否作为证据使用、为什么要作为证据使用、作为什么证据使用的问题,有利于为人工智能证据的正当性提供理论依据。

(一)人工智能分析结果作为证据使用的空间

我国证据的概念可划分为证据材料、诉讼证据和定案根据三个层次。当其具备相关性时,即可作为证据材料使用;具备相关性与合法性时即可作为诉讼证据使用;若证据“三性”同时具备便可作为定案根据使用。[3]人工智能分析结果既可以在概念层面符合刑事证据的基本表达作为证据材料使用,也可以在证据属性层面具备关联性与合法性作为诉讼证据使用,更可以在庭审过程中进一步接受真实性与可靠性检验作为定案根据使用。

首先,人工智能分析结果可以作为用以证明与案件事实有关的材料。我国现行法律对证据的概念采用“材料说”而非“事实说”,意味着只要人工智能分析结果能够证明系犯罪事实便具有作为证据的可能性,而基于智能算法得出的分析结果正依托于相关关系分析,因而可以发挥证明案件事实的作用。[4]

其次,人工智能分析结果能够接受证据的关联性与合法性的检验以作为诉讼证据使用。人工智能分析结果是基于智能算法对海量非结构化数据分析之后而形成的衍生性数据,这种关联关系可以根据数据和算法的相关性而实现结果与犯罪构成要件的强关联,虽然在数据收集、清洗、标注以及算法设计等环节含有人为因素,但其形成过程仍然要遵循科学要求的原理和程序,因而可以经受关联性以及程序合法性检验。至于形式合法性的问题,主要争议点在于“封闭论”下人工智能分析结果是否能够作为诉讼证据使用。对此,实务部门往往通过将其转化为法定证据的方式来使其获得形式合法性。

最后,人工智能分析结果可以在庭审过程中接受真实性与可靠性检验作为定案根据使用。人工智能分析结果的技术原理在于将捕获的海量非结构化关联数据“喂养”给人工智能使其获得数据燃料,在此基础上通过机器识别、神经网络、深度学习等技术提取重要信息并分析整理、综合研判,进而自动形成以电子数据为载体的机器结论。[5]该结论满足电子证据和意见证据的双重属性,因而在其作为诉讼证据的基础上,只要能够经受电子证据鉴真规则和科学证据的可靠性检验便可以与其他证据一起作为定案根据。

因此,人工智能分析结果具有作为证据使用的空间。

(二)人工智能分析结果具有较强的司法适用价值

通过人工智能分析结果来证明案件事实已经成为一种实践需求,其根源在于刑事案件日益专业化、复杂化的现实状况。伴随人工智能技术的逐渐成熟,刑事司法逐步将其角色由技术手段转向刑事证明,使其内含的司法适用价值逐步彰显。

首先,有利于提高诉讼效率。网络时代促使人类行为趋于数字化,犯罪行为转化为数据镜像,承载犯罪信息的数据往往以海量化、弱关联的形式分散在网络世界当中,增加了取证时效和证明周期。在e租宝案中,用以证明犯罪数额的数据信息就达30TB左右并分散于数个平台数据库当中。若用传统方式人工逐条筛选汇总以证明犯罪结构以及犯罪数额的方式往往无法实现。[6]借助人工智能算法模型对海量数据进行关联分析生成分析意见则可大大压缩证明时长、提高诉讼效率。

其次,有利于降低证明难度。在刑事诉讼中,证据往往是一种稀缺资源,证据信息数量也往往与证明难度成正比。人工智能分析结果的形成依托于海量数据以及智能算法两大核心要素,前者保障涉案关联信息的全面性,后者保障证明事项的确定性。在逃脱犯罪案件当中,犯罪嫌疑人为逃避追诉往往变更身份信息。在缺乏其他证据情况下,控诉机关往往采用人工智能大数据比对系统生成人脸识别分析结果以证明犯罪主体同一性。(3)参见新疆维吾尔自治区乌鲁木齐市中级人民法院(2020)新01刑初57号刑事判决书。该证据往往以似然率来判断证明力大小,似然率越大,证据对待证事实的证明力则越强。[7]

最后,有利于强化指控体系。实践中,人工智能分析结果既可以作为间接证据与其他证据相互印证来证明案件事实,也可以作为辅助证据通过补强控方证据或者弹劾辩方证据的方式强化刑事指控体系。在陈某偷越国境案当中,公安机关出具的人脸识别结果在案件中作为间接证据证明犯罪主体身份同一性,并与其他证据形成印证,共同证明案件事实。(4)参见广东省广州市白云区人民法院(2015)穗云法刑初字第1462号一审刑事判决书。在徐某某盗窃罪一案中,控方采用人脸识别比对结果证明犯罪主体身份以弹劾被告人否认自己为犯罪主体的辩解。(5)参见福建省南平市中级人民法院(2020)闽07刑终1号二审刑事裁定书。在刘世国、马再堂走私、贩卖、运输、制造毒品案当中,控方通过活动轨迹智能分析结果对被告人供述进行补强以强化指控体系。(6)参见云南省高级人民法院(2016)云刑终511号二审刑事裁定书。

因此,人工智能分析结果具有较强的司法适用价值。

(三)人工智能分析结果独特于其他法定证据

人工智能分析结果是以海量数据为基础要素,以智能算法为核心要素,以机器判断为本质要素,以电子数据为载体呈现的一种机器分析意见,这就使得人工智能分析结果既具有与法定证据类型的相似特征又具有与之不同的独特品质。根据刑事诉讼法50条之规定,法定证据类型共包括八种,如果仅以外观载体为标准,似乎可将人工智能分析结果划为电子数据,倘若以内容为标准,似乎可将之归为书证或鉴定意见。然而,若细加考究则不难发现该种归类具有明显的局限性。

首先,人工智能分析结果不同于书证。实践中为方便举证示证,办案人员往往将人工智能分析结果以书面形式呈现。据此,似乎满足书证的特点即以内容和思想证明案件事实,然其本质的不同则在于书证形成于诉讼开始之前,而人工智能分析结果则形成于诉讼过程之中。

其次,人工智能分析结果不同于电子证据。人工智能分析结果是通过智能算法模型对海量原始数据进行分析加工而形成的二次开发数据,这就使其虽然在外观形态上可以电子数据为载体,但由于其并非产生于案发过程之中且并非原始信息的直接呈现和简单记录因而使两者迥异。[8]

最后,人工智能分析结果不同于鉴定意见。由于人工智能技术需要依靠机器学习功能通过数据喂养更新算法智能性,使之得以在海量数据中提炼经验规律进而形成自主判断,[9]这也使其可能与鉴定意见同归为意见证据。然而,两者最大的区别在于证据生成主体的差异性,前者为智能程序代码而后者为人类专家。据此,人工智能分析结果似难以归入法定证据种类当中。虽然具备法定形式证据可以作为证据使用,但实践中使用的证据并非都以法定形式呈现。即使不符合法定的证据种类也并不一定就绝无获得证据资格的可能。诸如交通事故责任认定书、社会调查报告等证据同样迥异于法定证据种类,但审判机关依然承认其证据资格。而无论是电子数据、专家报告还是事故调查报告所面临的归属争议,最终也都以修改法律或者司法解释等方式获得了法律地位。因此,讨论人工智能分析结果的资格归属问题必须要对其与其他法定证据种类的迥异性具有清晰的认识,跳出既有的证据种类理论框架,承认其特殊的证据地位。

综上,人工智能分析结果不仅符合证据概念的基本表达能够接受证据“三性”的检验,而且具有较高的司法适用价值,因而可以且有必要作为刑事证据予以使用。但是,由于其不同于任何一种法定证据类型,出于其特殊性以及大数据证据演进趋势考虑,有必要在理论层面将该类证据归纳为人工智能证据,(7)人工智能证据的技术原理在于智能算法模型,其不同于运用人工智能技术所收集的证据。前者着眼于人工智能分析技术得出结论的内容性,例如智能轨迹分析结论、人脸识别比对结果等。而后者则侧重于人工智能技术的工具性,强调将该项技术作为获取其他证据的铺垫而非用于法庭举证,例如智能辅助文书处理技术、智能语音识别技术等。参见郑飞,马国洋.大数据证据适用的三重困境及出路[J].重庆大学学报(社会科学版),2022(8):1-13.一方面可避免对大数据证据概念探讨的宽泛化,另一方面也可加强研究者对人工智能技术在证据维度的思考。

三、实践考察:人工智能证据的应用类型

目前,人工智能在刑事司法当中的作用主要聚焦于技术工具使用,如智能预测、风险评估、类案推送、量刑辅助、语音识别等。[10]但是,若对刑事审判实践加以考察便不难发现,人工智能证据已然出现于对犯罪事实的证明过程当中。以人脸识别为例,笔者对北大法宝收录的刑事裁判文书进行浏览分析之后发现,涉及人脸识别的刑事裁判文书约2295份,剔除无关案例,获得样本案例共计386份。对样本案例进行分析发现办案机关往往将其作为涉案线索、归入法定证据或单独进行列举的方式使用。

(一)作为涉案线索使用

将人工智能证据作为涉案线索使用,即仅将其视为侦查技术而不视为诉讼证据。对犯罪嫌疑人主体身份的确认,仍通过线下辨认、指纹鉴定、户籍资料等传统证明方式进行。该类案件在笔者统计的样本当中有163件,约占42%。如,在黄某某故意杀人罪一案中,经法院查明:黄某某在杀害被害人后逃离案发现场,并通过找他人办理虚假身份信息的方式躲避侦查。侦查机关通过人脸识别比对系统锁定了犯罪嫌疑人,并在此基础上通过线下走访确定其真实身份并将其抓获。(8)参见内蒙古自治区高级人民法院(2018)内刑终296号一案裁定书。在此案件中,侦查机关虽然采用了人脸识别技术,但人脸识别分析结果在本案中仅承担涉案线索功能,而并不作为认定犯罪主体身份同一性的证据使用,未接受举证质证,更不出现在定案根据当中。法院最终认定被告人本人与虚假身份信息之人具有同一性,仍然借助了鉴定意见、辨认笔录、证人证言、视听资料、书证等传统证据。

(二)归入法定证据使用

将人工智能证据归入法定证据种类使用,即虽然承认其证据资格,但仍将其作为传统证据进行使用,其目的在于通过转化外观的方式使人工智能证据获得行使合法性,缓解证据资格审查阻力。该类案件在样本案例中有99件,约占25%。其中归为书证的69件(其中有31件案例虽未将其列入书证范畴,但列为了情况说明等材料。由于实践中通常将情况说明、到案经过等材料视为书证,因此一并纳入书证统计);归为视听资料、电子数据的有6件;归为鉴定意见的有14件;归为证人证言的有2件;归为辨认笔录的有8件。例如,在关某1、关某3非法侵入住宅罪一案中,(9)参见云南省昆明市官渡区人民法院(2019)云0111刑初1218号一审刑事判决书法院将派出所人脸识别对比结果作为抓获经过的部分内容,并归入证人证言当中以证明抓获对象为实施非法侵入住宅的在逃犯罪嫌疑人。

(三)列为其他证据使用

将人工智能证据列为其他证据使用,即既不否定其证据资格又不将其划入法定证据种类当中。该情况在笔者统计的样本案例中共有124件,约占32%。例如,在白某某脱逃一案中,(10)参见四川省康定县人民法院(2020)川3301刑初34号一审刑事判决书。侦查机关通过人脸识别图侦系统证明犯罪嫌疑人为监狱在逃人员,并以“在逃人员研判报告”的方式在裁判文书中单独列举。为进一步强化刑事指控体系,检察机关还出具了侦查机关对白某某的指纹鉴定,以形成对犯罪主体要件事实的印证。对该类案件进行分析之后发现,控诉机关虽然将人脸识别分析结果单独作为证明案件事实的证据予以使用,但对该证据的可靠性仍然持有疑虑,因此为加强该证据的证明力,还采取鉴定、辨认、询问证人、讯问被告人等方式加以印证,巩固刑事指控体系。

四、人工智能证据运用的刑事风险

样本案例证明,人工智能证据已获得实务部门的承认,并在刑事案件中发挥了较强的证明作用。然而,迥异的运用方式则意味着办案部门并未对人工智能证据形成清晰的认识。在尚不具备应对能力的情况下,办案机关贸然运用人工智能证据将会产生如下刑事风险。

(一)认知性困境下的刑事错案风险

科学认知和诉讼认知是科学证据的采信所需要经历的两个认知过程,[11]前者要求裁判者要对科学证据的科学内涵和形成原理有所认识,后者要求裁判者在形成科学认知的基础上对证据所涉的内容进行评价并作出判断。人工智能证据作为新型科学证据在认知层面同样具有两个内容,即对人工智能技术本身的科学性进行认知以及对人工智能分析结果的内容进行认知。从人工智能证据的证明原理来看,通过人工智能技术形成对案件事实判断的直接根据是经机器语言转后的人类语言,[12]即可以被人所理解的人工智能分析结果,而其形成过程则涉及复杂的技术原理和“黑箱”设计,[13]易对司法人员造成认知困境。这将造成司法人员因缺乏对该证据本身科学性的识别而轻信分析意见,最终影响事实判断导致错案的发生。具体表现在三个方面:

首先,知识鸿沟造成的事实认定偏差。人工智能证据的出现,使得算法处理的数据侵入证据本体开始影响事实认定,法官面对超出认知范围的复杂算法原理产生事实认定“失语”,使之由主动控制转为被动接受。[14]一旦数据基础和算法模型出现偏误,便会使证据的可靠性折损导致事实认定出现偏差。相同的情况在鉴定意见采纳问题上早已出现,[15]法官因专业壁垒而轻信鉴定结果导致错案发生早已成为前车之鉴。

其次,科学技术偏见产生的“锚定效应”。人工智能分析结果的形成虽说是机器运转的产物,但其所依托的海量数据收集、提取、标注以及算法模型的设计、训练等都涉及人为因素。[16]当事实预设与价值取向介入其中,分析意见所蕴含的技术偏见便会伴随司法进程的推进持续累积,进而使法官对被告人形成一种被锚定和固化的认知定势诱发错案产生。[17]

最后,智能技术准确度蕴含错误可能。人工智能分析结果的准确度与基础数据、样本数据以及算法质量等因素有关。[18]在威廉姆斯案件中,警方依据人脸识别结果指控其构成盗窃并将其拘押,但事后发现是人脸识别技术出现错误而导致错误逮捕。[19]此外,美国司法部门曾在多个刑事案件中采用STRmixDNA(自动化DNA比对软件)输出证据,但却因其源代码中存在的技术错误误导了事实认定。[20]我国人脸识别等人工智能技术同样存在诱发错误可能。在杨某某抢劫一案中,(11)参见云南省昆明市官渡区人民法院(2020)云0111刑初1311号一审刑事判决书。虽然人脸识别分析结果显示相似度只有34%,但法院在缺乏其他证据的情况下仍然认定犯罪主体具有同一性,这便使错案风险蕴含其中。

(二)解释性障碍下的控辩失衡风险

刑事诉讼为解决案件中的专门性问题设置了鉴定制度,使其可以通过科学原理及其工具手段形成对专门性事实的认识。然而,仅有专门性问题的解决方式却缺乏对该方式的合理解释,仍无法满足正当程序的要求,因而专家辅助人制度应运而生。同理,在使用人工智能证据证明案件事实的过程中,由于算法的智能化和复杂性使其同样面临解释性障碍,这不仅会影响控方指控效果,使其出现运用证据却无法解释的尴尬境地,也会影响辩方质证能力,使其囿于知识缺陷而难以对人工智能证据展开有效质证,更会促使法官对科学证据偏信,使其倾向于对控方意见采纳,最终诱发控辩失衡的风险。具体表现在三个方面:

首先,解释对象的复杂性致使控方证明责任的不完全履行。控方承担的说服责任是证明责任内容之一。当控方运用人工智能证据证明案件事实时要对证据如何证明待证事实进行说明,一旦辩方对人工智能证据的技术原理提出质疑,控方同样有义务对此进行解释。然而,由于人工智能的准确性与可解释性成反比,(12)当前人工智能多采取神经网络、深度学习等算法技术,使得结果越准确往往可解释性越弱,就连人工智能本身也无法对决策的原理进行解释说明。参见刘艳红.人工智能的可解释性与AI的法律责任问题研究[J].社会科学文摘,2022(4):8-11.控方在实践中往往更关注人工智能证据的证明力而并不对其技术原理加以说明。如杨某某等盗窃一案中,(13)参见广东省江门市新会区(市)人民法院(2019)粤0705刑初587号一审刑事判决书。即使辩方对人脸识别结果的准确性提出质疑,控方也并未对此加以解释,而法院对该证据予以采纳。

其次,解释权力的垄断性造成人工智能证据运用简单粗暴。由于算法公开与商业秘密呈现突出的矛盾关系,运用人工智能的司法机关对算法原理的解释权呈现垄断地位。实践中,控方成为使用人工智能证据的强势主体,法官也呈现出偏信倾向。在韩某某盗窃罪一案中,(14)参见四川省绵阳市涪城区人民法院(2019)川0703刑初328号一审刑事判决书。人脸识别对比结果只有63%,即使辩方对此提出质疑,控方也并未对此加以解释,法庭仍以该人脸识别结果认定犯罪主体具有同一性。

最后,解释资源的有限性造成辩方难以对人工智能证据形成有效质证。辩方一般可以通过阅卷权以及申请专家辅助人增强对科学证据的质证能力。然而,多数情况下侦查机关只将人工智能分析结果作为技术线索而不进入法庭程序,使其无法被辩方查阅和质证。即便作为证据使用,由于其并非鉴定意见,因而无法借助专家辅助人制度。辩方没有申请算法解释请求权,缺乏可以依托的解释资源,因而难以对控方提交的人工智能证据形成有效质证。

(三)运用性难题下的权力位移风险

若要使人工智能证据获得准入法庭的资格并作为认定案件事实的根据,则不仅要经由侦查机关合法方式取得,而且要经受检察机关审查和法庭调查。然而,与传统证据所不同的是,人工智能证据具有更高的知识壁垒和更强的运用难度,如果无法对其加以把握,将会产生权力位移风险。

首先,侦查权力得到强化,侦查中心主义得以巩固。在人工智能侦查的应用场景中,侦查机关对犯罪嫌疑人进行轨迹分析、通过智能比对挖掘可疑人员、运用智能识别技术确认个体特征、采用搜索推理系统辅助侦查决策等方式的运用日益普遍。[21]这些技术手段在智能算法的加持下使侦查能力大幅提高。然而,投入侦查机关使用的人工智能技术种类繁多,各自的准确度和成熟度不尽相同,这些技术手段的使用不仅无需经过法定的审批程序,而且其产生的分析意见也可以证据的形式径直进入庭审当中以证明案件事实。面对人工智能技术的科学壁垒,如果检察和审判机关缺乏对该类证据的审查、调查能力,将会导致检察权和审判权对侦查权的控制作用进一步削弱。

其次,检察监督权出现缺位,证据审查难度加大。为强化检察机关对侦查机关移送案卷材料中的科学证据进行审查,高检院于2018年出台《关于指派、聘请有专门知识的人参与办案若干问题的规定(试行)》(下文简称《规定》)。实践中,辅助检察官审查技术性证据的有专门知识的人主要由本院的检察技术部门人员组成,当然,也可以由本院以外的专家组成。然而,这两种方式都难以承担对人工智能证据的审查任务。据了解,现有的检察技术部门不仅面临专业技术人员短缺的问题,而且由于待遇保障不到位等原因造成人才流失严重。[22]即便是委托检察机关以外的专家辅助审查技术性证据,也会因为办案期限、诉讼成本、思想观念、审查效果等原因而怠于启用。[23]这将造成检察机关对人工智能证据审查监督权的缺位。

最后,法官裁判权发生位移,审判中心主义受到抑制。证据裁判原则是以审判中心主义的基本原则,这就要求无论是定罪证据还是量刑证据都要接受法庭的实质审查。然而,杨某某抢劫案(15)参见云南省昆明市官渡区人民法院(2020)云0111刑初1311号一审刑事判决书。、韩某某盗窃案(16)参见四川省绵阳市涪城区人民法院(2019)川0703刑初328号一审刑事判决书。等多个实践案例证明,法官往往更加重视人工智能证据的指控作用,并在一定程度上存在盲目信赖。即便在辩方对其准确性质疑的情况下,法官因其知识结构缺陷也并未对其科学性和可靠性加以实质审查,削弱了法庭对证据的决定作用。

五、人工智能证据运用的应对举措

人工智能在刑事司法领域具有广阔的应用前景,可以预见的是,伴随技术成熟度以及智能化水平的提升,未来将会有越来越多的人工智能证据在刑事案件中出现并发挥重要的证明价值。为推进司法证明的科技化程度并有效应对人工智能证据诱发的刑事风险,一方面通过降低人工智能证据准入刑事诉讼的门槛以发挥其在证明领域的正向价值,另一方面应强化司法机关对人工智能证据的审查能力以化解其在刑事程序当中的负面效应。

(一)突破法定证据种类的资格限制

在刑事诉讼中,证据是构筑案件事实的基础,证据资源越丰富,事实得到还原的程度就越高。无论是英美法系国家还是大陆法系国家都并未对证据的种类做出过于严苛的限制。然而,我国刑事诉讼法对证据采取一种“封闭式”的表述形式,一方面难以适应因侦查技术高速发展促使证据形式更迭变化的问题,另一方面也会使得根据证据种类而设置的证据规则面临不断被修补造成叠床架屋的问题。因此,以“开放式”的证据种类取代“封闭式”的证据种类,不仅有利于解决证据资源稀缺性的问题,更有利于应对以大数据、人工智能证据为代表的新型证据对法定证据种类制度的冲击。

首先,在理论层面以相关性为基准破除法定种类限制。证据的相关性表达了证据与待证事实的关联,缺乏相关性的证据无法具备证据资格。人工智能证据与大数据证据遵循相同原理,即“通过智能算法剖析海量数据的相关性要素创构出必然或合理的事实因果关系”,[24]以分析结果为外观呈现的“衍生性证据”,这使其迥异于传统证据类型而面临归属难题。目前有两种解决思路:其一,强行将其归入传统证据种类当中。其二,将其作为法定种类之外的独立类型。前者多被实务部门采用,而理论界则倾向于后者。笔者认为,前者忽视了人工智能证据的特殊性易造成属性不匹配和审查规则不兼容的问题,而后者则治标不治本,倘若再出现新的证据类型则不免再次出现变法修律的结局,更何况两者都并未从根本上破除证据种类的“封闭性”。治本之策在于从根源上反思既有的法定证据种类理论,破除证据种类限制,将相关性作为证据资格的基础性要件以构筑证据能力规则。[25]在此理论之下,新的证据形式不再受到既有种类的束缚,便可使得借助海量数据和机器算法揭示结论与待证事实相关关系的人工智能证据获得进入刑事诉讼的资格以发挥证明案件事实之作用。

其次,从规范层面改变对证据种类的“封闭式”表述,采取“列举+兜底条款”的表述方式。将相关性作为证据资格的基础性要件,不仅为破除法定证据种类的“封闭性”转向“开放式”提供了理论前提,也顺便为人工智能证据获得法律资格创造了可能。那么如何构建“开放式”的证据种类体系,如何使人工智能证据获得法律认可便成为关键问题。有研究者认为,应取消法律规定证据种类的做法,将关注重点放置于证据规则的构建。[26]也有研究者主张既有的证据种类划分标准混乱,应对既有的证据种类按照更加科学的标准重新划分以使其具有更强的囊括性和普遍性。[27]还有研究者提出,应当在既有的法定证据种类框架基础上通过增设兜底性条款的方式促使证据种类向“开放式”转向。[28]具体就人工智能证据而言,笔者认为,上述观点虽然都可为其获得法律资格提供解决思路,但第三种方式似乎更符合当下的制度体系。原因在于,相关性虽是证据的天然属性,但这并不意味着要完全放弃对证据法定形式的要求。为促进司法效率,方便司法机关对证据材料梳理归类并设置具体的审查规则,证据仍然要以一定的形式表现出来。那么,究竟是采用重新划分证据种类的做法,还是在既有框架基础上增设兜底性条款,便成为值得讨论的问题。从短期来看,由于我国证据种类和证据审查规则紧密相关,因而采取“列举+兜底条款”的方式,不仅可以减少对既有制度造成的冲击,而且也有利于增强证据种类包容性,灵活应对科技浪潮下证据形式的更迭。

(二)明确人工智能证据的审查内容

人工智能证据并非是对电子数据的直接运用,而是对海量数据经过了智能分析算法处理得出结论以证明案件事实的间接运用方式。[29]这种方式具有更强的复杂性、技术性和专业性,解决了司法人员对海量数据存在的识别和理解障碍,但其结论产出涉及多种介入因素和处理步骤,存在较高的运用风险。基于此,对人工智能证据的审查内容应当力求全面。司法机关在面对人工智能证据时应当从相关性、合法性和可靠性三个方面加以审查。

首先,相关性审查。对人工智能证据的相关性审查,既包括证据能力审查也包括证明力审查。前者侧重于判断人工智能证据与待证事实有没有相关性的问题,而后者则侧重于判断人工智能证据与待证事实有多大的相关性的问题。其一,证据能力层面的相关性审查主要包括数据相关性、技术相关性以及结论相关性。[30]就数据相关性和技术相关性而言,人工智能证据的形成往往需要依赖海量基础数据,这些海量数据通常来源于既有的数据库以及即时提取并储存的海量数据。这些供给人工智能的训练数据只要具有对特定案件事实的最低程度相关性即可,而人工智能技术的作用就在于将海量低相关度的数据加以分析以得出高相关性的结论,这就意味着只有选取有助于解决待证事实的人工智能技术才能够得出相关性的结论。例如,在证明抓获的犯罪嫌疑人与案发现场监控图像中出现的人具有同一性时,通过人脸识别系统便可证明该待证事实。就结论相关性而言,由于人工智能证据主要以分析意见的形式表现出来,因此与其他科学证据的相关性审查无异,只需要对其实质性和证明性进行判断即可。其二,证明力层面的相关性审查主要是指结论的相关性。由于人工智能分析结果多以概率的形式表现出来,概率越高证明力越强,这为法官自由判断其证明力大小提供了依据。如在陈某某等盗窃一案中,(17)参见四川省宜宾县人民法院(2019)川1521刑初149号刑事一审判决书。人脸识别相似率为90%以上,具有较高的证明力,在法官认定犯罪主体具有同一性问题上发挥了重要证明作用。

其次,合法性审查。通常情况下,对证据的合法性要从表现形式、取证主体、取证行为和取证内容等方面判断,但人工智能证据的形成原理在于机器生成性,迥异于传统证据的获取方式。因此,套用传统证据的合法性审查规则并不能满足人工智能证据的审查要求。从理论上来看,证据合法性源于正当程序要求。无论是英美法系还是大陆法系,对证据合法性审查目的都在于防范侦查权力滥用和保障基本人权。笔者认为,对人工智能证据的合法性审查也应当符合该目标,具体可落脚于三个方面。其一,海量基础数据的合法性。人工智能分析结果的形成依赖于海量基础数据,而这些数据的收集、提取等程序不能违反对电子数据收集提取的禁止性规定,通过非法收集、提取的海量数据不能作为人工智能证据形成的数据基础。其二,人工智能技术使用的合法性。人工智能技术的应用应当以公民的基本权利保障为限度,通过严重侵犯公民基本权利的人工智能技术所形成的证据应当予以排除。其三,人工智能分析结果应当具备基本的形式要件,如应当具有人工智能技术提供者和使用者的签字或盖章等基本信息。

最后,可靠性审查。对证据所依据的科学原理和方法加以审查是科学证据审查的独特要求,一旦该项证据无法经受可靠性检验,便意味着即使符合其他审查要求也无法作为定案根据。在缺乏可靠性审查的情况下,一旦人工智能证据所依据的技术原理和使用方法出现错误将会导致事实认定出现偏差并诱发错案风险。目前,我国尚未建立对科学证据的可靠性审查规则,对鉴定意见的审查也以形式审查为主。值得注意的是,美国对于科学证据的可靠性审查已经形成了成熟的规则和丰富的判例。1923年,美国在Frye V. United States案中将科学证据的可靠性检验标准确定为“Frye标准”。而在1993年的Daubert V. Merrell Dow Pharmaceuticals案中,又将Frye案中确立的“普遍接受”标准更新为“Daubert标准”。[31]将这些有益经验加以借鉴并应用于人工智能证据可靠性审查时,也可通过是否具有可检验性、同行评议情况、错误率如何、在其所属领域的普遍接受情况等四个方面加以判断。

(三)丰富人工智能证据的审查机制

如果将人工智能证据的审查内容比作“菜谱”,那么审查机制的构建就是“炊具”选取的过程。司法人员要想发挥人工智能证据对刑事案件的正向价值,则必须拥有丰富的审查机制。审查机制的完善程度直接决定了司法人员对人工智能证据的运用水平,对破解科学壁垒、填补知识鸿沟、揭开“黑箱”面纱、提高应对能力具有重要意义。

首先,应引入技术调查官机制,强化控方对人工智能证据的审查能力。目前,检察机关缺乏对人工智能证据的审查机制,加之技术咨询部门人员流失以及专门知识的人使用度不高等问题,亟待建立常规性的科学证据审查机制。从地方实践来看,部分检察院开始探索的技术调查官同步辅助审查机制为应对人工智能证据审查难题提供了契机。例如,北京市检察院于2018年推出《专业同步辅助审查工作指南》,通过引入技术调查官以应对金融犯罪领域的证据审查难题。[32]上海市静安区检察院于2021年出台《关于探索技术调查官参与检察办案活动的意见》和《技术调查官参与办案工作细则》,已在知产、金融、网络等领域推行了技术调查官机制。[33]笔者认为,技术调查官虽然是知识产权审判领域的专有机制,但并不意味着检察机关不能加以借鉴吸收。面对科技迭代加剧的“技术恐慌”,检察机关探索技术调查官证据审查机制正当其时。未来,应当将技术调查官定位为检察辅助人员以明确其主体身份,扩大技术调查官的证据的审查范围,逐步落实其对人工智能证据的审查、解释以及出庭责任。

其次,应赋予被告人申请释明之权并激活辩方专家辅助人机制,增强控辩双方对人工智能证据质证的有效性。若将对人工智能证据的审查监督职责仅寄托于控方自治,则难保不会出现程序“内卷”效应。基于此,从提高辩方质证能力入手寻求应对之策便成为必要。首先,应赋予被告人对人工智能证据的申请释明之权。面对人工智能复杂的技术原理以及“算法黑箱”,多数研究者主张通过算法开示来保障被告人质证权。[34]但笔者认为,这种方式多师从美国,在我国既难实现也无必要。一方面,算法技术多受商业秘密保护,这与技术提供方的商业利益相悖,即使辩方申请也难以被法庭支持。另一方面,由于技术本身的复杂性和智能化,即便公开算法,辩方对其存在的内部原理也难以有效理解,甚至会加剧诉讼成本,增加诉讼时耗。实际上,辩方质疑的关键在于技术结论的正确性,只要控方能对技术的可靠性、准确度以及证明原理提供合理且充分的解释即可。因而,只需以此为内容赋予辩方申请释明权而无需算法开示。其次,应激活辩方申请专家辅助人机制。由于在规范层面专家辅助人的质证范围主要限制于鉴定意见,在实践中的使用也主要以控方为主。因此,为激活专家辅助人制度,提高辩方对人工智能证据的质证能力,未来应对其质证范围适度扩大以提高辩方的适用空间。

最后,应完善专家陪审员机制,强化法庭对技术性事实认定能力。伴随科学技术的快速发展,科学证据在庭审中逐渐增多,法官在审判中面临的能力困境急剧凸显。实践中,法官因缺乏对科学证据的可靠性把控、盲目迷信科学证据所引发的错案不胜枚举。据美国研究者统计,在美国1989-2021年8月22日之间所平反的2845件刑事冤案当中,仅因鉴定错误而引起的就有688件。[35]根据我国研究者统计,在已经公开并宣告无罪的165件错案中,因科学证据而引发的错案就达到71件。[36]这充分暴露出职业法官对鉴定意见实质审查能力的缺陷,更遑论对人工智能证据的有效审查。实际上,2019年2月18日最高法发布的《人民陪审员法》司法解释第三条第三款已经为专家陪审员的设置预留了空间。但囿于人民陪审员制度“司法民主”的功能倾向,专家陪审的“精英化”机制并未构建。[37]不同于“法律专家式”的陪审员,引入“科学专家式”的陪审员,一方面可以弥补当前法官对科学证据实质审查缺陷,另一方面也能有效应对今后大数据证据、人工智能证据对审判造成的冲击。值得注意的是,诸如银川中院等部分地方法院已经在涉及知识产权以及金融等案件中引入专家陪审员。未来,可对现有的人民陪审员制度加以改造,区分为两种模式:人民陪审员模式和专家陪审员模式。专家陪审员应当具备本学科领域内的专门知识、工作经验和技术职称。当案件中出现影响定罪量刑的人工智能证据而法官无法加以实质性审查时,法院可以根据案件的需要从具有计算机科学知识的专家陪审员名单中随机抽取确定,组成合议庭,协助法官对人工智能证据进行法定调查和事实认定。专家陪审员有权对法庭审理过程中出现的专门事实发表独立意见并进行表决,有义务向法官解释涉及人工智能证据的科学原理和相关知识。

(四)明确人工智能证据的作用范围

目前,人工智能尚处于发展的初期阶段,无论是技术的稳定性、成熟度还是司法人员对人工智能的理解、解释和运用都存在一定的不足。出于对技术效益和风险防范的平衡考虑,笔者认为,目前人工智能证据在刑事案件中,虽然既可以作为定罪证据使用,也可以作为量刑证据使用;既可以作为实质证据使用,也可以作为辅助证据使用,但仍应当以量刑证据的使用为主,以定罪证据的使用为辅;以辅助证据的使用为主,以实质证据的使用为辅。未来,随着人工智能技术的可靠性以及准确性的增加,可以考虑对其作用范围适度扩大。

首先,人工智能证据应更多运用于量刑领域。由于定罪程序解决的是被告人刑事责任有无的问题,因而各国刑事诉讼法都为被告人设置了以无罪推定原则为统领的严格保护程序,以避免不可靠的证据影响法官心证诱发事实认定错误。而量刑程序由于建立在被告人刑事责任业已确定的基础上,因而无论是在证明标准的要求、证据方法的运用还是证据规则的适用等方面都比定罪程序更加宽松灵活。[38]从人工智能证据的证明原理来看,人工智能证据与案件事实之间属于高概率的相关关系而非精确性的因果关系,其凝结了与案件事实相关的海量数据要素,在通过智能算法运行中创构出数据经验并以机器意见的方式得以表达。将这种非必然性的证明原理应用于定罪领域,可能会出现因技术偏误所导致的事实认定错误问题。但运用在量刑领域不仅可以提高量刑效率而且有利于保障量刑信息的充分性。实际上,域外人工智能证据的应用领域也以量刑程序为主,多作为评估人身危险性和再犯可能性的依据。

其次,人工智能证据应当更多发挥辅助证据的作用,当作为实质证据时应与其他证据形成印证,不能单独作为定案根据。以证明对象的不同为标准可将证据划分为直接证据、间接证据和辅助证据,直接证据和间接证据又因为与案件事实具有“生成”意义上的相关性,因而又可以称之为实质证据。[39]人工智能证据既可以作为实质证据也可以作为辅助证据弹劾或者补强证据事实。当人工智能证据作为辅助证据时,其主要功能在于对实质证据的证明力进行补强或者弹劾,而并不直接或者间接的推论案件事实的成立与否。因此,若人工智能证据多以辅助证据的形式发挥证明作用,一方面可将因科技可靠性带来的错案风险降至最低,另一方面也可检视既有证据体系的可靠性和稳定性。当人工智能证据作为实质证据时,由于目前尚未对其建立可靠性审查规则,因而应当要求有其他证据相互印证以增强其可信程度。例如,在宁某某盗窃、脱逃犯罪案件中,(18)参见江西省景德镇市中级人民法院(2018)赣02刑终131号刑事裁定书。法院认定被告人构成脱逃罪的证据主要包括书证、证人证言、鉴定意见以及人脸识别结果等证据。其中,人脸识别证据主要证明被告人宁某某并非其弟宁某,而是公安机关追捕的脱逃人员。该证据在案件中虽然作为实质证据证明犯罪主体要件,但仍有公安机关出具的指纹和笔迹鉴定意见与该证据形成印证共同证明案件事实。

六、结语

科学技术迅猛迭代,社会变化翻天覆地,人工智能技术无论在案件信息的收集转换,或是司法裁判的辅助决策,还是法庭审判的监督管理等方面,都以明显的优势和巨大的潜质与刑事司法开展深度交融。人工智能证据在刑事案件当中的悄然出现,预示着人工智能技术的作用领域逐步由司法办案的辅助工具向证明事实的诉讼证据迈进。然而,无论是当前的证据理论、规范设计还是制度体系都并未对这一趋势做好有效应对。从证据理论和规范设计层面来看,继续坚守法定证据种类已不合时宜。只有以“开放论”取代“封闭论”才能为人工智能证据等新型证据准入刑事诉讼破除枷锁。从制度体系层面来看,若诉讼主体在无法对其进行充分认知、有效解释以及合理运用的情况下任其肆意准入,则又极易诱发刑事错案、控辩失衡和权力位移风险。基于此,从微观和宏观双重维度入手,明确并完善人工智能的审查内容和审查机制就显得尤为必要。鉴于当下实践需求和风险控制考虑,对人工智能证据的使用可暂以有限性为原则,一方面尽可能将其由定罪证据使用转向量刑证据使用,另一方面尽可能将其由实质证据使用转向辅助证据使用。可以预见,伴随人工智能技术的快速发展和深度应用,人工智能证据终将在未来的刑事审判当中以更加丰富的数量和多元的形式发挥对案件事实的证明价值,刑事司法的理论与制度也应伴随技术的更迭而与时俱进。

猜你喜欢

证明证据人工智能
获奖证明
判断或证明等差数列、等比数列
2019:人工智能
人工智能与就业
数读人工智能
对于家庭暴力应当如何搜集证据
下一幕,人工智能!
手上的证据
手上的证据
证明我们的存在