深度伪造司法渗透的法治风险及应对策略

李 蓉 黄小龙

（湘潭大学，湖南湘潭411105）

自人类进入“双层社会”以降，人们的事实认知方式便发生了根本性的变革，网络成为人们了解客观世界的重要信息来源。据报道，目前全球网民规模达到46.6亿，网民平均每天上网时间近7小时，除去正常的休息时间，这意味着大约42%的时间是在网上度过的。[1]网络技术的发展也深深地影响了现代司法证明活动，在司法诉讼中，电子证据扮演着愈发重要的角色。诚如樊崇义教授所言，电子证据时代已然来临。[2]然而，随着近年深度伪造技术的兴起和泛化使用，各种深度伪造视频、音频等虚假数字信息使客观事实真相变得扑朔迷离。如奥巴马称特朗普是“彻头彻尾的笨蛋”、南希·佩洛西醉酒的演讲等深度虚假视频，是如此地让人深信不疑并迅速在网上广泛传播。网络媒体上的虚假信息已经让人们很难区分真假，逼真的模拟视频将导致媒体真相的终结。[3]司法的核心功能之一即是查明事实真相并作出裁决，而深度伪造向司法领域的渗透，使得司法事实认定的真实性面临巨大挑战。对此新问题，既有立法规范存在严重不足，亟待从理论上探寻新的解决方案或应对之策。

一、深度伪造技术原理、特征及实践运用

深度伪造是一种利用机器学习技术制造或操作的数字内容，通过创建或改变个人的外表、言语或行为的图像或音视频的记录方式，让明智的观察者错误地认为其是真实的。这实质上是一种利用人工智能深度学习而进行的虚拟信息伪造。深度伪造的形式包括各种文本、图片、音频、视频等电子文档，目前实践中较常见的当属深度伪造视频。2017年12月，一位注册名叫deepfake的红迪网（Reddit）用户利用人工智能合成技术（即深度伪造技术）创建了一系列如黛西·里德利、盖尔·加朵等知名女性演员的换脸色情视频，深度伪造技术由此进入大众视野并引发广泛的社会关注。有学者甚至将此称之为数字时代的开创性时刻，“暴露了先进技术的潜在危险能力”。[4]

（一）深度伪造技术的运作原理

深度伪造的运作主要包括三项底层技术，一是机器学习算法，二是算法运行计算能力，三是算法训练数据集。

首先，深度伪造采用的一个关键算法是“生成对抗网络”（简称GAN）深度学习模型，即通过鉴别算法和生成算法两种不同算法模型创建深度伪造文件。其中，鉴别算法通过观察受试者的特征并为其分配一个类别或标签来对数据进行分类。生成算法则正好与此相反，它首先假设这个类别，然后确定哪些特征使数据更有可能属于这个特定的组。[5]如确定电子邮件是否为垃圾邮件，一封邮件如果被识别为垃圾邮件，生成算法则会预测电子邮件的哪些特性增加了它被视为垃圾邮件的可能性。GAN同时训练两种算法模型，生成算法的目标是最小化鉴别算法，正确地输出分配真实或假的标签的概率，鉴别算法的目标则是最大限度地将数据准确地标记为属于“伪造”或“真实”内容的数据集的概率。[6]生成算法创建伪造文件，而鉴别算法则评估这些文件的真实性。[7]二者循环往复，都试图战胜对方，直到鉴别算法不能辨别什么是真实的，什么不是。[8]

其次，云计算服务的发展，解决了深度伪造算法计算能力需求，并且极大地减低了计算运行成本。以ResNet-50超级计算机为例，若指示其将ImageNet数据库中的100万张图片分为1000个对象类别，需要的训练时间为数小时，而一台这样的计算机售价大约12万美元。但基于云的超级计算机可以仅在8分钟内训练完成，成本却低于50美元。[9]

此外，用户个人发布的图像和其他海量在线内容，一定程度上满足了深度伪造的数据获取需求。并且，机器学习的进步逐步减少了对于目标对象的数据量的需要，能够以较少的目标对象数据生成高质量的虚假数据。

（二）深度伪造技术的特征分析

深度伪造技术是伴随人工智能发展而生的新兴技术，其具有生成视频的超真实性、技术使用的便捷性以及适用成本的低廉性三个显著特征。

首先，利用深度伪造技术生成的视频具有超真实性。如前文所言，深度伪造技术采用了生成对抗网络学习模型，生成算法和鉴别算法通过自我迭代，不断优化伪造和识别能力。有学者形象地将二者比喻为在攻击者和防御者之间引发的一场猫捉老鼠的军备竞赛，但攻击者看上去更像人类，[10]即通过大量的数据训练学习，生成算法最终制造出鉴别算法无法辨别真假的虚假视频，能够绘声绘色地描述一件某人从未说过或做过的事情。“当从一个人有足够的视频和音频开始时，该算法不仅可以创建假视频，还可以让这个人说出他们实际上没有说过的话。最终，这些视频将与真实视频无法区分。”[11]由此足以可见，深度伪造视频超真实性的特性。

其次，深度伪造技术具有使用上的便捷性。深度伪造运用了人工智能无监督学习技术，“可以实现机器的自主学习，伪造的行为脱离了人的参与，通过人工智能计算机程序自动完成。它将伪造从被动性伪造推入了自主性伪造的全新阶段”。[12]相较于以往监督学习或半监督学习技术而言，无监督学习技术的最大特点即在于对训练的源数据不再依赖人为提取、标注，整个过程由其自主实现、完成。使用者只需要通过程序提供目标文件，便可快速生成与目标文件高度逼真的伪造视频文件。

再次，深度伪造技术还具有适用成本上的低廉性特点。诚如有学者所言，“颠覆性技术已从传统神秘的技术流派，转向技术开源代码的普及”，技术的获取和应用逐渐趋于平民化。[13]普通民众通过GitHub等诸多网站即可获得深度伪造技术的开源代码算法。并且，随着大量各种换脸视频应用软件的商业开发，使得制作此类视频所需的难度和技能也正在下降，[14]使用者仅需下载一个APP应用程序就可以轻松实现视频伪造。如FakeApp，普通用户可以以较少的甚至免费的成本在短短几分钟内创建一个超真实的假视频。而经济成本的低廉性或零成本性，也使深度伪造的平民化成为可能。

（三）深度伪造技术的实践运用

深度伪造技术所具有的上述优势或特征，使其得以在实践中被广泛传播和运用，正在成为一种新兴的“颠覆性技术”。有学者称之为“机器人艺术家”，其可以学习模拟任何数据分布，在任何领域创造出与我们相似的世界：图像、音乐、演讲、散文。[15]如电影行业用其合成和重现早已逝去的演员，让他们能够重新出现在荧屏上。当然，深度伪造除了具有上述积极应用价值外，在实践中还存在其滥用的问题。具体而言，在以下方面滥用问题最为突出：一是非自愿换脸情色视频。很多知名女性都遭受其难，如好莱坞知名女星黛西、斯嘉丽·约翰逊、印度调查记者拉娜·阿尤布等，而一篇名为“我们真的被侵犯了：现在每个人都在制作人工智能生成的假色情片”[16]的科技网络文章，标题看似挑衅，实则透露了深度伪造在情色视频中的滥用问题。二是网络虚假通讯。网络视频等信息的真实性是当前信息接收面临的严重问题，有新闻评论人士称，网络虚假信息宣传直接影响了美国2016年大选。三是诈骗犯罪。如有学者所言，深度伪造是古老犯罪的最新方式。[17]深度伪造在实践中被广泛运用于商业欺诈、财产诈骗等犯罪活动。

无疑，实践中深度伪造的滥用，对个人权利、国家安全和社会民主都造成了极为严重的威胁。[18]

二、深度伪造向司法领域的渗透及其隐忧

深度伪造技术的滥用是对整个社会迫在眉睫的威胁，毫无疑问，它最终将会影响司法。[19]但这一事实比学者预期来得更快，在英国近期的一起儿童监护权案件中，妻子就向法庭提供了其利用软件制作的关于丈夫威胁言论的音频，虽然法院最终通过元数据分析辨别出该音频文件系伪造。[20]但该案向人们敲响了警钟，即深度伪造具有向司法领域渗透的高度的现实风险。

（一）深度伪造视频司法渗透的原因

深度伪造视频向司法领域的渗透，既有当事人利用深度伪造视频实现不当诉求的主观目的需求，同时，也存在其他有助于当事人利用深度伪造视频的客观现实因素，如司法人员事实认定过程中对视频证据的过度信赖以及成熟的深度伪造技术保障等。

首先，当事人在诉讼中使用深度伪造视频实现其诉求的主观目的需求。马克思曾说：“人们为之奋斗的一切，都与他们的利益有关。”[21]这表明，追求利益是人类社会活动的目的使然。而司法诉讼活动作为一种特殊的人类活动，自然也离不开对于利益的追求。随着智能通信工具的普及，拍照、录音、录像不仅成为一种时尚，更是当事人在发生案件纠纷时记录固定案件事实的重要方式。其不仅能够再现案件发生过程，同时，相对于当事人提供的言词证据而言，更具有客观性和说服力。因此，基于诉讼利益的考量，实践中难免有当事人投机取巧，向司法机关提交利用深度伪造技术制作的虚假视频等证据。而“当事人之所以千方百计向法院提供虚假证据，不言而喻，是为了诉讼上的利益”。[22]作为诉讼利益的最终承担者，他们深知诉讼的关键在于证据，为了赢得诉讼或实现诉求，当事人具有将深度伪造视频作为证据使用的强烈内在驱动力。

其次，视频证据在实践中对于案件事实认定的高证明力。司法案件事实认定不同于普通的事实认知，其所要解决的是过去是否存在某一特定事实的问题，是对“既往案件事实的回溯性建构”。[23]由于历史不能重现，司法人员认定案件事实只能借助于大量的证据。而视频证据能够客观地再现案件事实发生的经过，被视为是“沉默的现场知情人”，对于案件事实认定具有极强的证明力。“视频记录可以让人们成为事件的原始目击者，使他们不必决定是否信任他人的描述。”[24]有学者甚至主张视频证据在满足特定条件下可以突破孤证禁止定案规则的限制。[25]足以可见，视频证据在司法诉讼中发挥的重要证明作用及其对于案件事实认定的重要影响。而正是由于司法人员对于视频证据证明力的重视和信赖，为当事人使用深度伪造视频实现不当诉求提供了现实契机。

再次，深度伪造视频作为证据使用的技术保障。深伪技术能够逼真地创建虚假视频，而现行检测、识别技术尚难对此有效甄别。这使得当事人能够有恃无恐地使用深度伪造视频。此外，加之深度伪造技术还具有便捷性和低廉性等亲民、便民特点，这也为当事人使用深度伪造视频节约了时间成本和经济成本。总而言之，深度伪造技术提升了视频证据造假能力，增加了视频鉴别难度，为当事人在司法诉讼中滥用深度伪造视频提供了技术上的支撑。

（二）深度伪造视频司法适用的法治风险

深度伪造视频向司法领域的渗透，触及法庭上的每个角色：试图支持或排除视频作为证据的律师、决定视频是否可接受的法官、被要求就视频作证的专家证人或普通证人、作出裁决的陪审团等，[26]潜藏着巨大的法治风险。

1.深度伪造视频司法适用的根本风险：眼见为实的认知理念冲击

深度伪造技术的发展，极大地冲击了人们传统的事实认知方式，是对眼见为实认知观念的颠覆。深度伪造技术能够逼真地描绘一个人从未做过的事件，并且对其真假很难辨别。在司法实践中，视频证据往往因其证明方式的直接性而深受司法人员的重视，一张图片胜过千言万语，但没有什么比一段视频更能说服人的了。[27]司法系统高度重视陪审员使用视觉证据作出决定的能力，以至于哥伦比亚特区上诉法院认为，宪法上允许检察官将盲人排除在陪审团之外。[28]深度伪造技术对法院将视频证据采纳为定案的根据产生了根本性的影响。人们总是喜欢相信自己眼睛所看到的，但深度伪造的流行使这成为一个难以置信的危险假设。[29]随着深度伪造的普遍存在，人们可能很难相信他们的眼睛或耳朵告诉他们的东西——即使信息是真实的。[30]

2.深度伪造视频司法适用的直接风险：酿造司法错案

深度伪造视频在司法实践中作为证据适用，其可能导致的直接后果即是增加错案的发生几率。如果一方当事人向法院提交了深度伪造视频，其欺骗性损害并不仅仅限于视频本身。嵌入虚假视频的谎言将渗透到诉讼的其他部分，观看虚假视频可能会影响证人对事件回忆的证词。[31]对此，有研究者专门作了试验，将60名大学生放在一个房间里从事赌博活动，在活动结束后，研究人员分别向受试者展示了经过数字修改的一个共同受试者的作弊视频，他们在看到假视频后，近一半的受试者愿意作证目睹了共同受试者的作弊，但实际上没有一个受试者真正作弊。[32]照片和视频是刷新证人记忆的有力工具，即使图像所唤起的记忆从未发生过。虚假视频中固有的暗示性信息极大地增加了证人相信她有个人知识来验证视频的真实性，即使证人没有欺骗的故意。[33]事实上，深度伪造视频在诉讼中适用，不仅对证人证词会产生暗示性影响，对司法人员也会产生同样的效果。有研究表明，观看视频证据的司法人员保留案件信息的可能性要比其他形式证据高出650%。[34]由于视频证据的高证明力性，法官和证人都极易受其“暗示性”信息的影响。而深度伪造视频在诉讼中的出现，极易误导司法人员，增加了错抓、错判、错放的司法错案风险。

3.深度伪造视频司法适用的次生风险：“污名化”电子证据

毋庸置疑，深度伪造视频本质上归属于电子证据，因此，在当前深度伪造视频的真实性鉴别还存在较大困难的情况下，深度伪造视频有将电子证据“污名化”的危险。有学者将此称之为“说谎者红利”，即“随着公众对深度伪造的威胁越来越了解”，造假者就越有可能“试图逃避责任”，他们谴责真实的视频或音频是虚假的。申言之，一个持怀疑态度的公众将会怀疑真实的音频和视频证据的真实性。[35]随着电子证据法律地位的确立和承认，司法证明进入电子证据时代，电子证据在司法实践中扮演着愈发重要的角色，刘品新教授甚至称其为新一代的“证据之王”。[36]而深度伪造技术的发展，使得电子证据的真实性、可靠性严重存疑，即使在电子证据是真实的情况下，司法人员也难免“心有余悸”，甚至可能导致对电子证据的心理排斥。正如一名前检察官所说的那样，根据他们在法庭上处理证据的经验，深度伪造是恶意行为者武器库中一种特别强大的新武器。[37]一旦当事人提出视频证据是伪造的，并试图将其排除或让陪审团对其真实性产生疑问，陪审团很可能发生“反向CSI效应”，如果扮演事实调查者的陪审团开始怀疑是否能够知道什么是真实的，他们的怀疑将会破坏整个司法系统。[38]即除了深度伪造被视为真实的风险外，深度伪造存在的认知还破坏了人们对未篡改图像真实性的信念。换句话说，人们不再相信任何事情都是真实的。[39]

4.深度伪造视频司法适用的深层风险：消解司法权威

深度伪造视频在司法实践中的滥用，还具有消解司法权威性的深层次风险。司法权威是司法外在强制力与人们内心自觉遵从的统一。[40]但就现代法治建设而言，司法权威的树立更加强调当事人及社会公众对司法裁判的自觉遵守、服从。而深度伪造技术颠覆了人们“眼见为实”的传统认知，“当社会公众意识到深度伪造被大范围滥用，而个人又无从辨别真假时，将可能形成对任何图像、视频的不信任”。[41]如果人们不再相信有什么是能够辨别真实的，或者他们相信法庭审判中充斥着虚假证据，那么法院将失去公众对其判决公正性的信赖和信任。[42]而人们对于司法判决的不信任、不接受，将严重损害司法机关的公信力，消解司法的权威性。

三、深度伪造司法风险应对的域外经验

深度伪造向司法诉讼领域的渗透，无疑对当代司法提出了严重挑战，甚至“可能对司法公正性产生毁灭性的影响”。[43]对此，域外理论研究者和立法工作者作了积极的理论研究和实践探索，审视域外的既有经验，这对于我国解决该问题具有重要的参考意义。

（一）深度伪造司法风险应对的理论研究

目前，我国学者对深度伪造的司法风险还没有明确的认识。相较而言，美国学者已就此问题作了大量的理论研究，提出了以下几种解决问题的思路或方法。

1.视频证据认证门槛提高论

一些学者很早之前就注意到证据认证门槛太低而无法解决数字摄影发展所带来的虚假证据风险问题，但“深度伪造时代的黎明将这种缺陷带着一种新的紧迫感走到了最前沿”。[44]根据美国《联邦证据规则》第901（a）条的规定，对于证据的鉴真或认定，“证据提出者须提供足以支持该证据系其所主张证据之认定的证据”。很多学者认为，该初步证明证据真实性的门槛并不高，仅需提供“一个基础，让陪审团可以合理地发现证据就是支持者所说的那样就足够了”。“数字证据的支持者通常可以用其他可接受的可采证据来验证该证据的真实性。”[45]如当事人可以通过提供相关证人的证言，或使用证据的独特特征来满足这一要求。而相对较低的法庭准入门槛使得陪审团接触假视频的可能性不断增加，因此多数学者提出应当提高视频证据的准入门槛，“需要更多的间接证据来证实视频证据是一个小的但关键的步骤，将减轻，但不是解决，即将到来的深度伪造危机”。[46]即当“当陪审团审查数字视频证据的真实性时，证据提出者应当向陪审团提供足够的间接证据——包括数量和质量”，以确保陪审员有足够的证据来衡量越来越多的令人信服的深度欺诈视频的真实性。[47]

具体而言，学者又有两种不同的思路：一是图片证据认证理论，二是听证认证法。

美国法院关于视频证据认证的方法主要有两种：一是图片证据理论，二是沉默证人理论。根据图片证据理论，只有当证人能够在陪审团面前作证，证明该证据是对所发生的事情的公平和准确的陈述时，视频证据才可被接受。该理论基于这样一种观点，即任何摄影或视频证据都只是“口头证词的图形描述”，因此必须被证人证实是正确的。当然，证人不需要在创建视频时在场，也不要求是摄影或录像方面的专家，其只需就所了解的案件事实作公平和准确的陈述。与图片证据理论相反，沉默证人理论承认没有合格证人的视频证据，当事人可以提交一张照片或视频作为实质性证据，该照片或视频能够独立传达它所描述的内容，从而消除对证人的需要。由于依据沉默证人理论承认的证据可以单独作为实质性证据，因此，法院通常只有在装置和程序在受控环境中建立和执行时才承认，如闭路电视监控录像，以及X射线摄影和警察录像。不过，由于大多数公众个人创作的数码摄影因其缺乏系统和可靠的科学过程，而且提出者往往无法证明安全的保管链，因此难以达到沉默证人理论的要求。“深度伪造视频预计将很快变得如此令人信服，以至于肉眼无法识别”，于是有学者主张，在没有积极的司法保障措施的情况下，“法院应采用图片证据理论，废除使用沉默证人理论，以确保已承认的视频证据是真实的”。[48]

另外，还有学者提出了听证认证的解决思路。由于深度伪造技术的发展使得证人“公平和准确的描述”所依赖的假设已经过时，法院需要在其他地方寻找足够的证据，即视频证据就是其支持者所声称的。提出在法院承认视频证据之前，当事方可要求进行听证，要求支持者通过其他证据证实信息来源。这也将构成联邦证据规则第901（b）（11）条。[49]听证会将考虑除901（b）（1）的基本要求之外的认证因素，正如支持者在传统的901（b）（1）或901（b）（9）路径之外建立其基础时，法院将考虑的那样。为了解决大规模的深度伪造问题，并阻止它们进入法庭，初步的听证程序将增强陪审团对考虑的视频证据的信心。[50]

2.视频证据认证门槛维持论

与主张提高视频证据认证门槛的学者不同，该论者认为既有的证据规则已足以解决深度伪造视频的风险问题，提高认证门槛将弊大于利。认为深度伪造只是造假现象悠久历史上的最新发展，即各种电子文档，包括图像、视频容易受到操作。但从摄影的早期开始，人们就已经意识到照片可以描绘现实，但同样能产生幻觉。在20世纪末，就有专家预测，Adobe光电商店的出现将引发“真理的危机”，但社会最终适应了该项技术。而法庭对虚假的照片也从不陌生，事实上，虚假的照片在美国法庭上被揭穿了150年。历史经验告诉我们，法院已经习惯了文件不是所谓的可能性。为了确保至少有一些基本的可能性，即一件证据“就是支持者所声称的”，法院长期以来一直对这些证据施加了认证要求，无论是手写文件还是打印文件，胶卷、数码照片、录像带或数字视频。如果一份文件不能得到其支持者令人满意的认证，它将不被接纳为证据。因此，当前的证据身份验证规则已经足够。[51]并且，提高视频证据认证门槛，将会给视频证据的支持者带来身份验证的挑战。支持者不得不权衡该视频对案件的证明价值与获得承认需要的代价。这可能会对来自弱势社会经济背景的诉讼当事人和证人产生不成比例的影响，“将那些无法获得专家和资源的人排除在外”，无法获得他们应得的正义。同时有利于更富有的个人或公司，从而再生和加剧在获得司法公正方面的现有差距。[52]

3.视频证据AI技术反制论

另有论者认为，随着机器学习和AI技术的发展，即便是数字媒体法证专家的证词也不足以鉴定视频证据真伪，因为专家证人也可能无法辨别对数字视频的修改。对此，有学者提出使用AI来反制AI视频操纵，如美国国防高级研究计划局（DARPA）于2018年就启动了一项名为“媒体取证”（Media Forensics）的研究项目，旨在研发自动检测和评估数字视觉媒体真实性的技术，以识别视觉证据是否系伪造。随着各种AI检测软件的研发，深度伪造的自动化检测识别只是时间问题。[53]

（二）深度伪造司法风险应对的立法回应

深度伪造技术的滥用风险已引起了多国的重视，如美国相继推出了《2018年恶意伪造禁令法案》《深度伪造责任法案》《2019年深度伪造报告法案》，欧盟制定了《通用数据保护条例》《反虚假信息行为准则》，德国颁布了《社交媒体管理法》，英国出台了《数据保护法》等，都旨在对深度伪造技术使用进行控制。从既有的立法规定来看，虽然规定了受深度伪造侵害的权利人能够提起诉讼，要求民事赔偿或刑事追责，但似乎并没有意识到深度伪造作为证据使用的问题。当然，既有的立法规定在一定程度上对于法院视频证据认证是有促进意义的，具体而言，有以下几点：

首先，规定深度伪造内容制作者的强制披露义务。制作者应当采用嵌入数字水印、文字、语音标识等方式披露合成信息，对于违反披露义务的制作者或者恶意删除披露信息的行为人将承担相应的民事责任，行为恶劣、造成严重后果的还会面临罚金、监禁刑等刑事处罚。强制披露义务对于解决深度伪造所造成的视频真实性危机至关重要，如果使用得当，信息披露将给观众明确的提示，眼前所看到的图片、视频或录像是真实的还是虚假的，从而促进信任和信赖。[54]

其次，强调网络平台的审核责任及通知删除义务。根据《数字千年版权法》的规定，在线平台对于用户上传的网络视频，具有相应的审核和删除义务。平台一旦意识到其发布内容违反版权法等法律规定，该平台必须删除内容并通知被指控的侵权人，然后侵权人可以向版权持有人提供反通知。对于违法的深度虚假信息，在线平台在收到法院的禁令或被侵权人的申请后，同样理当及时删除。

再次，明确相关检测识别技术开发的政府责任。《深度伪造责任法案》明确规定政府成立深度伪造特别小组，致力于开发深度虚假检测技术和反制技术，并为研究此类技术的其他政府部门提供行政和科学支持，与私营企业或学术机构合作开发检测识别工具等，检测识别技术与互联网平台共享。

（三）深度伪造司法风险应对的经验启示

美国在关于深度伪造的理论研究和立法探索方面相对具有时代前沿性，虽然其内部还存在诸多争议，如证据认证标准是否提高、深度伪造规制与宪法第一修正案是否冲突等。但其既有的理论研究或立法探索对于我们应对深度伪造的司法风险仍有较大的借鉴或启示意义。

1.平衡公共利益与私人利益

学者关于视频证据认证门槛或准入门槛是否提高的争论，其实质即是如何平衡当事人的诉讼利益和国家打击深度伪造滥用的公共利益的问题。提高视频证据门槛，有助于阻止虚假视频进入法庭，保证司法公正判决，但同时也增加了视频证据支持者的证明负担，甚至可能造成支持者因社会经济等原因无法使真实的视频证据达到法庭准入门槛而被法院排除在法庭之外的危险，导致司法的非正义。因此，我们在设置视频证据的认证门槛或标准时，必须二者平衡。

2.推进深度伪造滥用风险的综合治理

互联网和相关技术对当代生活的各个方面产生了或积极或消极的巨大影响，深度伪造的风险治理不能轻易从互联网治理问题中剥离出来，需要一个更加连贯的治理系统。[55]治理深度伪造滥用风险，必须走综合治理路线，任何的单打独斗都不可能取得完全的胜利。具体而言，一是司法机关视频证据认证方法的综合性，二是参与主体的多元性。前者是就深度伪造在司法领域的滥用而言的，后者则是对深度伪造风险的整体治理要求。虽然美国学者提出了视频证据认证的多种方法，但任何单一的认证标准都是不科学的，如利用元数据分析和专家技术鉴定是可能识别深度伪造的，但这是昂贵的和低效率的。技术检测深度伪造是可能的，但它是不完善的。[56]另外，防止深度伪造滥用，必须个人、平台、政府等多主体协同，方能有效推进深度伪造风险治理。

3.明确深度伪造使用规范及法律责任

对于深度伪造司法风险的防范，除了司法机关提高自身的识别能力外，还应制定详细的关于深度伪造的使用规范，明确深度伪造创建者的披露或标识义务，对于违反使用规范的行为，应强化相应的责任追究，如民事赔偿、行政处罚或刑事追责，提高深度伪造的违法成本。

4.借力技术赋能

信息化、数字化是未来发展的趋势，深度伪造风险的防范亦需融入这一浪潮。AI反制AI或将是未来深度伪造风险治理的重要途径，虽然有学者指出，这很可能是一场失败的战斗，或者充其量是一场僵局。[57]但是，这绝不应是阻碍深度伪造检测技术研发及应用的当然理由。

四、深度伪造司法渗透的应对策略

技术本身无谓善恶，深度伪造有其积极的社会价值和意义，因此，深度伪造司法滥用风险的治理不应也不可能从本源上去禁止深度伪造技术的运用。对此，解决问题的关键在于：一是司法机关应当适应深度伪造技术威胁，完善视频证据准入和审查制度；二是立法上应当强化深度伪造技术规制，确保技术合法使用；三是依托新兴技术，推进深度伪造治理智能化、技术化；四是创新人才培养机制，培养“法律+技术”的复合型法治人才队伍。

（一）司法机关回应性调适

深度伪造视频是虚假证据，显然不能作为法院裁判的依据。因此，从司法机关层面而言，关键在于防止深度伪造进入法庭以及强化视频证据真实性审查。

1.明确视频证据法庭准入标准

证据准入标准是指证据提供者提供证据证明其所主张证据系真实、合法的证明要求或证明标准。我国学界认为，证据事实不属于证明对象。[58]并且，这种观点直接影响了司法实践。证据提供者只需要说明证据来源、证明目的，证据即可进入法庭，并没有设置证据的法庭准入门槛。当然，低门槛的法庭准入能够将大量的案件相关证据呈现到法官面前，在证据真实的情况下，法官接触的案件信息越多，越有利于其作出公正的司法裁判。然而，现实的情况是，进入法庭的证据并不都能保证是真实的，法官很容易受虚假证据的干扰，特别是法庭上的深度伪造视频，更是如此。而设置合理的法庭准入标准，无疑是防止深度伪造证据进入法庭的有效途径。因此，本文并不完全赞同证据事实不是证明对象的观点。当然，对于证据准入标准的设置，需要明确以下两点内容：

一是证据准入需要达到的真实性证明程度。证据准入标准的设置必须平衡司法事实查明和当事人诉权保护，过高或过低的准入标准都是对另一种利益的不当侵害。笔者认为，证据准入门槛设置为法官具有信赖该证据为真实的合理根据是较为可行的。一方面是因为合理根据标准的证明要求并不太高。所谓具有合理根据，即法官接受该证据系因为该证据的真实性有其他证据的证明。对当事人而言，其只需要能够提供证据向法官证明其所主张证据系真实即可，并不要求达到确信真实或高度盖然性真实的证明程度，而合理根据标准更多的是对证据“量”的要求。另一方面，证据准入门槛的设置，实质上是增加了一道证据审查程序，为法庭事实认定准确性、司法裁判的公正性增添了一道护身符。

具言之，法院应当在案件立案审查时，由立案庭法官同时对证据进行准入标准审查，对不符合准入标准的，应当告知当事人在合理时限内予以补充，补充时限和次数可以参照退回补充侦查的时限和次数要求，以一个月和两次为限，经补充后仍未达到准入标准的证据，应当不予采纳。而对于当事人在审判阶段向法庭提交的证据，则由审判法官予以审查判断。

二是证据准入标准的适用范围。如前文所言，准入标准某种程度上即是准入审查程序，那么，是否一切证据都需要适用准入审查程序呢？显然，没有必要，并且，如果一切证据都适用准入审查，那将会陷入循环论证的逻辑怪圈。笔者认为，证据准入审查应当限于实物证据，而不是所有的案件证据。实物证据是相对言词证据而言的，是指那些以物品、痕迹、书面文件、录音、录像等为物质载体的证据形式。[59]这主要包括物证、书证、视听资料、电子数据等证据类型。之所以主张准入审查只适用于实物证据，一是言词证据的真实性审查需依赖相关言词“证人”直接到庭陈述，这也是现今国家普遍确立直接言词原则的根本原因，而这在立案阶段是无法完成的，即使能够实现，那也会造成诉讼的极度不经济性。二是对实物证据准入审查重点是审查是否为原件、原物，不是原件、原物的能否提供证据证明与原件、原物核对一致，审查程序相对简便、可行。值得注意的是，虽然在我国刑事诉讼法司法解释规定中，也明确了书证、物证、视听资料等实物证据原件、原物或原始载体的审查，但是规定在法庭审判阶段，时间明显过于滞后，证据准入审查程序缺失。对此，笔者认为，将实物证据原件的审查提前到证据准入审查程序是较为科学合理的，当然，这并不排除庭审中庭审法官对证据原件的审查权能。

2.强化视频证据真实性审查

证据真实性审查无疑是法庭审判的重点内容，对于视频证据的真实性认定，我国司法解释规定了单一审查和综合审查两种方式。前者强调对电子证据生成、收集、存储、传输过程的同一性审查；后者则是强调证据相互印证、排除合理怀疑。传统的证据审查方式对于深度伪造视频仍然适用，故对此不再赘述，文章重点就深度伪造对视频证据真实性审查的新挑战、新要求进行论述。

一是视频证据原件的认定标准。在司法实践中，一直存在对证据原件的要求，如刑诉法司法解释中就明确了，据以定案的物证、书证应当是原物、原件。新民事诉讼证据规定亦作了类似规定，当事人向法院提供证据，应当提供原件、原物。并且，实践中还存在证据原件的证明力优于复制件等传来证据的证据认定思维，如2002年行政诉讼证据规则规定，“原件、原物优于复制件、复制品”“原始证据优于传来证据”。证据原件一定程度上代表了案件事实真相。对此，笔者认为，对于电子证据原件的选择和认定，需要重新予以确定。诚如刘品新教授所言，我国关于电子证据规定属于混杂的体系。[60]在各法律规定中虽然都在强调应当提供电子证据原件，但对于何为电子证据原件，并没有明确的规定。或许是由于电子证据的虚拟空间性和数字空间性的特点，[61]使得对其难以直观把握，所以，实践中规定了电子证据原价外在的辅助判断标准。如2004年《电子签名法》规定，数据电文原件是指“能够有效地表现所载内容”，并且“能够可靠地保证自最终形成时起，内容未被更改”。2016年最高人民法院、最高人民检察院（以下简称“两高”）及公安部《关于办理刑事案件收集提取和审查判断电子数据若干问题的规定》中规定，收集、提取电子数据，应当扣押电子数据原始存储介质。2019年民事证据规定中，“以电子数据作为证据的……直接来源于电子数据的打印件或其他可以显示、识别的输出介质，视为电子数据原件”。我们可以分别称之为电文内容说、原始载体说和拟制原件说。就上述三种标准而言，显然都不是确定电子证据原件的最佳选择。首先，电文内容说以电子证据直接呈现的信息内容来确定电子证据是否为原件，这种标准遇到深度伪造是极为危险的，如有学者指出，深度伪造技术使音视频伪造越来越容易，这意味着音视频内容的接受不能“以貌取人”。[62]其次，电子证据可以与载体分离的特点，也使得原始载体说不可取。三是拟制原件说与电文内容说面临同样的问题。由于电子证据本质上是由0和1所组成的数字代码，并且电子证据的每次操作都会留下相应的数据痕迹，如电子文档会自动创建元数据，该元数据会描述文档、作者、创建日期以及更改的日期，通过元数据分析能够“确保用户记录证据……是值得信任和可接受的”。[63]因此，电子证据原件采元数据标准是最为妥当的。当然，元数据分析需要依赖数字证据专家，基于诉讼成本和效率的考虑，是否需要元数据分析，应当综合证据的实质争议予以确定。

二是视频证据的质证保障。证据必须经法庭查证属实才能作为定案的根据。查证的一个关键环节即是证据质证，充分、有效的质证，是法庭认证准确性的重要保障。在以往的司法实践中，案卷笔录中心主义、庭审形式化、律师发问难、质证难等问题较为突出。对此，十八届四中全会特别提出推进以审判为中心的诉讼制度改革，落实庭审实质化，强化证人、鉴定人出庭制度，确保庭审在事实查明、证据认定、诉权保护和公正裁判等方面发挥的决定性作用。当事人对视频证据真实性存疑的，当事人有权申请通知相关证人、鉴定人出庭作证，对于当事人的申请，法庭原则上应当准许。并且，证人、鉴定人出庭后应当接受控辩双方的交叉询问。对于专业性问题，还应当保障控辩双方，尤其是辩护方申请专家辅助人出庭的权利。

（二）深度伪造技术的立法规制

假设深度伪造不成为一个法律问题将是危险的。[64]从法律规范层面明确深度伪造技术合理使用及滥用责任，是科学防范与应对深度伪造滥用风险的必然路径。

1.深度伪造技术合理使用规范

深度伪造技术的最大优势或致命危害都源于其所具有的现实虚拟功能，因此，对于深度伪造技术的使用，首先应当是明确使用者的信息披露义务，防止虚拟信息的误信误传。在我国2019年《网络音视频信息服务管理规定》中，也对此作了明确规定，即“网络音视频信息服务提供者和网络音视频信息服务使用者利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息的，应当以显著方式予以标识”。其次，应当对虚拟的内容进行限制，即不得利用深度伪造技术制作、发布、传播有损第三人利益的音视频内容，如恶搞、丑化他人形象，对于有损他人利益的虚拟内容，即使对其明确标识，也应当予以明确禁止。遗憾的是，在《网络音视频信息服务管理规定》中，仅规定了使用者和平台“不得利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播虚假新闻信息”。而对于在标识前提下，制作、发布、传播有损他人利益的行为没有明确。再次，应当对深度伪造技术合成的音视频用途进行限制，明确其不得用于非法目的。该部分内容将在法律责任一节详细论述。最后，应强化平台监管责任，提供深度伪造技术服务的平台，应当强化用户规范管理，如完善的身份信息认证。同时，亦当强化技术管理，如嵌入不可篡改的自动标识算法等。

2.深度伪造技术司法滥用的法律责任

加大行为人滥用深度伪造技术的违法成本，是应对深度伪造司法风险的必要举措。深度伪造技术在司法领域的滥用，严重扰乱了正常的司法秩序，滥用行为已触及刑事犯罪。对此，应当强化责任追究。根据实施主体或实施领域的不同，司法诉讼中滥用深度伪造的行为可能触犯不同的犯罪。在刑事诉讼中，证人故意使用深度伪造音视频作虚假证明的，涉嫌伪证罪；辩护人、诉讼代理人帮助当事人利用深度伪造技术伪造证据的，则涉嫌辩护人、诉讼代理人毁灭证据、伪造证据、妨害作证罪。若是行为人利用深度伪造证据捏造事实、诬告陷害他人的，则涉嫌诬告陷害罪。在民事诉讼中，若行为人使用深度伪造虚假证据视频进行诉讼的，其行为则涉嫌虚假诉讼罪。如学者言，深度伪造是对传统犯罪方式的新发展。现行的刑责规定应当说是较完善的，关键则是在实践中强化落实。

当然，对于上述情形情节较轻的，司法机关还可以依法给予行为人必要的罚款和拘留。如民事诉讼法第一百一十一条规定，诉讼参与人或其他人妨害司法行为情形的，法院可以根据情节轻重予以罚款或拘留，其中即包括伪造证据情形。刑事诉讼法第一百九十九条也作了类似规定，即审判过程中，诉讼参与人违反法庭秩序，情节严重的，法庭可对其处一千元以下罚款或十五日以下拘留。实践中，行为人向法院提交深度伪造音视频作为证据的行为，应当视为是严重违反法庭秩序的情形。

（三）深度伪造技术反制

随着深度伪造技术的广泛使用，海量的深度伪造音视频等虚假信息不断产生，若缺乏有效的识别机制，必将引发媒体的信任危机。[65]而深度伪造虚假信息的治理，显然离不开技术的辅助。虽说深度伪造与检测识别是一场无休止的竞争赛，但各国从未放弃对深度伪造识别技术的研发。2017年新加坡信息通信研究网络安全小组在《自动人脸交换及其检测》（Automated face swapping and its detection）一文中提出AI换脸检测框架以来，业界关于深度伪造识别技术的研究便进入了白热化阶段，大量的高校、企业等研究人员纷纷表示出了对此项技术的研究热情。并且，美国还将该技术的研发上升到了国防安全层面。

对此，笔者认为，一方面，国家应当加大检测技术的科研经费投入，由上而下推动该项技术的持续性研发。另一方面，强化实践转化及运用。对于已研发的检测技术，强化其实践应用。如法院在立案庭配备深度伪造检测识别系统，对进入法庭的音视频证据进行技术识别检测，防范深度伪造进入法庭。另外，为保证音视频等电子证据在保管过程中失真，很多学者提出了区块链存证。由于区块链整合运用了P2P网络技术、非对称加密算法、数据库技术、数字货币、智能合约等，具有去中心化、不可篡改的特性，这与电子证据存证的需求天然契合。最高人民法院在《关于互联网法院审理案件若干问题的规定》《人民法院在线诉讼规则》等规定中，已明确了区块链存证的证据效力。实践中应推进区块链存证的规范化运用和操作，这在一定程度有助于防止深度伪造司法滥用，化解证据真实性的质疑。

（四）创新法治人才队伍建设

徒法不足以自行，法治的关键在于人。深度伪造技术的司法滥用危险，对于我们整个法治人才队伍建设也提出了新的要求和挑战，即新时代的法律人，尤其是律师和司法人员，不仅要精通法律专业基础知识，还应了解计算机等其他专业的基本知识。目前司法人员知识结构缺陷较为突出，复合型法律人才严重缺失。在司法实践中，专家鉴定意见取代了法官专业判断，不仅侵蚀了司法的独立性，还极易造成冤假错案。立足于时代发展和实践需要，很多高校进行了较为有益的法学教育改革探索，如西南政法大学成立了人工智能法学院、清华大学法学院增设了计算法学硕士专业、湘潭大学法学院开设了数据法学硕士专业、东南大学法学院推出了《大数据与互联网法学》课程等，以满足人工智能时代对“法律+人工智能”的复合型人才需求。事实上，美国犯罪科学实验室主任协会较早就提出了发展国家法医科学课程的建议，以便像法官和律师这样的刑事司法从业人员更好地了解相关专业技术问题。2021年4月，习近平总书记在清华大学考察时也特别指出，要用好学科交融的“催化剂”，瞄准科技前沿和关键领域，推进新工科、新医科、新农科、新文科建设，加快培养紧缺人才。[66]对此，笔者认为，新时期复合型法治人才队伍建设或培养，不应仅仅限于少数几个学校的试点摸索，应当对其制度化、规范化。首先，法学本科教育实行“法学+X”的培养模式，即法科生不仅应学习法学专业课程，还应至少选修一门理工科通识课程，并且需达到学校考核要求。其次，提高法律硕士招考条件，报考者应具备理工科教育经历或背景。因为法律硕士的培养要求偏向于实务人才，提高法律硕士招收专业门槛，有助于法学与其他学科深度融合，达到复合型法律人才培养的目的。最后，鼓励高校根据自身优势或特色学科，开设与法学相融合的交叉学科专业或课程。

结 语

深度伪造司法风险仅是深伪技术滥用在司法领域的具体体现，但深度伪造的滥用风险绝非仅限于司法领域一隅，其对个人、社会、国家都是巨大的潜在威胁。对此，我们也应当理性看待这种威胁，关于真相死亡的论点显然被夸大了，但也不应忽视威胁的存在。如学者所言，尽管深度伪造是危险的，但它不一定是灾难性的。为了在深度伪造的威胁下生存下来，我们应当学会如何与谎言共存。[67]文章从深度伪造司法风险防范的视角，提出四点应对建议：一是要完善司法机关证据准入和审查制度，提升司法机关防伪、识伪能力；二是强化技术使用法律规制，明确滥用的法律责任；三是强化深度伪造检测技术研发和实践运用，辅助识别深度伪造；四是创新法治队伍建设，培养既精通法律又了解技术的复合型法律人才。以此求教于方家。