“深度伪造”的扩张化刑事治理风险及其限度

熊 波

“深度伪造”(Deep Fake)是人工智能算法在神经网络识别和视听数据生成转化中的处理技术。随着美国Reddit网站上合成色情视频和前总统奥巴马咒骂现任总统特朗普的政客攻击合成视频的出现，“深度伪造”一词备受国外法学界关注。同样，在我国，法学界对于近期发生的中国AI一键换脸App“ZAO”、知名视频网站bilibili流传的杨幂、吴彦祖AI换脸术等合成视频点击量飙升以及“中国人脸识别第一案”等事件产生担忧，进而认为在刑法层面，换脸视频行为人构成传播虚假信息、诽谤、盗窃、寻衅滋事、传播淫秽物品等五大类的犯罪(1)王禄生：《论“深度伪造”智能技术的一体化规制》，《东方法学》2019年第6期。。甚至有部分学者引入抽象化情感困扰，并将其作为“深度伪造”刑法规制的主要依据(2)See Robert Chesney & Danielle Keats Citron，21st Century-Style Truth Decay: Deep Fakes and the Challenge for Privacy, Free Expression，and National Security, Maryland Law Review, vol.78, no. 4, 2019, pp. 882-891.。但“深度伪造”涉及的算法自动识别和决策功能运作，不同于网络媒介中虚假信息的传统传播技术。本文认为，对于“深度伪造”的刑法规制，我们不能一概而论，而需要在剖析“深度伪造”算法运作技术及其蕴含的扩张化刑事治理风险的基础上，强化刑法规制的限制性理念，设置规制限度的具体模式，以理性对待“深度伪造”犯罪现象。

一、“深度伪造”的技术本质与扩张化刑事治理风险

(一)“深度伪造”的技术运作及其法益的严重危害

要解决“深度伪造”扩张化刑事治理风险的问题，我们必须首先回答“深度伪造”的虚假信息是如何运用人工智能算法进行编造、传播的。

从字面上看，“深度伪造”体现了算法的深度学习和信息伪造的双层次技术结合。平常我们所理解的算法学习主要是依靠事前的代码或指令的输入和数据输出的单层次过程实现的。但与此不同的是，“深度伪造”虚假信息的编造和传播，不仅需要依靠视听数据输入、输出的单层次过程，还需要依靠内部算法数据的反复性制造和检测过程。而这种过程完全由生成对抗神经网络(Generative Adversarial Networks，简称“GANs”)予以实现。GANs的基础工作主要依靠人工智能算法对不同数组的图像、语音、空间、物体等视听数据进行不同比例的交互，然后不断地训练和验证，以实现自我对抗、自我优化的过程。只有依靠GANs，“深度伪造”的虚假信息才能看起来像真实发生过的事件一样(3)See Alexa Koenig, Half the Truth Is Often a Great Lie：Deep Fakes, Open Source Information, and International Criminal Law, AJIL Unbound, vol.113, no.1, 2019, pp. 250-255.。

而GANs内部算法数据的反复性制造和检测，又需要依靠两组神经网络予以实现：生成式神经网络和鉴别式神经网络。两组神经网络互相配合、不断衔接，从而伪造出看起来极其真实的虚假信息。具言之，在算法学习的运作过程中，生成式神经网络和鉴别式神经网络分别就像是算法生产工厂中的“生成器”(Generator)和“鉴别器”(Discriminator)。“生成器”主要是将输入的具体信息数据转化为0-1的序列数字，按指令将需要替换上的数字信息与算法网络上已经存在的基础信息数据进行对比，然后通过替换、覆盖等方式实现对应的序列数字的生成伪造过程。

但毕竟“生成器”主要是承担数据的转化、替换和覆盖等工作，因而，仅依靠生成过程，我们还很难得到与真实的图像、视频和空间一模一样的信息数据。此时，我们就需要依靠“鉴别器”完成前述的训练和验证等自我对抗、自我优化的过程。鉴别器的主要功能就在于“鉴别”——检测信息数据的真实性。在理想状态下，鉴别器可以依据人工智能系统中足够多且高质量的算法数据，完成查找生成信息数据的真实性缺陷的对抗工作，并将真实性缺陷的序列数字反馈给“生成器”。生成式神经网络再次操作深度的循环覆盖、替换过程，以不断消除“鉴别器”反馈的缺陷信息，直至生成高度真实性的虚假信息(4)See Robert Chesney&Danielle Keats Citron, 21st Century-Style Truth Decay：Deep Fakes and the Challenge for Privacy, Free Expression, and National Security, Maryland Law Review, vol.78, no. 4, 2019, pp. 882-891.。最后，依靠算法系统单层次、单线程的深度学习，完成“深度伪造”虚假信息的推荐和转发过程。至此，“深度伪造”虚假信息的制造、转发等算法传播过程得以完成，全过程并不需要人为手动的参与，算法能够自主完成。

“深度伪造”虚假信息的类型主要涉及图片、视频、语音、空间、物品等信息数据，其技术危害在于网络虚假信息的GANs算法传播。“深度伪造”可以通过算法的快速传播和扩散，危害国家安全、破坏社会稳定、扰乱社会秩序、侵犯他人合法权益，从而对社会稳定造成严重不良影响。

为应对“深度伪造”的人工智能法律风险，2019年11月18日，国家互联网信息办公室、文化和旅游部、国家广播电视总局专门针对“深度伪造”等行为，发布了《网络音视频信息服务管理规定》(以下简称《规定》)。制定者表示：对于利用“深度伪造”严重侵害刑法法益的行为，司法机关完全可以按照《规定》第18条追究刑事责任。因此，“深度伪造”导致的危害结果和刑法规制是密切相关的。

(二)“深度伪造”蕴含的扩张化刑事治理风险类型

“深度伪造”行为在人工智能算法的自动识别和决策的运作原理下，是否达到侵害刑法法益的程度，还有待司法机关进一步认定。因而，不基于“深度伪造”的人工智能技术的运作原理区分法益侵害的程度，而是一概而论，这毫无疑问是一种扩张化刑事治理风险。

1.“深度伪造”的虚假信息直接等同于刑法中的“违法犯罪信息”

对于如何界定刑法中“违法犯罪信息”的内涵，现行法律、法规并未直接给出具体的答案。不过，《网络安全法》第12条明确列举了九大类不得利用信息网络从事违法犯罪活动的具体类型(5)《网络安全法》第12条第2款规定：“任何个人和组织使用网络应当遵守宪法法律，遵守公共秩序，尊重社会公德，不得危害网络安全，不得利用网络从事危害国家安全、荣誉和利益，煽动颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，传播暴力、淫秽色情信息，编造、传播虚假信息扰乱经济秩序和社会秩序，以及侵害他人名誉、隐私、知识产权和其他合法权益等活动。”。该条涵盖的违法犯罪活动类型，散见于《民法总则》《治安管理处罚法》《刑法》《全国人民代表大会常务委员会关于加强网络信息保护的决定》《全国人民代表大会常务委员会关于维护互联网安全的决定》《信息网络传播权保护条例》《互联网信息服务管理办法》等法律、法规之中。

有部分学者据此认为，刑法中的“违法犯罪信息”，直接等同于《网络安全法》第12条或其他行政法规所涵盖的具体类型(6)敬力嘉：《论企业信息权的刑法保护》，《北方法学》2019年第5期。。但问题在于：“深度伪造”的虚假音频、视频、图片等视听数据一旦散布在网上，此时，“深度伪造”行为在人工智能算法的自动识别和决策功能的技术运作原理下，很容易达到入罪标准，“深度伪造”的虚假信息便直接等同于刑法中的“违法犯罪信息”，那么，“民行”规范中的一般违法的虚假信息范围在哪，便是一个疑问。

通常而言，由于“算法黑箱”的存在，“深度伪造”的视听数据相较于后者，更易受到广大网民的喜爱，但网民又无法熟知算法系统的代码编程。此时，网民出于娱乐和满足好奇心的目的，就极易轻信而转发、浏览或评论“深度伪造”的虚假信息(7)See Jessica Silbey and Woodrow Hartzog, The Upside of Deep Fakes, Maryland Law Review, vol.78, no.4, 2019, pp. 960-966.。而按照现行《刑法》以及相关司法解释的具体规定(8)参见《关于办理利用信息网络实施诽谤等刑事案件适用法律若干问题的解释》第2、第5条；《关于办理非法利用信息网络、帮助信息网络犯罪活动等刑事案件适用法律若干问题的解释》第3、第10条。，诽谤罪，编造、传播虚假信息罪，寻衅滋事罪等罪名的入罪标准均包含虚假信息的点击、浏览、转发的“5000次”“500次”等次数性。那么此时，在人工智能算法的特性下，“深度伪造”的编造、传播行为将极有可能直接构成诽谤罪，编造、传播虚假信息罪，寻衅滋事罪等罪名。换言之，在单纯的点击、浏览、转发的次数性规定下，民法、行政法体系对于“深度伪造”行为将毫无用武之地。

虽然被众人点击、浏览和转发的一键换脸视频或者不同场景的抠图视频等视听数据极具真实性，但大家也仅是一笑而过，亦或是仅在浏览时感觉心理恐慌，而并未导致现实社会秩序混乱或者网络经济收益损失。此时，我们难以言说“深度伪造”具有刑法法益的侵害性。在人工智能算法自动决策的特性下，“深度伪造”单纯的传播次数是极容易实现的。此时，“深度伪造”的传播次数显然无法和“高某寻衅滋事案”的网上伪造虚假灾情信息所导致的国家政府部门迅速联动派专人赶赴现场调查核实情况的秩序妨害以及相关大型公司经营的严重负面影响等危害结果相提并论(9)参见山西省吕梁市中级人民法院(2015)吕刑终字第93号刑事裁定书。。如此一来，“深度伪造”的虚假信息便很容易直接等同于刑法规范中的违法犯罪信息，但这显然是一种扩张化刑事治理风险。

2.相关司法解释并未将算法系统的自动化点击、转发的次数排除在外

退一步而言，纵使是相关司法解释或者实务操作将纯粹的次数性规定作为入罪标准的基本前提之一，我们也不能忽略“深度伪造”算法系统中的自动转发和点击的次数。很显然，相关司法解释并未明确人工智能算法系统的自动化点击、转发的刑法评价。对此，就有学者认为：“弱人工智能时代网络空间的智能化机器人是由人进行操纵，虽然实施‘转发行为’的机器人不具有可罚性，但本文并不否定自然人利用智能化机器人转发、点赞、评论的行为的可罚性。”(10)刘期湘：《人工智能时代网络诽谤“积量构罪”的教义学分析》，《东方法学》2019年第5期。可以看出，该学者是通过否定人工智能体的主体地位，肯定智能机器的自动化转发、点击、评论等相关行为的刑事可罚性可以直接归于自然人。但笔者认为，刑法之所以将“深度伪造”的虚假信息视为违法犯罪信息，是因为经过GANs自动化决策后的虚假信息极具真实性，一旦被多人浏览观看、评价转发，将极易导致受害者的人身或财产遭受严重损害，或者现实社会公共秩序遭受严重混乱。“深度伪造”算法系统的自动化点击、转发的次数仅是人工智能算法的自动决策的外在表现形式。当前，人工智能技术还处于发展阶段，基于商业秘密的保护和人工智能技术的专业限制等目的，算法系统中源代码的运作逻辑和自然语言的转化，一般难以被民众所熟知(11)马靖云：《智慧司法的难题及其破解》，《华东政法大学学报》2019年第4期。。如此一来，“算法黑箱”便由此形成。而在“算法黑箱”下，GANs的自动化点击、转发的次数，是在封闭式算法系统中进行的，并不具有可直观性和可感观性。因而，“深度伪造”行为即使达到了入罪标准的规定，无论如何也不会加剧公民的人身、财产权益的损失，或者现实社会公共秩序的混乱。因此，刑法也不应该将自动化的传播次数等同于手动浏览、转发所引发的情节严重的次数性规定。而当前司法解释将单纯的点击、浏览、转发的传播次数作为入罪标准，并未将算法系统自动化传播次数排除在外，这不免是一种扩张化刑事治理风险。

3.“深度伪造”的明知认定极具包容性，容易扩大主观故意的认定

依据“两高”发布的《关于办理利用信息网络实施诽谤等刑事案件适用法律若干问题的解释》(以下简称《网络诽谤刑事解释》)第1条第2款的规定，即使行为人未捏造虚假信息，但只要其明知是他人编造的虚假信息，而在信息网络上散布的，也可以构成诽谤罪。而对于如何理解网络虚假信息转发的明知，司法解释并未做进一步细化。通常认为,刑法规制的“深度伪造”是行为人有意混淆或歪曲事实而实施的行为(12)See Emily Barney，Visual Literacy & Fake News，CALL Bulletin, vol.250, no.1, 2019, pp. 19-26.，但仅凭此，我们是否可以直接认定行为人的犯罪故意呢？对此，有学者认为，应当将传播网络虚假信息行为的明知界定为一种“概括性认知”，即在转发者对“深度伪造”的虚假信息产生一定怀疑时，只要行为人没有亲自验证信息的真伪性，便可以直接认定其具有犯罪故意的概括性认识(13)孙万怀、卢恒飞：《刑法应当理性应对网络谣言——对网络造谣司法解释的实证评估》，《法学》2013年第11期。。也有学者认为行为人恶意的规范本质在于故意，包括直接故意和间接故意在内的故意(14)陈伟、霍俊阁：《论恶意转发网络虚假信息的司法认定》，《重庆大学学报(社会科学版)》2017年第5期。。由此可以看出，大部分学者并未限定虚假信息转发者的主观明知。

但上述理解仅适合于手动转发者能够辨别虚假信息危害结果的情形，而同样是囿于“深度伪造”的“算法黑箱”的客观存在，在GANs的两组神经网络进行深度学习时，公民对于算法数据的运作规则如何具体影响现实结果是不得而知或者一知半解的。此时，算法的自动化决策就容易影响个人主观的独立判断(15)参见马靖云《智慧司法的难题及其破解》，《华东政法大学学报》2019年第4期。，“机器学习算法的不透明性挑战了法律的可预测性和确定性”(16)陶盈：《机器学习的法律审视》，《法学杂志》2018年第9期。。因而，直接将“算法黑箱”运作中“深度伪造”信息一键式转发行为的主观明知等同于手动转发的明知的做法，明显也是一种刑事治理风险扩张化的表现。这容易将持有怀疑、中立态度的转发行为也视为犯罪行为(17)See Robert Chesney & Danielle Keats Citron，21st Century-Style Truth Decay: Deep Fakes and the Challenge for Privacy, Free Expression, and National Security, Maryland Law Review, vol.78, no. 4, 2019, pp. 882-891.。

4.GANs抓取视听数据的行为一律构成非法获取计算机信息系统数据罪

“深度伪造”过程中的生成式神经网络和对抗式神经网络的数据输入和信息验证是在大量信息数据的训练基础上进行的，因而，GANs自动抓取计算机信息系统中储存、处理的视听数据是一种必然经历的过程(18)See Alexa Koenig, Half the Truth Is Often a Great Lie: Deep Fakes, Open Source Information, and International Criminal Law, AJIL Unbound, vol.113, no.1, 2019, no.1, pp. 250-255.。甚至在某种情况下，算法系统会通过识别分析，自动检验并通过计算机信息系统中的漏洞获取其他算法系统中的大量数据。此时，按照《刑法》第285条之二的非法获取计算机信息系统数据罪中数据类型认定的理论观点和实务操作模式，只要是GANs自动抓取计算机信息系统中的存储、处理和传输的数据，不管其获取的数据是否具有身份认证属性，均可构成非法获取计算机信息系统数据罪(19)杨楠：《个人数位足迹刑法规制的功能性偏误与修正》，《安徽大学学报(哲学社会科学版)》2019年第4期。。

诸如，在最高人民检察院发布的第36号指导性案例中，针对行为人通过自己掌握的账号、密码以及Token令牌(计算机身份认证令牌)，突破查看权限下载非工作范围内的电子数据的情形，法院并未对电子数据的类型进行区分，而是一概而论地判定行为人构成非法获取计算机信息系统数据罪(20)参见最高人民检察院法律政策研究室编：《网络犯罪指导性案例实务指引》，北京：中国检察出版社，2018年，第12～14页。。

但是，按照“两高”发布的《关于办理危害计算机信息系统安全刑事案件应用法律若干问题的解释》(以下简称《计算机刑事案件解释》)第1条的规定，“两高”对计算机信息系统中的存储、处理和传输的数据情形是进行了限定的，其仅局限于“身份认证信息”。换言之，非法获取计算机信息系统数据罪中的“数据”并不包括算法系统中非身份认证的信息，诸如，计算机信息系统中储存的“深度伪造”信息。但是，当前司法实务操作对于GANs自动抓取视听数据的行为是不进行区分认定的，这极易导致GANs自动抓取此前“深度伪造”信息等非身份认证信息的行为也被实务界视为构成非法获取计算机信息系统数据罪。这也是一种扩张化的刑事治理风险。

二、“深度伪造”的刑法规制应确立限制性理念

首先，应当明确，面对人工智能深度学习产生的新型社会现象，我们不能动辄采用立法体例更新的方式，去对待人工智能犯罪现象(21)熊波：《人工智能刑事风险的样态评价与规制理念》，《探索与争鸣》2019年第5期。。“深度伪造”行为并不涉及构成要件类型的扩增，也不涉及具体法益类型的更新，现行刑法可以涵盖“深度伪造”的一切技术危害。因而，“深度伪造”的限制性理念首先应限制我们动辄启动宝贵的立法资源，防止象征性立法现象出现在刑法立法当中。因此，本文所提出的限制性理念指的是刑事司法的限制性理念。

限制性理念的确立基于如下几个方面的现实因素考量：

1.符合宪法规定的言论自由权和批评建议权的限度要求

我国《宪法》第25条明确规定了中华人民共和国公民享有言论自由权，第41条规定我国公民对任何国家机关和国家工作人员，具有批评权和建议权。从“深度伪造”的现有技术运用来看，有一部分主要是运用在国家工作人员身上，而这是督促国家工作人员认真履行好职责的一种积极现象。人工智能技术可以调动一切科技方式促使公民参与国家治理。

“深度伪造”利用人工智能等新兴技术防止个人与政府官员的关系疏远导致的个人之间的政治、社会和经济不平等，并鼓励人们在接收有欠妥当的信息时，唤醒批判性思维(22)See Jessica Silbey and Woodrow Hartzog, The Upside of Deep Fakes, Maryland Law Review, vol.78, no.4, 2019, pp. 960-966.。因此，基于宪法赋予公民的言论自由权和批评建议权，编造者和转发者散布的“深度伪造”信息尽管看起来非常真实，但是虚假事实只是部分虚假，或者虽然全部虚假但属于行为人根据一定事实做出的推定时，司法者不应当认定该类信息为诽谤信息(23)张明楷：《网络诽谤的争议问题探究》，《中国法学》2015年第3期。。因为，对于行为人利用“深度伪造”诽谤官员政务作风的情形，政府官员完全可以通过官方媒体作出澄清的方式制止谣言，而无须利用刑法规制来遏制宪法赋予公民的权利表达(24)郑海平：《网络诽谤刑法规制的合宪性调控》，《华东政法大学学报》2019年第3期。。

当然，我国《宪法》同时还规定公民在对官员提出批评和建议时，不得捏造或者歪曲事实；或者在行使言论自由权的同时，禁止用任何方法对其他公民进行侮辱、诽谤。这就表明，《宪法》并不是反对刑法对“深度伪造”严重法益侵害的行为进行规制。但是，刑法规制也只有在符合宪法确立的言论自由权和批评建议权的基础上才能展开。

2.契合刑法规制的比例性原则的限度要求

当前，“深度伪造”的刑法规制忽视限制性理念，导致出现四类扩张化刑事治理风险。这主要是因为理论界和实务界受到国家对信息数据的强化保护理念的影响。在某种程度上，理论界和实务界抛弃了刑法规制的比例性原则，将刑法作为民法和行政法的前置保护法，这显然是刑法治理本末倒置的表现。

虽然，“深度伪造”的算法学习过程是建立在大量视听资料的信息数据基础之上的，并且GANs高度化、自动化识别和决策后的虚假信息具有仿真性、普适性和难以识别性，但是，我们也不可忽视“深度伪造”的技术危害仅在于制造和传播虚假信息数据。而传播虚假信息数据所隐含的潜在危害，肯定无法与《刑法》第253条之一侵犯公民个人信息罪中公民个人真实信息传播所导致的潜在危害相提并论。

并且，针对“深度伪造”虚假信息的特质及其产生的社会风险，当前人工智能学界已经研发出溯源防伪和反向破解的验证、标记技术。其中，溯源防伪利用区块链的分布式账本的永久记录数据理念，对基础信息数据进行真实性标记，以此区分“深度伪造”后的虚假信息；而反向破解则巧妙利用反对抗式神经网络，“以子之矛，攻子之盾”，检测算法伪造、叠加、模糊化之处，以实现人工智能的自动标记功能。在这一方面，美国国家标准与技术研究所和美国国防高级计划局的研究人员已经发现，即使是经过“深度伪造”后的换脸视频，也可以通过人工智能检测技术，发现视频中人物眨眼次数较少、且极不自然的虚假脸部神态，而且识别准确率高达99%(25)王禄生：《论“深度伪造”智能技术的一体化规制》，《东方法学》2019年第6期。。谷歌新闻计划(GNI)中的“辟谣实验室”(Disinfo Lab)就是为了检验“深度伪造”的虚假视听信息数据而创建的(26)Holly Kathleen Hall, Deepfake Videos: When Seeing Isn’t Believing, Catholic University Journal of Law and Technology, vol.27, no.1, 2018, pp. 51-76.。

基于此，在高度智能化社会中，刑法规制并非完全是高效且合理的社会治理方式。相对宽缓的民事、行政责任或智能技术预防措施的适用，可以降低刑事责任的承担风险，消除人工智能技术的“噤若寒蝉”效应。“深度伪造”的一体化规制能够促进民法、行政法和刑法的体系衔接，防止刑法垄断式规制现象的发生，以契合刑法比例性原则的限度要求。

3.“深度伪造”的算法学习存在显著的技术弊端

虽然，“深度伪造”可以快速并自动化实现虚假信息的制造、转发过程。但是，我们不可忽视的是，深度学习的识别和决策过程始终是建立在高质量、大规模的信息数据基础之上的。因此，“个人的深度伪造是否会引起严重的情绪困扰、名誉损害，将在很大程度上取决于基础数据的质量以及它对观众的影响”(27)Douglas Harris，Deepfakes：False Pornography Is Here and the Law Cannot Protect You，Duke Law & Technology Review，vol.17，no.1，2019, pp. 99-128.。即使行为人利用GANs的文本图像联合超分辨率与去模糊方法，可以高清复原模糊图像(28)陈赛健、朱远平：《基于生成对抗网络的文本图像联合超分辨率与去模糊方法》，《计算机应用》2020年第3期。，但囿于时间、地点的明显差异，普通观众也能够很明显地发现动作和立体场景不协调的故障，从而推导出事件不成立(29)Douglas Harris， Deepfakes：False Pornography Is Here and the Law Cannot Protect You， Duke Law & Technology Review, vol.17, no.1, 2019, pp.99-128.。诸如，近期比较具有代表意义的开国大典的高清复原视频即是如此，我们很容易发现这就是经过人工智能算法深度渲染过的。

并且，随着我国相关法律法规对公民个人信息保护力度以及网络平台技术治理手段的加强，GANs自动抓取图像、音频等视听基础数据将变得越来越难。此外，在溯源防伪和反向破解的验证、标记技术的情况下，“深度伪造”固有且显著的技术弊端也会很快被放大。因此，“深度伪造”很难再对现实社会秩序和经济利益等刑法法益造成严重的侵害。这更加表明“深度伪造”的刑法规制需要依据算法学习存在的技术弊端，确立限制性理念，并依据弊端存在的现实程度判定刑法规制的具体限度。

4.最大化促进数据共享和信息资源配置

在分散化、碎片化的行业数据和领域数据连接而成的“块数据”中，图像数据(包括授权的个人信息)、视频数据、语音数据、空间数据的分析和处理，能够通过注入人工智能技术，形成新的商业模式。例如，“Inrix公司在交通信息领域，面向GPS生产商、交通规划部门以及FedEX(联邦快递)和UPS(联合包裹)等物流公司，出售完整的图像数据库”(30)大数据战略重点实验室：《块数据：大数据时代真正到来的的标志》，北京：中信出版社，2015年，第46页。。2012年谷歌推出了知识图谱，使得算法学习可以深度挖掘搜索词潜在的知识关系(31)大数据战略重点实验室：《块数据4.0：人工智能时代的激活数据学》，北京：中信出版社，2018年，第96页。。这一经济模式形成了数据共享。

数据共享新模式为GANs的算法决策提供了基础条件，最大限度地优化了信息资源配置。随着“Deep Nude”“ZAO”等类似的“深度伪造”技术软件的相继出现及其技术使用的普适性强化，普通民众一键生成合成视频将变得很常见。在网站数据共享的新型模式下，只要普通民众注册、登入相应的数据共享网站，即可获得大量的基础视听信息数据。这便为普通民众的短视频、微电影的日常影视创作提供了基础素材。如果刑法过度规制“深度伪造”，将会消解数据共享带来的信息资源的配置效果。从这一方面来说，确立“深度伪造”刑法规制的限制性理念也是极为必要的。

三、“深度伪造”刑法规制限度模式的具体展开

当前，限制性理念需要较好地运用在具体实务当中，还有待学界将限制性理念进一步细化为具体操作规则。况且，“深度伪造只有在规范化、常规化、制度化的情况下，才有可能使伪造者熟知操纵的行为标准”(32)Jessica Silbey and Woodrow Hartzog, The Upside of Deep Fakes, Maryland Law Review, vol.78, no.4, 2019, pp. 960-966.。

(一)以法益关联性区分看待“深度伪造”的违法犯罪信息

“深度伪造”虚假信息严重侵害刑法法益具体体现在两个方面：其一，行为人利用“深度伪造”得到的虚假信息本身就属于刑法法益所评价的危害对象。诸如，行为人利用虚假信息进行危害国家安全犯罪、恐怖活动犯罪、财产利益犯罪以及部分人工智能系统和基础信息数据的侵入和获取类犯罪、传播等手段的淫秽物品犯罪。其二，行为人利用“深度伪造”虚假信息时行为可能涉及的犯罪。诸如，诽谤罪，寻衅滋事罪，编造、故意传播虚假信息罪，部分危害行为还可涉及非法利用信息网络罪等信息网络类犯罪。毋庸置疑，前述第一种虚假信息本身就属于刑法中的违法犯罪信息。此时，“深度伪造”无可厚非构成相应的犯罪。但是，对于前述第二种“深度伪造”行为涉及的法益侵害，行为本身有可能仅属于民法或者行政法规制的范畴，此时，其是否涉及刑法法益的侵害，本来就具有争议(33)See Douglas Harris, Deepfakes: False Pornography Is Here and the Law Cannot Protect You, Duke Law & Technology Review, vol.17, no.1, 2019, pp. 99-128.。

对于第二种“深度伪造”行为不仅在刑法上有相关规定，在《网络安全法》《民法通则》《侵权责任法》《治安管理处罚法》等法律法规中同样存在。以《刑法》第246条的诽谤罪以例，“捏造事实诽谤他人”不仅是犯罪行为的构成要件，其还是《民法通则》第101条名誉权侵害行为的构成要件。此时，《刑法》第246条严重情节就成了两者的区分标准。

“深度伪造”虚假信息的刑法规制主要旨在保护重要的人身权利。因而，“两高”发布的《网络诽谤刑事解释》第2条第2项才会将被害人或者其近亲属精神失常、自残、自杀等严重后果视为诽谤罪的严重情节；虽然第1项的实际被点击、浏览次数达到五千次以上，或者被转发次数达到五百次以上的纯粹、客观的点击、浏览、转发的次数规定，包含了抽象化心理恐慌和精神压力。但这显然无法和该解释第2项的入罪标准相提并论。况且，在刑事证据认定的过程中，司法机关无法评判抽象化心理恐慌和精神压力的具体危害程度。因此，抽象化心理恐慌和精神压力完全不需要、也无法通过刑法予以保护。

同理，按照《网络诽谤刑事解释》第5条第2款的规定，编造、故意传播虚假恐怖信息的，还可能构成寻衅滋事罪。依据最高人民法院《关于审理编造、故意传播虚假恐怖信息刑事案件适用法律若干问题的解释》第2条的严重扰乱社会秩序的规定，不管虚假信息是在网络媒体还是在现实社会中传播，其均是以现实场所秩序的严重混乱，单位和公民的工作、生活秩序的严重混乱以及政府职能部门的紧急应对措施为入罪标准，而并不包括司法实务所认为的抽象化公众的恐慌程度或者是网络公共场所秩序的单纯混乱。

据此，我们可以得出基本结论：“深度伪造”的虚假信息并不能直接等同于刑法规范中的违法犯罪信息。司法者应当依据法益的关联性来区分看待“深度伪造”的违法犯罪信息。那么，我们该如何判断“深度伪造”的虚假信息是否具有刑法法益关联性呢？对此，笔者认为可以依据如下标准进行：

第一，纯粹、客观的点击、浏览、转发的次数，抽象化公众的恐慌程度以及单纯的网络公共场所秩序的混乱这三类法益不是刑法法益的保护类型，因为上述三类法益不具有刑法法益的关联性。针对“深度伪造”虚假信息造成上述三类法益侵害的情形，实务部门可以根据《侵权责任法》和《治安管理处罚法》的相关规定，认定行为人的民事责任或者行政责任。

应当肯定，“深度伪造”的算法系统空间属于公共秩序，但刑法不单纯对其进行保护。换言之，刑法承认算法系统空间属于公共秩序，并不等于承认其属于刑法法益的保护类型，而是因为算法系统空间的刑法法益评价必须要以现实公共秩序的严重影响为基础(34)参见陈伟、熊波《网络犯罪的特质性与立法技术——基于“双层社会”形态的考察》，《大连理工大学学报(社会科学版)》2020年第2期。。算法系统空间的抽象危害是可逆的，该种危害通过收回、删除并在一定范围内是可以消除影响的，其与现实公共秩序的严重混乱无法等量齐观(35)陈劲阳：《徘徊在歧义与正义之间的刑法释义——网络寻衅滋事罪司法解释妥当性反思》，《法制与社会发展》2016年第6期。。尤其是在“算法黑箱”的基础上，抽象化公众的恐慌程度更不存在。只有明确这一点，虚假信息导致的纯粹、客观的点击、浏览、转发的次数，抽象化公众的恐慌程度以及单纯的网络公共场所秩序的混乱这三类法益才不是刑法法益的保护类型。因此，上述三类法益关涉的“深度伪造”虚假信息也不属于刑法中的违法犯罪信息。

第二，《刑法》第286条之一的拒不履行信息网络安全管理义务罪与第287条之一的非法利用信息网络罪的违法犯罪信息，均不包括上述“深度伪造”的虚假信息。纵使，《关于办理非法利用信息网络、帮助信息网络犯罪活动等刑事案件适用法律若干问题的解释》第7条直接肯定了违法犯罪行为包含刑法分则规定的行为类型但尚未构成犯罪的违法行为，但刑法中的违法犯罪信息对象应当仅局限于前述第一类“深度伪造”的虚假信息类型。

(二)去除“深度伪造”算法系统自动化点击、转发的传播次数

纯粹、客观的点击、浏览、转发的传播次数不应当单纯作为情节严重的入罪标准。但是，不可否认的是，“深度伪造”的自动化转发，会使得更多的国民有机会接触此类诽谤、扰乱网络空间秩序的虚假信息，进而会引发他人现实生活和工作的极大困扰，或者现实社会秩序严重混乱的不确定性危险。诸如，在印度作者Rana Ayyub的“深度伪造”合成色情视频案中，合成色情视频在Facebook、Twitter和WhatsApp上被成千上万人的转播。随之而来，Rana Ayyub遭受了大量的强奸威胁，工作也受到了严重的影响(36)See Keats C. Danielle, Sexual Privacy, Yale Law Journal, vol.128, no.7, 2019, pp.1870-1961.。

如此一来，传播次数虽不可以作为情节严重的单纯入罪标准，但可以作为现实社会秩序和现实个人利益可能遭受到侵害的基础条件之一。换言之，公民个人的现实生活受到极大影响或者公共场所秩序遭受到严重慌乱的情形，应当作为传播次数入罪的附加条件。诸如，虽然受害人或者近亲属并未遭受“自杀、自残、精神崩溃”的现实结果，但在满足司法解释规定的“点击、浏览5000次以上次数或者被转发500次”的基础上，受害人或者近亲属遭受侵害威胁和现实生活和工作骚扰的，也可以作为“深度伪造”行为情节严重的判定标准。而将传播次数作为情节严重入罪标准的基础条件，有利于限制刑事处罚的扩张。

但是，如此一来，我们就又必须要考虑到“深度伪造”算法系统的自动化点击、转发的次数仅是人工智能算法自动决策的外在表现形式。该种表现形式产生的传播次数具体包括：第一，GANs制造或生成虚假信息过程中的自动化点击、转发等形式的传播次数；第二，溯源防伪和反向破解(反生成对抗式神经网络)的验证、标记技术运作过程中不断点击、验证去模糊化、重叠化的区域所产生的传播次数。在“算法黑箱”下，上述两种传播次数明显不同于网民手动浏览或者转发的次数。并且，“深度伪造”行为在短时间内即可达到成千上万的传播次数。此时，“深度伪造”也根本不可能导致现实社会秩序或个人生活、工作遭受重大的侵害威胁。因此，刑法应当将“深度伪造”算法系统自动化点击、转发的传播次数排除在入罪标准之外。

(三)将“深度伪造”的主观明知的情形限制为直接故意

“深度伪造”虚假信息的肉眼辨别难度较大，再加上“算法黑箱”和溯源防伪和反向破解的验证、标记的强技术性，一般而言，网民出于对新鲜事物的好奇心和科技信息的热爱，会不由自主地转发“深度伪造”的虚假信息。其中，大多数网民是基于半信半疑的主观心态去转发的。此时，刑法如果将该种间接故意的主观心态纳入“深度伪造”的规制之中，很显然，绝大多数的网民在转发此类虚假信息时，均有可能涉嫌犯罪。因此，在虚拟的网络空间中，我们应该将《网络诽谤刑事解释》第1条第2款转发者的明知规定，限定为直接故意的明知情形。但问题在于：如何认定直接故意的明知？这依然是个难题。

美国联邦最高法院在认定诽谤行为的明知时，将其限定于恶意，其被定义为：“行为人知道它是假的或者不管它是假的还是真的，都要不计后果地制造或转发出来的。”(37)New York Times v. Sullivan, 376 U.S. 280 (1964).虽然从表面上看，该定义确实起到了限缩明知认定范围的作用，但这显然是对现实物理空间中诽谤行为主观恶意的认定，其容易将半信半疑的间接故意的放任主观罪过纳入刑法规制之中，有欠妥当，该种定义不应适用在“深度伪造”的明知认定情形中。

基于“深度伪造”虚假信息的特性考虑，笔者认为，“深度伪造”的直接故意明知的司法认定必须附加“以非法目的……”或者“意图……”等主观构成要件要素，将其作为相关罪名的不成文构成要件要素，并且，该种要素仅局限于转发者。诸如，在《刑法》第243条的诬告陷害罪中，“意图使他人受刑事追究”就作为了行为人直接故意明知的希望要素；再如，在第363条的传播淫秽物品牟利罪中，行为人被认定犯罪必须附加“以牟利为目的”这一前提。

至于如何进一步认定转发者是否具有非法主观目的或非法意图，笔者认为，可以再结合如下三个标准进行确定：

第一，不具备人工智能专业知识的行为人希望通过转发“深度伪造”视听资料，强迫、威胁、骚扰、恐吓、贬低、羞辱受害者或给受害者造成重大经济损失(38)North Carolina’s general statute § 14-190.5A.。第二，行为人在初次转发后，即被网络平台管理者或者负责网络安全的相关政府职能部门警告。但此后，行为人仍无任何合理理由，肆意任其转发的虚假信息扩散的。“秦火火寻衅滋事案”便是典例(39)赵远：《“秦火火”网络造谣案的法理问题研析》，《法学》2014年第7期。。第三，具有人工智能专业技巧和相关领域知识的行为人转发“深度伪造”的视听数据。

(四)GANs自动抓取非身份认证信息数据的行为应作无罪化处理

理论界和实务界并未区分认定《刑法》第285条之二的非法获取计算机信息系统数据罪中的存储、处理或者传输的数据类型，这极易导致GANs通过识别分析并检验，获取其他算法系统中的大量视听数据的情形，也会被司法者认为构成非法获取计算机信息系统数据罪。但笔者认为，刑法并不专门保护与个人信息属性无任何关联性的数据(40)需要注意的是，公民个人信息属性的关联性区别于可识别性。，换言之，真正意义上的“数据刑法学”是不存在的。这与《民法典》第127条对数据的专门性保护是恰恰相反的，这也体现了刑法规制的比例性原则。

这一观点的依据可以从《计算机刑事案件解释》第1条的具体规定中找寻。该条确立了非法获取计算机信息系统数据罪保护的数据类型，具言之：其一， “支付结算、证券交易、期货交易等网络金融服务的身份认证信息”的数据类型，其属于刑法重点保护的个人敏感的金融信息数据。其二，个人信息数据库管理的企业身份登入等信息数据。虽然该类数据本身不属于公民个人的生理和物理信息，但却具有身份认证属性，并直接关乎着公民的财产保护，属于企业的敏感信息数据。该信息数据可涵盖在《计算机刑事案件解释》第1条第2项个人敏感的金融信息除外的身份认证信息的兜底性规定之中。尽管该项是数据类型的兜底性解释，但这也仅是对上述两种“身份认证信息”数据的兜底，而并不包括企业操控的计算机信息系统中的任何数据类型。诸如，企业运营额的分析报告、项目的运营规划、原创性的电子书籍等不具有身份信息关联性的数据类型。

这与侵犯公民个人信息罪的构成要件是相得益彰的。依据《刑法》第253条之一的规定，侵犯行为仅指非法出售或者提供个人信息数据，以及窃取、非法获取个人信息的行为，而不包括个人信息数据库管理的企业身份登入的信息数据的非法获取等行为。但这并不意味着刑法并不规制此类信息数据的获取行为，而是刑法考虑到该信息数据属于计算机信息系统数据的一种类型。虽然，个人信息数据库管理的企业身份登入的信息数据不具有个人信息属性，但其具有身份认证的信息属性。因而，《刑法》将个人信息数据库管理的企业身份登入的信息数据的非法获取等行为交于第285条之二的非法获取计算机信息系统数据罪予以处理。在这种情况下，非法获取计算机信息系统数据罪中的存储、处理或者传输的数据，自然而然就仅限于身份认证信息。

但必须强调的是，刑法不专门保护企业的非身份属性的关联性数据，并不意味着对企业具有交易价值较大的或者具有商业秘密的数据也不予以保护。这是因为，刑法将上述数据交于其他罪名予以保护。诸如，窃取计算机信息系统中的虚拟电子货币数据的行为，可以构成盗窃罪；窃取企业运营额的分析报告、项目的运营规划以及原创性的电子书籍的行为，可以视情况分别构成侵犯商业秘密罪或者侵犯著作权罪。但就“深度伪造”的虚假信息的制造和转发行为而言，GANs自动抓取虚假信息的行为既不涉及原创性思想内容的抄袭(41)See Andrea K. Toth, Algorithmic Copyright Enforcement and AI: Issues and Potential Solutions, through the Lens of Text and Data Mining, Masaryk University Journal of Law and Technology, vol.13, no.2, 2019, pp. 361-388.，也没有将企业信息系统存储的数据进行获利，也没有窃取企业具有较大交易价值的数据进而排斥企业对数据类型的所有权。因此，一般情况下，GANs自动抓取非身份认证信息数据的行为理应作无罪化处理。

四、结 语

真正值得刑法规制的“深度伪造”只有两种类型：第一，“深度伪造”的虚假信息本身就属于刑法法益所评价的危害对象。诸如，危害国家安全，宣传恐怖活动、民族歧视、色情信息等，这类信息数据属于直接可感观性的危害信息。第二，仅存留于网络公共空间中的“深度伪造”的虚假信息，其本身并不具有侵害刑法法益的关联性。但是抽象化的心理恐慌延伸至现实社会中，导致现实社会秩序严重混乱或者个人人身、财产利益遭受重大侵害时，“深度伪造”则具有刑法规制的必要性。考虑到合宪性调控、刑法的比例性原则、算法学习的显著技术弊端以及数据共享的新型模式等现实因素，“深度伪造”的刑法规制应当保持理性并恪守相应的限度。