“深度伪造”的刑法治理路径

李明鲁

摘    要：人工智能深度伪造技术的应用在医疗、教育、娱乐等多个领域具有进步意义，但技术的滥用可能对国家、社会利益以及个人合法权益造成损害。刑法应当对深度伪造技术滥用行为予以规制，同时也要从风险防控的角度，加强对公民个人信息安全的保护。提供深度伪造技术服务的行为逐渐发展成为网络黑色产业链的一环，运用传统共犯理论难以回应深度伪造技术滥用行为的不法认定问题。对于这种“一对多”的犯罪帮助行为，刑法可以采取独立罪名认定的制裁思路。对于深度伪造内容，网络服务提供者应当依法履行信息网络安全管理义务，落实平台监管责任。

关键词：深度伪造;深度合成;生物识别信息;个人信息保护;网络服务提供者

中图分类号：D 924    文献标志码：A        文章编号：2096⁃9783（2021）06⁃0040⁃08

一、“深度伪造”的概念与技术原理

常言道：“耳听为虚，眼见为实。”但是，深度伪造技术的出现可能让这一说法不再适用。“深度伪造是通过人工智能技术，以数字化方式创建或者修改视频、音频等内容，最后的结果是伪造内容里的人在做着或说着从未发生的事情。”[1]随着深度伪造技术的不断发展和演进，伪造内容的真实性也越来越高，以至于人们很难辨别内容的真假。可以说，深度伪造技术自产生之日起，便具有欺骗性质的滥用风险，而了解深度伪造的特征与技术原理，对于下一步如何规制深度伪造技术的滥用行为十分必要。

（一）“深度伪造”的概念源起

“深度伪造”（deep fake）是指借助人工智能技术尤其是深度学习对音频、视觉或文本内容等进行制造和修改，从而达到技术开发者或者技术使用者的某种特定目的。“深度伪造”一词最初是出现在2017年美国社交新闻网站红迪网（Reddit）上，一个名为deepfakes的用户利用人工智能算法将色情视频中的主体换脸成明星，并上传到Reddit网站，引发了广泛的转发和关注。自此，媒体开始使用deepfake一词来形容深度伪造技术或者深度伪造内容。

深度伪造技术又称人工智能合成内容（AI⁃generated media）技术，是人工智能发展到一定阶段的产物，建立在能够自主学习的深度学习算法模型的基础之上。尤其是生成对抗网络1 （generative adversarial networks，简称GAN）这一算法，使得人工智能在其控制下可以自动生成图像、文字、视频等信息内容。“深度伪造的存在形式主要包括人脸合成、语音合成、人脸替换等，该项技术综合运用了视频合成、计算机视觉等多种人工智能技术。”[2]

（二）“深度伪造”与“深度合成”的关联

“深度合成”（deep synthesis）目前已成为人工智能领域应用较为广泛的一项技术，依赖于能够从大量数据中进行深度学习的人工智能算法模型，对数据信息进行生产或修改。对于深度伪造与深度合成，多数学者并未做严格区分，但也有观点认为，深度合成与深度伪造二者不应混同，根据技术使用的目的是否正当，应严格区分深度合成与深度伪造。该观点主张深度伪造是基于某种不法目的而使用深度合成技术的行为，而深度合成则是价值无涉的技术概念词汇。

本文认为，深度合成与深度伪造二者在纯粹技术层面上并无本质区别，或者可以说深度伪造行为本身就是利用人工智能深度合成技术对声音、图像、文本内容进行修改和加工，从而实现某种误导效果。毫无疑问，技术本身是无罪的，法律需要规制的是那些利用该技术冒充他人实施诈骗，或者进行虚假新闻传播、色情视频制作、政治选举干扰等损害他人或者社会、国家利益的违法行为[3]。虽然有人提出，“如果以‘深度伪造’一词指代全部人工智能合成技术，是对人工智能合成技术的污名化，因为深度伪造容易让人望文生义，从而使人们对于AI合成技术产生畏惧心理”[3]。但是，鉴于本文的主要研究对象为深度伪造技术的滥用行为，即利用人工智能深度伪造技术所实施的不法行为，所以文中使用“深度伪造”一词并不与深度合成技术的中立性相矛盾。

二、深度伪造技术的应用与安全风险

随着人工智能深度合成技术的发展与成熟，这一新兴技术开始在商业领域大放异彩，并已经逐渐渗透于社交、医疗、教育、影视等多个领域。例如，在影视领域中，通过深度合成技术可以减少因演员或场地而造成的拍摄局限，“由于主要演员在电影《速度与激情7》拍攝过程中意外去世，于是剧方运用AI换脸技术，使该演员的形象得以贯穿于电影始终。”[4]在教育领域，“通过人工智能合成历史人物，再现历史场景，可以使知识传播更加富有趣味性。”[5]另外，在医疗领域，“语音合成软件可以让渐冻症患者重新获得‘说话’的能力。通过提前采集患者的个人语音数据，然后利用语音合成技术，最终生成接近患者原声的语句。”[6]然而，技术是一把双刃剑，对技术的正当使用可以推动社会进步，但技术的滥用则会给公民个人权利、社会公共秩序以及国家安全带来诸多风险挑战。

其一，深度伪造行为可能侵犯公民的人身、财产等权利。行为人通过深度伪造技术故意制作并散布虚假信息，败坏他人名誉的，情节严重时将构成诽谤罪;通过深度伪造的图像或声音冒充被害人的亲友、同事、领导等，诱骗或者敲诈他人钱财的，可能构成诈骗罪或敲诈勒索罪。除此之外，“深度伪造行为还可能构成侵犯著作权罪”[7]，因为深度伪造行为人在未获得著作权人同意的情况下，对由他人创作的摄影作品、电影作品等作品进行修改，将构成对他人署名权、修改权等著作权的侵犯2。

其二，深度伪造行为可能破坏社会公共秩序。例如，行为人以牟利为目的，利用深度伪造技术制作淫秽图像、视频等淫秽物品并加以传播的，可能构成制作、传播淫秽物品牟利罪。还如，行为人通过深度伪造技术编造涉及险情、疫情、灾情、警情的虚假信息或者虚假恐怖信息并加以传播，严重扰乱社会秩序的，则可能构成编造、故意传播虚假信息罪或者编造、故意传播虚假恐怖信息罪。此外，深度伪造技术还可能被用于证据的伪造。如果行为人出于陷害他人或者隐匿罪证的目的，在对与案件有重要关系的情节上利用深度伪造技术制作虚假证明的，则构成伪证罪。再如，行为人利用深度伪造技术制作有损他人商业信誉或商品声誉的虚假内容，并给他人造成重大损失的，则可能触犯损害商业信誉、商品声誉罪。

其三，针对政治人物的深度伪造还具有危害国家安全的风险。在国外，虚假新闻干扰正常政治选举活动的事例在很早之前就已经出现。例如，“在托马斯·杰斐逊（Thomas Jefferson）反对约翰·亚当斯（John Adams）的选举中，一些报纸在不考虑真相的情况下，发布败坏被选举人声誉的新闻”[8]。而在当今这个大数据时代，互联网的传播速度和传播范围相比于传统媒体更为迅速和广泛，可想而知，如果滥用深度伪造技术制作虚假信息干扰政治选举活动，被发布于网络之上，其不利影响将迅速蔓延，不可逆转。前些年美国的有关分析人员一致认为，随着深度伪造技术的进一步发展，等到2020年美国第59届总统大选，深度伪造技术干预政治选举的问题将会更加严重[9]。正是在此背景之下，为了防止深度伪造技术制作的虚假信息可能对选举活动造成的干扰，美国国会在2019年提出了《深度伪造责任法案》（DEEPFAKES Accountability Act）[10]。

三、深度伪造滥用行为的刑法规制模式

深度伪造技术的不当使用，如冒用他人身份、败坏他人名誉等，可能对个人法益和公共法益造成损害，进而成为相应的违法犯罪。刑法针对滥用深度伪造技术行为的规制大致可以分为两种模式：一是事后保护模式，即对利用深度伪造技术实施的其他犯罪以及深度伪造行为本身所构成的著作权犯罪进行规制;二是风险预防模式，即对于深度伪造行为之前的公民个人信息犯罪进行规制。其中，事后保护模式着眼于深度伪造行为之后产生的法益侵害，而风险预防模式则关注对深度伪造行为之前的公民个人信息保护，从而避免因个人生物识别信息的深度伪造而对后续的具体法益造成侵害。

（一）事后保护模式：强调对深度伪造行为实施后的具体法益保护

利用人工智能技术实施深度伪造行为，侵害他人合法权益或者社会、国家利益的，在符合特定犯罪的构成要件的条件下，可以对该深度伪造行为予以刑法规制。根据法益主体的不同，可以将利用深度伪造技术构成的犯罪分为三类：侵犯公民个人权利的犯罪、破坏社会公共秩序的犯罪、危害国家安全的犯罪。

虽然我国刑法规定针对滥用深度伪造技术而造成严重法益侵害的行为能够提供一整套相对完备的制裁体系，但是这种刑法制裁思路存在以下不足之处：首先，事后保护模式只能在深度伪造行为已经造成了法益侵害后果之后发挥作用，过于强调事后惩罚而忽视事前预防[10]。而对于信息网络环境中的违法犯罪问题，考虑网络媒介传播速度快、影响范围广的特点，在产生伤害结果后才启动刑法进行规制的事后保护模式已经不足以充分保护法益。其次，某些深度伪造技术滥用行为根据现有刑法规定却无法定罪论处。例如，行为人利用AI换脸技术进行交友诈骗，目的仅是骗取他人的感情，获得内心的满足感，而不以骗财为目的，但却给他人造成严重的精神损害或者严重破坏他人家庭的，对于此行为不能以诈骗罪或招摇撞骗罪定罪论处，该行为根据现行刑法规定并不构成犯罪，虽然造成了严重的危害后果，也只能通过民事救济和行政救济途径保护相关人的合法权益。

由此可见，事后保护模式侧重于对深度伪造行为之后造成的危害后果予以规制，却没有回应深度伪造上游行为（非法获取、非法出售、非法提供以及非法利用公民个人信息的行为）的不法问题。考虑到存在某些深度伪造技术滥用行为具有严重的危害性但却不构成犯罪的情形，为了更好地保护公民的人身、财产权益，深入打击深度伪造滥用行为这种新型违法犯罪行为，有必要在对深度伪造技术滥用行为的治理问题上引入风险预防模式。

（二）风险预防模式：强调对深度伪造实施前的公民个人信息保护

刑法对于人工智能深度伪造的治理不仅需要关注深度伪造行为实施后的一系列相关犯罪，更应当重点关注深度伪造之前的个人信息安全的保护问题。对深度伪造的之前行为即侵犯公民个人信息行为的规制，有利于切断深度伪造技术被滥用的风险，加强对人工智能深度伪造技术的源头治理。

1.个人生物识别信息与公民个人信息的概念厘定

《中华人民共和国数据安全法》第二十一条对数据实行分类分级的保护制度作出规定，同样地，对于公民个人信息，也应当根据不同类别的公民个人信息之于公民人身和财产权益的重要性，对个人生物识别信息、身份信息和其他一般的公民个人信息实行梯次保护。其中，“生物识别信息这种紧密依附于身体、直接体现公民个人身体特征和行为特征，對人身具有直接指向性的特殊公民个人信息予以特别的保护。”[12]对此，《中华人民共和国个人信息保护法》也有所回应，明确了“个人生物特征”属于敏感个人信息的一种，将敏感个人信息与一般公民个人信息做出区分，并对敏感个人信息制定了更为严格的处理规则。

个人生物识别信息包括面部、指纹、声音、DNA、笔迹、步态等身份信息，之所以说生物识别信息是最为重要的公民个人信息，除了其具有高度的人身识别性之外，还由于生物识别信息的应用广泛性，如人脸识别、指纹识别等已经成为进入很多场所、登陆应用软件以及财产支付的方式。因此一旦公民的生物识别信息遭到泄露，不法行为人很可能通过深度伪造技术对生物识别信息进行加工和修改，进而利用深度伪造后的图片、声音等冒充其本人对其亲友、熟人实施诈骗，使被害人陷入错误认知并引诱其进行转账或者汇款。不法分子在达到骗财目的之后，便会删除被害人的联系方式，从此销声匿迹。这都要归因于个人信息的泄露，如今很多场合都需要人脸识别、刷脸支付，而人脸信息在被收集之后一旦被非法出售，便很可能被用于实施诈骗等违法犯罪行为。因此，规制深度伪造技术的滥用行为关键是从源头管控侵犯公民个人信息的犯罪行为。

2.国外规制深度伪造技术滥用行为的应对之策

对于规制深度伪造技术滥用行为是否需要制定专门的法律的问题，从国外的应对之策来看，有些是选择通过现有法律规定来惩治深度伪造技术滥用行为，“认为新立法根本没有必要，因为根据现有的著作权法、刑法和民事侵权法等法律规定能够让有害的深度伪造内容的制作者承担责任”[13]，而且“除了打击勒索和色情的刑法之外，其他侵权行为如侵犯隐私权，造成情绪困扰，侵犯著作权等违法行为同样能受到民事法律的规制”[14]，可是也有国家选择通过制定新的法律来打击深度伪造技术滥用行为。

欧盟通过保护可能被用于深度伪造的个人信息安全和强化互联网平台的审查义务，来加强对于深度伪造技术滥用的治理，防御深度伪造行为可能造成的不法侵害。“欧盟《通用数据保护条例（GDPR）》适用于对深度伪造中所使用的公民图片等个人数据的保护，以及换脸软件和社交媒体软件可能产生的隐私泄露问题。”[15]另外，“欧盟于2018年出台的《反虚假信息行為准则（Code of Practice on Disinformation）》，主要是为了加强网络运营者对其平台内容的审查，充分发挥平台在治理网络虚假信息方面的作用。”[16]

美国则出台了一部专门的法律——《深度伪造责任法案》，用以规范深度伪造技术的应用，防止虚假信息的传播。《深度伪造责任法案》对于深度伪造内容制作者的标识义务（或披露义务）作出具体规定：“深度伪造内容制作者对于其制作的深度合成内容应当嵌入文字、数字水印或者语音标识，从而将内容属于利用深度伪造技术制作的事实予以披露。”[17]同时法案还对于不履行披露义务的行为规定了民事责任甚至刑事责任。深度伪造内容制作者依法履行标识义务，有利于他人对视频、音频、文字等内容的真实性做出鉴别，从而不容易产生误解而受骗，一定程度上可以有效抵御深度伪造可能对法益造成的损害。深度伪造内容制作者履行标识义务，不仅有利于对法益的保护，而且对于引导深度伪造技术的合理使用也具有规范意义，另外还能够作为证明深度伪造内容制作者主观上不具有欺骗目的的依据。

法律解决方案虽然可以惩罚和威慑犯罪行为人，但仍具有其自身的局限性和滞后性。在法律治理路径之外，提高网络用户鉴别虚假信息的能力，增强公民对于虚假信息的防范意识，也是抵御深度伪造音频、视频的不良影响的可行之策。“公民可以成为对信息真实性的检查者和对真理的最终保护者”[18]，“乌克兰已经将媒体素养技术纳入其公立学校课程中”[19]，以帮助提高公民辨别深度伪造内容的能力。

3.我国规制深度伪造技术滥用行为的立法与司法实践

于2020年1月1日起施行的《网络音视频信息服务管理规定》（以下简称《规定》）第十一条对于深度伪造内容制作者和网络服务提供者均规定了标识义务，要求网络音视频信息服务的使用者和提供者都应当以显著的方式对利用深度学习技术制作和发布的与真实信息不符的音频或视频加以标识。但遗憾的是，该《规定》并没有对违反标识义务的行为做出惩罚性规定，“这就使得《规定》的宣示意义大于实践价值，从而造成法律保护的缺位”[11]。

在我国司法实践中，已经出现以AI换脸技术破解人脸识别进而实施诈骗行为的案件——行为人张某、余某为了骗取支付宝的邀请新用户红包奖励，先是非法批量购买公民个人身份信息，之后通过AI换脸技术将这些非法获取的公民照片制作成3D头像，以通过人脸识别认证，最终获取相应的红包奖励。对于本案，法院判决行为人的行为成立侵犯公民个人信息罪与诈骗罪3。本案对于利用深度伪造技术从事不法行为的规制同时包含了事后规制与事前规制，其中对利用深度伪造内容进行骗财的行为判处诈骗罪，即事后规制，而事前规制则表现为侵犯公民个人信息罪。深度伪造行为往往伴随着侵犯公民个人信息的犯罪，因为深度伪造技术是以原始图片、视频、音频等信息为基础，通过人工智能技术合成其他新的图片、视频、音频等，从而进一步实施诈骗、敲诈勒索、诽谤、传播淫秽物品等相关犯罪。因此，必须重视并严厉打击侵犯公民个人信息的违法犯罪活动，从而在源头上遏制深度伪造技术的滥用[20]。但是，以侵犯公民个人信息罪规制滥用深度伪造技术的行为，虽然可以解决对于非法获取、出售、提供个人生物识别信息行为的惩治问题，却无法回应以合法形式获取最后被用于非法目的的行为模式。就深度伪造行为而言，行为本身其实就是一种对公民个人信息予以非法利用的情形，“深度伪造行为的不法在于对生物识别信息的滥用”[20]。下文将对于深度伪造这一非法利用公民个人信息的行为如何进行刑法规制展开论述。

四、深度伪造行为的不法认定与刑事归责

当下人脸识别已逐渐成为各类应用软件的支付方式、注册方式，这时一些不法分子便意图通过换脸“黑科技”进行非法牟利。那么对于专门提供深度伪造技术服务的行为人，究竟是应当依据共犯的认定思路，以其所帮助实施的犯罪的共犯论处，还是应当采取以独立罪名定罪处罚的刑法制裁思路呢？

（一）深度伪造行为的不法认定

如果将深度伪造黑色产业链划分为三个阶段：第一阶段涉及深度伪造行为之前的公民个人信息的非法获取、非法出售和非法提供;第二阶段是非法使用深度伪造技术的行为;第三阶段则是利用深度伪造内容实施诈骗、诽谤等一系列违法犯罪行为。对第一阶段的针对公民个人信息安全的犯罪，可以以侵犯公民个人信息罪进行规制;对第三阶段的后续犯罪行为，则直接以行为所构成的特定犯罪定罪处罚即可。但是，对于第二阶段也就是深度伪造这一行为本身，如果以下游犯罪的共犯定罪处罚，则存在以下疑问：一是，当深度伪造技术处理一旦呈现出产业化发展态势，那么提供深度伪造技术服务的行为人与利用深度伪造内容实施下游犯罪的行为人之间缺乏犯罪意思联络，提供技术服务的行为人可能并不知道其他犯罪行为人将要实施何种犯罪，所以也就不具有与其他犯罪行为人的共同犯罪故意。这种情况下，对于专门提供深度伪造技术服务的行为人，便不能以他人所实施的具体犯罪的共犯定罪论处。二是，根据通说的共犯限制从属性理论，在正犯行为应当构成要件并且具有违法性的前提下，共犯才有成立的可能。因此，如果下游行为依法尚不成立犯罪4，而只是构成一般违法行为，那么对于专门提供深度伪造技术服务的行为人不能以共犯定罪处罚。

既然共同犯罪理论难以完全回应深度伪造的行为不法认定问题，有学者便提出通过增设专门的“身份盗窃犯罪”[20]来规制深度伪造不法行为。这一观点主张深度伪造行为具有相对于下游犯罪的独立的违法性，而其独立违法性来源于身份冒用行为，认为“深度伪造的内容在使用过程中虽然不构成犯罪，但因深度伪造内容具有身份冒用的可能性，为了防止后续诈骗等一系列具体犯罪的发生，因此有必要将深度伪造行为本身以身份盗窃犯罪独立定罪处罚。”[11]而对此的反对观点认为，“伪造信息的行为本身不具有独立的违法性，因为伪造行为的目的会被后续其他行为的目的所吸收，所以深度伪造的行为本身不应成为我国刑法的归责对象。”[21]

本文认为，对于非法使用深度伪造技术的行为应当予以刑法规制，但却不赞同现阶段通过增设专门的罪名来规制深度伪造中的身份冒用行为。增设身份盗窃犯罪其实是一种预备行为实行行为化的立法观点，但是我国刑法对于预备犯的处罚应当仅限于侵犯重大法益的犯罪行为，而并非对任意犯罪行为的预备行为均可以做出独立的预备犯的立法规定，否则便违背了刑法的谦抑性原则，而且也与当下国家大力推进人工智能技術发展的政策要求背道而驰。此外，那种以对法益的提前保护为名，将滥用深度伪造技术的行为倾向于按照共犯理论认定为其他犯罪预备犯的观点亦为本文所不取。例如，行为人使用深度伪造技术制作具有身份冒用性质的内容，如果后续的犯罪行为尚未着手实施，那么就不能仅以制作者具有实施其他犯罪的目的为由，认定深度伪造行为成立后续犯罪的预备犯。

同时，本文也不赞同反对观点，因为随着深度伪造技术的不断发展成熟，技术被滥用的风险和由此造成的社会危害也会越来越大，所以刑法对深度伪造行为具有独立规制的必要性。在网络“换脸诈骗”中，网络黑产从业者通过非法途径获取公民照片、手机号码、身份证号码等个人信息，然后将这些非法获取的个人信息进行深度伪造技术处理，冒用他人身份进行人脸实名注册，最后将虚假注册的账号贩卖给违法犯罪团伙[22]。在这条黑色产业链中，专门提供深度伪造技术服务的人员，为他人提供虚假注册、刷脸支付等黑产服务，帮助他人实施诈骗等违法犯罪活动。相对于传统帮助犯罪，网络犯罪帮助行为呈“一对多”的行为模式，这种帮助行为的社会危害性并不亚于被帮助的下游违法犯罪行为，因此应当根据“积量构罪”[23]的理念，将这种产业化提供深度伪造技术服务的行为以非法利用信息网络罪、帮助信息网络犯罪活动罪等独立罪名定罪论处。

（二）网络服务提供者的不作为责任边界

面对网络虚拟空间中层出不穷的深度伪造导致的身份仿冒乱象，网络服务提供者在技术治理过程中发挥着重要作用，应当依法承担网络安全监管的主体责任，采取必要的技术措施维护网络安全。如果深度伪造行为构成不法，责任主体除了深度伪造内容制作者外，网络服务提供者也可能因未履行信息网络安全管理义务而承担相应的不作为责任。避风港原则是网络服务提供者承担责任和责任豁免的主要依据，网络服务提供者在收到侵权通知后，应当及时采取技术措施减少侵权内容的不利影响。需要注意的是，虽然避风港原则的主要内容一般被认为是“通知—删除”规则，但是不应僵化地将“通知—删除”等同于避风港原则。换言之，网络服务提供者在经通知后，应当针对其平台中所发布的违法的深度伪造内容采取技术措施，但该技术措施不仅仅限于删除，还包括其他能够用以减小危害结果的必要技术措施。比如，“在发现利用深度伪造技术制作的视听作品未添加标识时，应当对其添加标识以提醒用户知悉”[11]。总之，对于不同的深度伪造内容，网络服务提供者应当采取不同的技术措施：内容涉嫌违法的，应当及时予以删除;对其他的一般深度伪造内容，应当进行标识提醒。

网络服务提供者在经权利人通知后，应当及时采取删除、屏蔽等技术措施，阻止深度伪造内容危害后果的进一步扩大。由于互联网环境普遍的匿名性，深度伪造行为中的被害人寻找制作深度伪造内容的行为人存在困难，从而缺乏法律追索途径，在这种情况下，为了保护被害人的合法权益，被害人可以直接请求网络平台采取相应的技术措施以避免损害的进一步扩大。随着当下国内网红经济的兴起，一些短视频平台渐渐成为深度伪造内容滋生的沃土。例如，“行为人通过AI换脸技术伪造明星靳东的头像和身份，在抖音视频软件上与60岁大妈‘谈恋爱’，以达到其销售产品等目的。假靳东事件爆发之后，抖音平台快速作出了反应：假靳东的相关账号大规模减少，有些尚存在的账号也将作品清零。”[24]

网络服务提供者对于控制网络空间中虚假信息的传播具有重要作用，基于风险控制理论，网络服务提供者对于利用其所提供的网络平台等网络服务所发布的深度伪造内容应当承担监督管理义务，真正发挥其作为网络平台的“守门功能”，从而防止虚假信息的大肆传播。例如，“当Reddit事件发生之后，不仅Reddit关闭了deepfakes论坛，Twitter等社交平台也纷纷对此采取抵制措施，Facebook还专门研发出了一个机器学习模型用于鉴别深度伪造的视频、图片等。”[25]需要注意的是，令网络服务提供者对于深度伪造内容承担监督管理义务，并不是要求网络服务提供者对于在其平台所发布的信息逐一进行事前审查，一是因为网络信息数量过大，事前监管的成本太高;二是因为如果要求所有信息内容在经过审查后才能发布，则不利于互联网环境中的文化交流和信息传播。

避风港原则为平衡网络环境中的信息安全与信息应用二者之间的紧张关系提供了科学合理的解决方案。避风港原则在我国刑法第二百八十六条之一中也有所体现，在经监管部门责令采取改正措施后，网络服务提供者如果拒不改正的，这种情况下才需要承担相应的不作为责任。但是为避免“通知—删除”规则成为网络服务提供者逃避责任的挡箭牌，对于避风港制度的立法初衷和具体内容需要进一步审视和明确。即要求网络服务提供者在收到通知后，除了需要删除相关侵权内容，还应提高注意义务，采取技术措施防止同类侵权内容在其平台上传，从而避免反复侵权现象的继续发生。避风港制度虽然为网络服务提供者的责任豁免提供了依据，但是网络服务提供者不应将避风港原则作为自身怠于履行网络安全监管义务的理由，不应把信息网络安全管理义务仅限于通知后的删除义务，而是还应包括提升网络运行的安全性，有效防范网络违法犯罪活动。

最后，网络服务提供者还应积极研发针对深度伪造的识别技术，主动回应深度伪造行为的不法问题。美国《深度伪造责任法案》对于深度伪造技术的治理，提出了政府要成立研究深度合成内容的专家小组，负责研发针对深度合成技术的检测和反制技术，并与企业、学术科研机构展开合作，从而有效检测识别与对抗虚假信息。目前，国内外已经有网络平台开始尝试通过人工智能算法对深度伪造内容进行识别，可见人工智能技术虽然可能作为实施违法犯罪的工具，为网络犯罪治理增加难度，但同时也可以被用以反制利用技术所实施的不法行为，即所谓的技术反向破解。在国外，美国纽约州立大学奥尔巴尼分校研究人员提出通过检测眨眼频率可以识别伪造的AI换脸视频。“研究指出当人在说话时，平均每分钟眨眼26次，但是利用深度伪造技术制作的换脸主体在视频中则完全不眨眼，以此可以识别视频中的主体是否由深度伪造技术合成。”[26]在我国，“借助活体人脸检测技术，如红外人脸检测5可以有效分辨真实的人脸和人脸的照片或者视频。”[27]除了鉴伪技术之外，溯源技术也能够帮助追踪、验证内容来源和打击深度伪造不法行为。“区块链技术可以完整记录网络空间所发布的信息内容的流转过程，任何篡改都会被记录，包括由谁制作上传和转发，均可以精准追踪到。”[28]于是，深度伪造内容制作者便会谨慎考虑利用深度伪造技术实施不法行为的成本，也有利于监管者审查和追溯信息来源，从而更有效打击深度伪造不法行为。

结  语

法律的作用应当重在疏解而非抑制，针对一项新兴技术所产生的安全风险，刑法的过度介入和严厉打击将会严重挫伤技术研发的积极性，不利于技术发展和社会进步。而且，法律治理手段是一种被动的事后救济，要想从事前主动降低深度伪造技术的安全风险，必须依靠企业内部治理和行业自律等多种治理路径。可无论是法律的规制，还是网络服务提供者的审查，都有可能出现管理过度或者审查过度的问题，而追求绝对的技术安全势必会阻碍技术的开发与应用，不利于文化交流和公民创作积极性的提高。因此，如何处理好技术研发应用与个人信息保护之间的关系，值得理论界和实务界的共同关注和研究。在深度伪造技术的治理问题上，需要权衡人工智能技术的发展应用与该项技术可能造成的法益侵害二者之间的关系。“用锤子杀人是非法的，但锤子本身并不是非法的。”[29]法律所规制的是借助人工智能深度伪造技术故意侵害法益的行为，而非针对技术本身。总之，对于一项新兴科学技术的应用，因噎废食的做法不应该被提倡，在打击深度伪造技术滥用行为的同时，发挥深度伪造技术对于社会的有益价值，“取其精华、去其糟粕”才是我们应该保持的态度。

参考文献：

[1] Judge Herbert B. Dixon Jr. （Ret.）. Deepfakes： More Frightening Than Photoshop On Steroids[J]. Judges' Journal，2019，58（3）：35.

[2] 张钦坤.“深度合成”技术应用呼唤包容审慎、分类监管[EB/OL].（2020⁃09⁃25）[2021⁃03⁃23].https：//www.sohu.com/a/420864149_455313.

[3] 曹建峰.为技术正名：深度合成≠深度伪造[EB/OL].（2020⁃05⁃29）[2021⁃03⁃25].https：//www.sohu.com/a/398418909_353595.

[4] AI换脸视频惹争议 究竟是技术的革新还是滥用[EB/OL].（2019⁃04⁃22）[2021⁃04⁃02].https：//baijiahao.baidu.com/s？id=1631477732371261852&wfr=spider&for=pc.

[5] Robert Chesney， Danielle Keats Citron. Deep Fakes： A Looming Challenge for Privacy， Democracy， and National Security[EB/OL].（2019?12⁃17）[2021⁃03⁃22]. https：//papers.ssrn.com/sol3/papers.cfm？abstract_id=3213954.

[6] 英国黄铅笔奖公布，为失语渐冻人设计的语音合成项目拿到了最高荣誉[EB/OL].（2019⁃05⁃24）[2021⁃04⁃12].http：//www.qdaily.com/articles/64017.html.

[7] 王禄生.论“深度伪造”智能技术的一体化规制[J].东方法学，2019（6）：64.

[8] Jill Lepore， Party Time[EB/OL].（2012⁃09⁃17）[2021⁃03⁃13].https：//www.newyorker.com/magazine/2007/09/17/party⁃time.

[9] Jeremy Hsu， Experts Bet on First Deepfakes Political Scandal[EB/OL].（2018⁃06⁃22）[2021⁃02⁃22].https：//spectrum.ieee.org/tech⁃talk/robotics/artificial⁃intelligence/experts⁃bet⁃on⁃first⁃deepfakes⁃political⁃scandal.

[10] Clarke introduces bill to combat high⁃tech altered videos[EB/OL].（2019⁃06⁃14）[2021⁃04⁃02].https：//brooklyneagle.com/articles/2019/06/14/clarke⁃introduces⁃bill⁃to⁃combat⁃high⁃tech⁃altered⁃videos.

[11] 李腾.“深度伪造”技术的刑法规制体系构建[J].中州学刊，2020（10）：57⁃61.

[12] 王德政.针对生物识别信息的刑法保护：现实境遇与完善路径——以四川“人脸识别案”为切入点[J].重庆大学学报（社会科学版），2021（2）：133.

[13] Zachary Schapiro. Deep Fakes Accountability Act： Overbroad And Ineffective[J]. Boston College Intellectual Property & Technology Forum，2020，1：15.

[14] Anna Yamaoka⁃Enkerlin. Disrupting Disinformation：Deepfakes And The Law[J].NYU Journal of Legislation and Public Policy，2019⁃2020，22 ：740.

[15] 李鹏飞.各国涉Deepfake等人工智能造假技术立法概况[EB/OL].（2020⁃02⁃19）[2021⁃03⁃23].https：//mp.weixin.qq.com/s？__biz=MzI1OTExNDY1NQ==&mid=26515 40276&idx=1&sn=7346412c2efcd328f8ca67036062f77a &scene=21#wechat_redirect.

[16] 史安斌，胡宇.向虚假信息宣战：欧盟的探索[J]青年记者，2018（34）：76.

[17] 曹建峰.深度伪造技术的法律挑战及应对[J].信息安全与通信保密，2019（10）：37.

[18] Dr. Antonios Kouroutakis.EU Action Plan Against Disinformation： Public Authorities， Platforms And The People[J]. International Lawyer，2020，53：277.

[19] Sasha Ingber， Students In Ukraine Learn How To Spot Fake Stories， Propaganda And Hate Speech[EB/OL].（2019⁃03⁃22）[2021⁃02⁃21].https：//www.npr.org/2019/03/22/705809811/students⁃in⁃ukraine⁃learn⁃how⁃to⁃spot⁃fake⁃stories⁃propaganda⁃and⁃hate⁃speech.

[20] 李怀胜.滥用个人生物识别信息的刑事制裁思路——以人工智能“深度伪造”为例[J].政法论坛，2020（4）：146⁃151.

[21] 敬力嘉.作为行为不法类型的犯罪参与——兼论非法发布深度伪造信息的行为不法[J].华东政法大学学报，2020（6）：84.

[22] 照片活化瞒过人脸识别，冒用他人身份虚假注册，深圳警方打掉一新型犯罪团伙抓获13人[EB/OL].（2020⁃07⁃31）[2021⁃04⁃12].https：//www.sohu.com/a/410804526_161795.

[23] 皮勇.论新型网络犯罪立法及其适用[J].中国社会科学，2018（10）：126.

[24]  “假靳东”闹剧阅读量超16亿，“中老年粉丝”正在攻占短视频？[EB/OL].（2020⁃10⁃14）[2021⁃04⁃01].https：//view.inews.qq.com/a/20201014A0IGJS00.

[25] CSIS报告：深度伪造 （Deepfake） 技术政策简报[EB/OL].（2019⁃11⁃04）[2021⁃04⁃02].https：//baijiahao.baidu.com/s？id=1649210824690842612&wfr=spider&for=pc.

[26] Yuezun Li， Ming⁃Ching Chang and Siwei Lyu，In Ictu Oculi： Exposing AI Generated Fake Face Videos by Detecting Eye Blinking[EB/OL].（2018⁃06⁃11）[2021⁃04⁃03]. https：//arxiv.org/pdf/1806.02877.pdf.

[27] 刷臉时代我们的个人隐私或财产安全吗？专家解读[EB/OL].（2020⁃10⁃26）[2021⁃03⁃01].https：//baijiahao.baidu.com/s？id=1681617875995927630&wfr=spider&for=pc.

[28] 张收鹏.区块链技术在传媒业的创新应用[J].新闻战线，2018（23）：120.

[29] Douglas Harris.Deepfakes：False Pornography Is Here And The Law Cannot Protect You[J]. Duke Law & Technology Review，2019，17：127.

The Criminal Law Approach to Deep Fake

Li Minglu

（School of Law， Wuhan University， Wuhan 430072， China）

Abstract： The application of artificial intelligence deep fake technology has progressive significance in many fields such as medical treatment， education， entertainment， etc. However， the abuse of technology may cause damage to the interests of the country， society， and the legitimate rights and interests of individuals. The criminal law should regulate the abuse of deep fake technology， at the same time， strengthen the protection of citizens' personal information security from the perspective of risk prevention and control. The act of providing deep⁃fake technical services has gradually developed into a link in the network black industry chain. It is difficult to respond to the illegal identification of the abuse of deep⁃fake technology using traditional joint crime theories. For this kind of "one⁃to⁃many" criminal assistance behavior， the criminal law can adopt the sanctions based on independent crimes. For the content of deep fakes， the network service providers shall fulfill their information network security management obligations in accordance with the law and implement platform supervision responsibilities.

Key words： deep fake; deep synthesis; biometric information; personal information protection; network service provider