深度伪造的刑法规制路径

章 琦

(北京师范大学 法学院，北京 100875)

数字化时代，新技术的赋能激发了社会新气象，尤其是网络化、数字化的发展便利且丰富了人们接受信息的渠道，与此同时也增多了虚假信息，人工智能、深度学习的数字社会中跨越时间和空间的复杂信息加剧了人们辨别虚假信息的困难程度。《民法典》通过保护个人肖像权能够间接对深度伪造的滥用予以约束，但是极其有限；《数据安全管理办法》《网络音视频信息服务管理规定》《网络安全法》《刑法修正案(九)》增加了对编造、故意传播虚假信息的行为的打击，但是深度伪造(Deepfakes)技术的发展为编造“真假难辨”的虚假信息提供了强有力的工具。目前对作为人工智能发展下的深度伪造技术的关注更多集中于发展科技的视野中，缺乏对技术本身可能造成的人身和财产损害、网络秩序甚至是社会混乱等风险的评估。本文立足于现行监管逻辑和法律体系，分析深度伪造技术滥用的风险及其特点，从深度伪造的现有规制所面对的难题出发，分析民法和行政法处理特定深度伪造情形的有限性，在积极刑法观下深度伪造刑法规制的正当性，并初步构造深度伪造刑法规制的具体设想。

一、深度伪造技术滥用的社会风险

技术本身是中立的，中立技术被滥用时则可能意味着技术升级增加犯罪现实危险性。利用深度伪造技术构建虚拟现实场景打破了大众对于“眼见为实”的普遍认知，在网络占据人们广泛日常空间的当下，对于个人数据隐私和安全保障不力与深度伪造技术野蛮生长并存，深度伪造技术犹如一把达摩克利斯之剑悬挂在网络空间，对犯罪具有颠覆性影响效果。

(一)高度真实性下增加犯罪既遂的可能性

深度伪造技术的发展对“眼见为实”社会信任发起挑战。深度伪造技术和精准个人信息的结合，无论是针对公司、个人的诈骗还是利用个人的虚假色情音视频以及其他对公司、个人名誉有损害的敲诈勒索类型的犯罪，都将提高犯罪行为人得手的可能性。因为目前对深度伪造音的打击仅仅要求网络平台的打击，只有在通过邮件、通信平台进行传播构成犯罪的情形下才能够对虚假音视频进行打击，造成对于被伪造者保护乏力的困境，即要么让行为人得逞，可构成刑法上的犯罪，要么让行为人掌握被伪造音者对其社会身份有影响的音视频。而技术的快速迭代则意味着“虚假”越来越“真实”，以现行诈骗罪的构成要件为例，是犯罪人以虚构真实或隐瞒真相的方式让被害人陷入错误认识，处分自己的财产，因被害人的自我处分行为最终导致财产的损失，因此蕴含有被害人过错的因素。但是如果被害人完全没有识别出虚假的可能性之下，是否仍然能够称其为存在被害人过错，值得思考。

(二)深度伪造作为网络行为的极端隐蔽性

网络社会导致犯罪边界被打破。[1]深度伪造技术的商业化泛滥，可以将使用深度伪造技术的人分为深度伪造技术的研发者和深度伪造技术的使用者。就深度伪造技术的研发者而言，其有能力研发深度伪造技术也就意味着能够利用自身技术实现网络浏览和网络匿名化。利用深度伪造技术制造虚假音视频的人，尤其是有意使用深度伪造音视频来造成社会冲突或实施犯罪时，相比于一般网民往往具有更强的利用计算机知识使自己的网络行为匿名化及难以追踪的能力。由此，在对深度伪造音视频检测还不甚成熟的前提下，想要探寻到深度伪音造技术的实际研发和使用者极其困难。

(三)深度伪造制造风险的多样性

深度伪造技术本身的高度真实性对于“真实”概念的挑战，导致深度伪造技术风险的多样性。当其被用作侵犯具体权益的工具时，则存在侵犯公民的人身权益、财产权益、社会公共秩序、国家安全等多方面的危险。此外，深度伪造技术对社会信任基础的颠覆作用也是一个不能避开的问题。当深度伪造技术成为一个广泛且日常适用的技术时，就会造成社会底色中“所见即所得”变色，甚至动摇，尤其是在个人信息保护不周全的背景下，可能颠覆人们的日常判断。

二、深度伪造的现有规制及难题

信息化浪潮下，为把握住此次发展的机遇，国家在保障基本社会秩序的前提下采取“包容审慎”的监管态度。对于人工智能技术的发展也主要持包容态度，因此对深度伪造技术更多的是一种防卫性质的规定，采取消极的立法和规制模式，出现在零星的法律和规范中。

(一)现有规制路径

《民法典》第1019条表明利用信息技术手段伪造方式侵害他人的肖像权行为的侵权性。《网络音视频信息服务管理规定》规定，对利用如深度伪造技术制作、发布、传播的音视频信息应当以显著方式予以标识。使用深度伪造技术生成虚假音视频并不标识的，网络音视频信息服务提供者应当立即停止传输该信息，以显著方式标识后可继续传输。对于利用深度伪造技术产生的虚假音视频的鉴别责任在网络音视频信息服务提供者，即平台一方，并有权利且有责任对虚假音视频进行处置。《网络信息内容生态治理规定》要求，网络信息内容服务使用者、生产者和平台不得利用包括深度伪造技术在内的新技术从事法律、行政法规禁止的活动，否则由网信等有关主管部门按照有关法律、行政法规的规定予以处理。

由此可见，目前我国并没有专门约束深度伪造技术本身研发、利用和传播的法律，而是从保护公民的肖像权、名誉权、著作权、维护国家安全、社会安全等角度，对深度伪造虚假信息的创作、发布和传播进行规范和约束。[2]

(二)现有规制的局限性

目前法律在面对新兴技术时，显然是站在企业和平台一方，对于企业和平台收集信息以及被收集信息的去向缺乏打击力度，反而是在保护企业和平台的收集行为。而深度伪造之下则造成了个体在面对被收集时的完全“裸奔”。[3]对于单纯利用深度伪造技术制作音视频的情况，现有的规制路径要求音视频发布者进行显著标识，当平台发现深度伪造的音视频没有进行标识时，应当叫停该音视频的传播，在发布者进行显著标识后仍能够继续发布该音视频。也就是说，对于深度伪造音视频的监测的权利和义务均在平台一方，而这一要求显然是不合理的。

第一，深度伪造技术所产生的音视频并不完全是通过狭义网络平台进行传播。此处所指的狭义网络平台有权对在其平台传播的音视频进行检测并进行技术分析。例如绕开网络平台利用电子邮件或者私人电话的方式传播虚假音视频的情况下，现有对于深度伪造技术的规定落空。

第二，要求平台承担起深度伪造技术的检测本身并不现实。深度伪造技术的特性之一就在于其难以检测性，就一般网络平台而言，往往依靠“技术+人工”的检测方式，随着深度伪造技术本身的完善，平台并不一定能够承担起检测的责任。从《网络音视频信息服务管理规定》来看，其对平台的要求也只是发现之后应当叫停音视频的传播，如果平台本身并没有发现，似乎平台就不需要承担制止该音视频传播的责任。此外，深度伪造音视频的传播与网络平台本身的商业性追求并不相符。深度伪造技术的高度真实的虚假性，往往能够更加引起音视频点击者的注意。虚假消息的传播速度是真实消息传播速度六倍的网络环境和以点击、点赞、评论、转发为评价标准的网络平台模式，平台本身并没有减少自己流量分成而规制音视频数量的动力。[4]随着深度伪造技术的商业化和大众化发展，其适用途径将不仅仅是面向社会媒体和互联网相关的领域，而是渗透进个人生活中，科技商业化的特征表明仅仅要求科技去解决这些问题是不太现实的。

第三，缺乏对深度伪造技术增加犯罪既遂可能性的关注。如前所述，深度伪造本身所追求的即是其“以假乱真”，该项技术在诈骗、敲诈勒索等罪的适用中将极大提高犯罪的既遂可能性，尤其是该项技术的发展逻辑和迭代所追求的即是让人不能判断真假，作为一种具有隐蔽性的音频、视频插件更加容易让人陷入错误认识，但是目前对于深度伪造技术的关注则更多放在最终造成实害结果之上，而对其究竟在多大程度上容易使人陷入认识错误，最终导致错误处分缺乏必要关注。

(三)深度伪造的治理困境

互联网犯罪因网络的虚拟性和匿名性，导致仅仅依靠与上传音视频相关的源数据追踪到深度伪造音视频的制作者是并不足够的。此外，如果该项技术所使用的服务器本身属于借用或盗用他人服务器的情况时，对于深度伪造制作者的追踪将更加困难——那些能够利用网络进行犯罪的行为人往往也有能力和技术对自己的行为进行匿名化处理。而基于互联网的全球性，深度伪造音视频的制作者可能位于其所上传平台管辖国之外的地域。一旦深度伪造生成，法律往往缺少有效的方法制止其传播，也即深度伪造滥用的危害性是和其行为本身同时存在的。

我国网络信息监管体系主要包括四个层次：行业监管、平台把关、社会监督和网民自律。四个层次的赋权上，出于网络发展的需要以及平台中立观念的原则，更多是依靠社会监督和网民自律。这实际上是不科学也不可行的，行业内部尚存在着深度伪造检测的困境，要求社会和网民识别深度伪造音视频自然不可能，而被深度伪造的对象发现时，危害结果已经造成，再去进行反向破解，就缺乏对深度伪造滥用的预防机制。

三、深度伪造的刑法规制合理性与设想

网络时代的刑法理念需要坚持刑法谦抑性为中心[5]，同时也需要以新理念进行应对。要求网络平台和科技公司自行监督和监管的现状低估了对于技术滥用风险的评估，民事、行政规制的有限性和传统犯罪借助网络和人工智能进行变异之下，需要以积极的刑法观对深度伪造技术进行规制。

(一)民事、行政规制的有限性

由于深度伪造技术的创建者往往采取的是匿名的方式实施违法的行为，且对深度伪造技术的检测还处于发展阶段，个人并没有自主检测的工具。而依据《民事诉讼法》规定符合起诉条件必须有明确的被告和“谁主张谁举证”的举证原则。网络环境的开放性和无形性，侵权主体的分散性以及网络空间的无形性，都成为个人在面对网络侵权维权时的绊脚石。网络侵权的救济手段的单一性，且在维权过程中可能导致的侵权影响的二次发酵，司法诉讼的成本高和时间长等等一系列原因使得个人在网络维权时的困难重重。[6]“谁受害、谁通知、谁服务、谁取下”的规定，过分要求受害者主动发现予以维权，导致平台和政府监管在此侵权链条中的缺失，网络对于“附近性”的消解，个体在网络空间“他者”概念的空缺，真实空间中的“道德感”和“秩序感”的减弱，都不断降低网络侵权的成本。随着智能城市的建设，改变了原本个体参与网络生活的可选择性，人脸识别作为许多小区、单位的门禁系统，涉及肖像的信息在网络系统上渗透。而目前对于网络信息的监管模式则更多是网络平台向监管部门报告，通过计算机产生的深度伪造音视频并不一定在网络平台上进行传播，导致行政监管的落空，且在行政监管更多是针对行业、商业主体而非自然人个体的现状之下，对于个人面对深度伪造的侵权显得无助。

由此可见，尽管民事补偿途径可以作为个人维权的途径，但是在互联网本身的跨国、跨省和匿名的背景下，要求作为深度伪造的受害人主动维权是过于沉重的负担，诉讼程序的繁杂性和长期性可能导致即使收到道歉和赔偿对于受害者而言也没有太大意义。而行政手段的监控，面对商业主体和行业的现状，以及通过计算机产生的深度伪造音视频不一定在网络平台上传播的监管乏力，让深度伪造技术之下的个人权益保护落空。

(二)深度伪造刑法规制的正当性

《关于办理利用信息网络实施诽谤等刑事案件适用法律若干问题的解释》规定了编造虚假信息，或者明知是编造的虚假信息，在信息网络上散布，或者组织、指使人员在信息网络上散布，起哄闹事，造成公共秩序严重混乱，以寻衅滋事定罪处罚。这确立了刑法对于网络空间秩序与线下空间的统一对待的处理方式。截至2020年6月，我国网民规模达9.40亿，在线教育用户规模达3.81亿，人均每周上网时长为28个小时，网络已经成为大多数人日常生活的必需，互联网充当着重要的社会职能，网络秩序亟待重视。刑法的存在理由与机能是通过报应刑内的科刑预防将来的法益侵害或者危险，但是随着社会关系的变迁，越来越多的法益变得亟待保护。[7]深度伪造作为一项专门创设虚假的技术，虽然对于作为一些有益技术的中间技术具有价值，但是其欺骗性本身在检测技术没有达到，也不可能达到完美精度的情况下，就具有损害社会秩序的可能性。如果人们能够利用虚假的技术来达成自己的目的，且不会受到有效及时的惩罚，那么自然会不断扩大其使用范围，从而消解社会的信赖体系。

虽然从表面上看深度伪造只是在技术上为虚假消息、诽谤、敲诈勒索、诈骗等犯罪增添了一种新型手段，并不是一个独特的问题，然而当商业公司或平台通过营利为目的提供给大众一种增加社会虚假信息的工具，甚至是可能引发社会信任基础和网络秩序瓦解的工具时，自然应当特殊对待。此外，风险社会之下，尤其是网络全面侵入公民生活之下，公民对于风险的感知通过媒体、社交网络的传播更加直接、强烈，由此产生对于国家治安形势恶化的感知。基于“破窗理论”，在一个糟糕的环境中对于自身行为的规制感直线下降，而社会生活的复杂化、高度技术化，个体在其中对于自身主体性的控制愈发下降。一方面，深度伪造技术的异化消解了对于“眼见为实”的社会信任，尤其是针对政府工作人员、公众人物、亲属之间的深度伪造，将导致社会基础认知体系的瓦解；另一方面，深度伪造一旦被利用，基于互联网传播的速度和广度，法律难以控制和阻止其危害的弥散。因此，对深度伪造的规制应尽可能在事前或事中，将其对社会秩序的影响遏制在源头。尤其是在涉及国家安全与国际交往和国际合作的层面上，虽然目前在简体中文媒体上很少对深度伪造技术的报道，但是深度伪造所造成的对个人生活的干预和国家安全的潜在影响已经引起了英、美、俄等国家的关注，并且美国在其专门针对深度伪造技术的立法，即《2019年深度伪造报告法案》中特别强调国家情报局和美国情报部门负责人提交关于包括中国在内的深度伪造技术的研发情况的报告，由此可见美国对于深度伪造技术的关注，也透露出对深度伪造技术滥用的担忧。基于此，对深度伪造技术进行刑法规制具有正当性。

1.域外深度伪造刑法规制情况

2019年，美国国会提出《深度伪造责任法案》和《2019年深度伪造报告法案》两部法律草案，对深度伪造技术采用刑事犯罪视角的规制。其中《深度伪造责任法案》对三类行为规定了不超过5年的刑事处罚：(1)未对作品进行水印标记，且具有羞辱他人的主观目的，提供含他人虚假的性行为或者裸体的视频的；(2)意图造成暴力或者身体伤害、引发武装或者外交冲突，或者干扰政治运作，包括选举，威胁社会信任的；(3)受外国势力或者代理人指示，意图介入国内政治争议，影响联邦、州或其他的选举，以及实施其他不法行为的。法案还规定了深度伪造的被害人有权采用各种救济措施。2019年2月和10月，加利福尼亚州州长分别签署了《犯罪欺骗性记录》(Crimes：DeceptiveRecordings)和《选举：欺骗性的音频和视觉媒体》(Elections:DeceptiveAudioorVisualMedia)，分别禁止“深度伪造”用于传播色情内容和帮助政治选举。

欧盟虽然没有出台直接针对深度伪造的立法或者相关法规，但是其通过《欧盟不实信息实践准则》和《可信赖AI伦理指引》的方式将深度伪造纳入规制范围，并直接把深度伪造作为虚假信息进行管理。[8]其中，2018年6月通过的《欧盟不实信息实践准则》附件中列出对不实信息的应对做法，通过“行业—利害关系人—消费者”的模式降低虚假信息可能带来的危害。[9]

2.我国深度伪造刑法规制设想

对于深度伪造技术的刑法规制存在两种选择路径。一是在利用深度伪造技术进行传播但不进行显著标识，或者提供给大众可以用来制作深度伪造的音视频的工具/平台但可通过购买等方式不进行标识时，情节严重或严重危害社会秩序和国家利益，刑法就进行干预，以避免在不断传播中加剧虚假传播的影响或者利用该音视频实施下一步危害行为。二是对于仅是利用深度伪造技术进行传播或提供深度伪造技术的开发者/平台，但不进行显著标识的行为不进行干预和处罚，等到实际危害后果发生后，按照具体的实害结果是否符合刑法的规定来定罪量刑。显然后一种做法忽视了深度伪造技术本身的危害性，并且也没有考虑利用此项技术对于网络秩序所带来的破坏力。深度伪造技术的风险多样性、多元性和其产生的音视频的难以检测性，以及基于深度伪造技术可能引发的社会暴力和民意诱导，都将对社会的发展和社会的秩序产生巨大伤害。通过点击和个人算法的网络商业模式，社交媒体更多按照用户的兴趣和喜好来进行推荐，深度伪造音视频的猎奇性和新鲜性，以及通过深度伪造所营造出来的“熟悉感”和“附近性”，对于吸引用户而言具有“良好”效果。诚然，深度伪造技术在一些领域具有潜在的价值，然而在尚未存在恰当和有效的监管方式的情况下，允许个人可随意使用该项技术，则更像是在没有防御武器之下的“引狼入室”。[10]

具体而言，最值得关注的深度伪造行为包括：(1)使用深度伪造技术破坏社会信任的行为，即深度伪造产生的虚假信息本身侵犯法益的行为；(2)利用深度伪造技术盗用他人身份的行为，即滥用他人身份性信息，捏造他人虚假行为。对于前者是深度伪造技术本身指向所带来的负面效果，因此应该强调规制性刑法。通过对技术本身的限制性规定，要求发布使用深度伪造技术的音视频必须标注该音视频是利用深度伪造技术所合成，否则在严重影响社会秩序的情况下，如大范围传播、造成不良社会影响，就构成犯罪。对于后者是借助深度伪造技术侵犯他人法益和社会法益的行为，因此应该强调法益侵犯性，以借助深度伪造技术最终侵犯的法益确定性作为影响量刑的标准，尤其是针对在诈骗、敲诈勒索、危害国家安全类犯罪中使用深度伪造技术的情况，应当考虑深度伪造技术对被害人陷入认识错误的可能性与必然性，予以定罪量刑。

四、结语

国家应当积极干预对于可能危害公民正常生活秩序的行为，不能够将其完全留给受害者，让受害者自行寻求民事救济，尤其是针对网络行为侵犯个人权益的行为，要求个人在现行民事诉讼体制之下寻求救济并不可行。而放任深度伪造技术滥用的做法则只会让互联网重返丛林社会，并进而消解个体对社会体系的信任。风险社会之下要求更多层次对于新兴技术的治理，“科技向善”的希望之下蕴含着对法律积极规制的需求。换验软件ZAO被叫停之下，并不能够完全制止技术的继续蔓延，因此应当以更加前瞻性的思考来应对新技术的发展，并以更加积极的刑法态度来维护公民的生活秩序。