网络传播中“深度伪造”技术及其产物的刑法规制

范玉吉 于雅洁

一、引言

互联网的极速发展，带来的是用户的极速增加，据Hootsuite 和We Are Social发布的一份报告显示，截至2021年7月，全球互联网用户已达48亿，占世界总人口的61%；全球移动用户已达52.7亿，占世界总人口的67%；全球社交媒体用户达44.8亿，几乎相当于全世界总人口的57%。网络用户数量的激增，对各类网络应用技术的发展产生了巨大的推动作用，许多新的技术在满足用户需求的同时，也带来了许多意想不到的新问题，科技的每一次突破都可能带来意想不到的“副产品”，如人工智能技术领域的技术创新日新月异，而“深度学习”技术就是其中一例，但由其引发的“深度伪造”（Deepfake）技术，却给网络传播带来极大的负面影响。任何技术都具有其“阴暗面”，许多技术仅仅是因商业利益的驱动而非为满足用户的需要而开发的。因此，这些技术为日常生活带来一定便利的同时，也会引发不少风险。用户数量的增加不仅仅反映了网络空间的繁荣，同时也带来了网络犯罪量的激增。

“深度伪造”这一术语最早产生于2017年，由“深度学习”和“伪造”（fake）两个词合成，是一种利用生成对抗网络等深度学习模型来创建逼真的虚假图像和视频的技术。根据《现代汉语词典》的解释，“伪”是“有意做作掩盖本来面貌的”，是“虚假”，与“真”相对，同时也有“不合法”的意思。虽然“深度伪造”与“深度合成”技术原理相同，但“深度伪造”技术及其产物更加突出其虚假性。因此，本文所指“深度伪造”技术及其产物主要是针对“深度伪造”生成的图像、音频、视频等，主要关注这种技术的欺骗性及其伪造生成物的危害性。

刑法作为重要的社会治理工具，主要是通过对违法犯罪者实施刑罚以达到保护公民权利、保障社会稳定、保卫国家安全的目的。因此，刑法既有保护权利的功能，也有保障秩序的功能。由于刑罚手段的严厉性，刑法一般作为抑止违法犯罪行为，维护社会秩序的最后手段，这是刑法谦抑性原则的体现。但当代社会学的研究表明，工业社会经由其本身系统制造的危险而身不由己地突变为风险社会。随着网络和信息技术的发展，社会风险对刑法的谦抑性原则提出了挑战，刑法的保护秩序功能超越保障权利功能成为主导，预防犯罪的功能更加突出。

本文以“深度伪造”技术及其产物为研究对象，梳理网络传播中“深度伪造”技术及其产物可能侵害的法益种类，通过论述刑法规制的正当性，提出在坚持罪刑法定原则前提下的刑事规制路径，为营造天朗气清、生态良好的网络空间提供参考。

二、“深度伪造”技术及其产物

所谓“深度伪造”就是将计算机获取的他人的音频、图片、视频等生物信息数据交给“智能算法”，然后在深度学习的基础上由智能算法自动完成伪造操作。“深度伪造”技术依托深度学习使得伪造的行为脱离了人工的直接参与，仅通过人工智能就可以自动完成。它将伪造从被动性伪造推入了自主性伪造的全新阶段，“深度伪造”不再是单纯的复制和冒用，而是全新的生产。这种伪造技术生产出来的产品不同于传统的拼接式伪造（如Photoshop图片处理技术，即PS技术），一般的监测手段很难发现其中的“拼接”痕迹，它是一个完整的“新作品”，具有极大的迷惑性，被滥用甚至是乱用后，会成为新的犯罪工具。根据“深度伪造”技术类型进行分类，主要可分为图片、语音和视频三种类型，其伪造“作品”的类型虽然不同，但其原理却有极大的相似性。

（一）图片的“深度伪造”

图片伪造并非新生事物，在传统感光胶片时代图片伪造就时有发生，但因为伪造技术难度大，所以发生的概率并不高。在胶片摄影的年代里，摄影师完成拍摄后，要想后期改动摄影作品中的视觉元素，其技术成本和时间成本都很高，需通过暗房在负片上加减修改的部分，然后重新显影、定影，并使用颜料、刻刀等工具进行细节修饰。在数码摄影出现后，影像编辑软件功能虽然可以在短短几分钟内就改变一张照片的色温、色度、色彩等视觉元素，甚至是影像的叠加和某些视觉元素的增删都变得易如反掌，但由于这种伪造后的视觉元素分布过于均匀、对称、整齐、有规律，而且拼接痕迹明显，极易被识破，如 2006年路透社黎巴嫩籍摄影记者阿德南·哈吉拍摄的关于黎以冲突的照片就被发现使用了PS技术造假。而运用数字图像编辑软件则大大降低了篡改难度，且提高了被识破的难度，其主要是运用生成对抗网络（Generative Adversarial Network，GAN）提供的一种基于零和博弈的高质量图像伪造方法，直接由随机噪声通过深度神经网络生成图像。原始 GAN 经过不断改进发展，已经可以生成高分辨率的逼真图像。GAN 伪造图像与传统伪造图像相比，不存在图像拼接以后留下的痕迹，所以传统的伪造图像检测技术无法有效甄别GAN 伪造图像。图片伪造技术不仅破坏了新闻图片的真实性原则，更为网络色情泛滥提供了“技术支持”。

（二）语音的“深度伪造”

语音的“深度伪造”主要包括身份风格伪造、语音音色伪造与语音韵律伪造三部分。风格伪造主要是对声学特征的伪造，每个人语音的声纹特征都具有独特性，计算机系统通过对说话人的语音进行静音剔除和降噪等技术处理以得到纯净有效的语音片段，之后提取出特定语音对应的声学特征参数，根据系统建模算法得出说话人的特征模型。音色伪造主要是通过储存大量目标说话人的语料库，然后通过波型拼接式语音伪造技术，将在大量自然语流中丰富的语音单元按照一定的规则拼接，得到高自然度与相似度的语音。韵律伪造是模拟目标说话人在日常生活语言交流中的态度、思想以及注意力等个性化信息。一个好的韵律预测可以让伪造语音与真实语音相比难以判断，从而进一步提升语音伪造水平。2018年，蒙特利尔大学的三名博士联合创办了一家名为“琴鸟”的公司，开发出了一种“语音合成”技术，只要对目标人物的声音进行1分钟以上的录音，把录音丢给“琴鸟”处理，就能得到一个特别的密钥，利用这个密钥可以用目标人物的声音，生成任何想说的话。

（三）视频的“深度伪造”

视频“深度伪造”的技术较声音和图片的伪造难度要高，但其基本的技术逻辑仍然是运用相互联系节点组成的多层神经网络，通过深度学习，对输入的数据进行自动计算，并根据特定的建模由算法在训练的基础上来完成特定视频内容的转换生成任务。通俗地讲，就是将目标人物（比如明星、政治家等）的不同角度、不同姿态、不同表情的视频进行深度的学习，提取其必要的特征数据，并根据特定的建模进行新的运算，在反复训练的基础上自动生成伪造的视频，并将其覆盖到原有视频人物的形象之上，形成新的“视频”。其实质可以简单理解为从现有“源数据”（目标人物）中通过算法生成“新数据”（伪造视频）的过程。前期的伪造视频生成主要依靠共享权重的自动编码器，生成对抗网络（GAN）的出现克服了自动编码器刻意逼近真实数据概率分布的缺点，使得生成的伪造视频更难以分辨。同时，一些团队还提出了多种改进的 GAN算法，以实现更逼真的“伪造”效果。“深度伪造”技术以假乱真给个人和社会都造成了现实的威胁。但是，目前还没有一个完美的解决方案能够有效阻断“深度伪造”内容的传播。目前流行的基于VGG（Visual Geometry Group）的深度卷积神经网络和Google工程师的人脸识别系统FaceNet都无法抵御“深度伪造”视频的“攻击”，唇同步、图像质量度量等其他方法也存在非常高的错检率。“深度伪造”主要通过修改或生成新的人脸——包括修改表情、口型、脸型以及合成新脸等四种模式来达到伪造的逼真效果，其中影响最为恶劣的应用模式是换脸型和对口型。

“深度伪造”技术和针对“深度伪造”的防伪技术一直在进行博弈，但是目前完全用技术手段来抵抗技术风险还是存在太多的不确定性。因此，用预防刑法的理论加以预防，也许会成为最有效的手段。

三、“深度伪造”的法益侵害类型

技术本身是中立的，不中立的是使用技术的人。“深度伪造”技术所依赖的生成对抗网络、深度学习、多层神经网络等技术本不具有负面价值，但被人非法利用生成造假工具，就产生了危害类型各异、危害程度不同的犯罪行为。目前，Github开源社区中有Faceapp、Faceswap、Deepfacelab、Openfacewap等数量众多的“深度伪造”项目，大部分项目都提供了一键式操作的应用程序，极大降低了“深度伪造”技术使用的门槛，也大大增加了伪造技术被滥用的可能性。

（一）侵犯公民人身权利、财产权利

1.合成色情图片与视频，侵犯人身权

利用“深度伪造”技术制作内容最常见的犯罪行为就是传播淫秽色情。2017年12月，一个名为“deepfake”的用户在“Reddit”网站发布了一段假冒好莱坞知名女演员盖尔·加朵的脸插入到色情场景中，在全世界范围内引起了巨大轰动，这是“深度伪造”技术第一次被广泛关注。随后，利用“深度伪造”技术制作的色情视频与图片层出不穷，据安全分析公司Sensity调查显示，2019年7月“深度伪造”的总数达到14678个，相比于2018年12月的7964个造假视频量几乎翻了一番。而截至2020年6月，造假视频已多达49081个，较2019年7月增长了330%以上。而在2019年公布的14678个“深度伪造”作品中，假色情视频占据了96% 。2019年4月，一位印度女记者因为揭露印度古吉拉特暴乱中官员的黑幕和不作为而遭到报复，以其为主角的“深度伪造”色情视频在社交媒体上传播，并且视频中还出现了她的家庭住址等信息，使其承受巨大的精神折磨，最后不得不断网乃至住院治疗。“深度伪造”被应用于合成色情图片与视频，是对公民名誉权、肖像权、声音权等人身权利的侵犯，一般情况下公民可以通过提起民事诉讼寻求救济。考虑到目前网络与自媒体的发达程度与传播速度，其负面影响短期内难以消除，且传播趋势具有不可控性。当这类色情制品搭乘网络传播这趟快车时，其产生危害的严重性已经超越民法所调整的范畴，达到《中华人民共和国刑法》（以下简称《刑法》）第246条所规定的“情节严重”的情况，应当按照“侮辱、诽谤罪”追究相关人员的刑事责任。

2.制作3D头像破解人脸识别系统，侵害财产权

随着人工智能技术和大数据的兴起，“生物识别”因其高效、快捷、准确等优势逐渐成为各类软件普遍采用的身份信息识别方式。个人生物信息具有普遍性、唯一性及稳定性。在众多生物信息中，人脸相较于指纹等生物信息具有可远距离获取的优势，但这也正是隐患之所在。人脸识别支付已成为金融支付领域的一种重要支付方式，其将人脸图像信息与个人身份信息和银行账户信息进行关联，在支付过程中，通过采集人脸信息进行身份鉴别，达到认证身份进而合法授权支付的作用。利用“深度伪造”换脸技术制作的假视频足以以假乱真，生成的假人脸或假视频可以欺骗人脸验证系统，对人脸识别支付系统安全威胁极大。

目前，利用“深度伪造”的相关软件并结合3D打印技术，可以生成并制作高清的3D面具，对人脸识别支付系统的安全性构成了巨大的潜在危险。据财富中文网2019年12月18日报道，美国人工智能公司Kneron使用由日本特种面具制造商专门定制的高质量3D面具，成功地欺骗了人脸识别系统，完成购物支付程序，其中包括中国的微信和支付宝的人脸识别支付系统。计算机科学家们同时还进行了一场与Kneron相似的实验，他们使用从Facebook上获取的图片，也成功地骗过了人脸识别传感器。

随着“人脸识别”技术的优化，愈来愈多的系统采用该技术进行身份认证和支付认证。而随着这类应用技术的普及，利用“深度伪造”技术制作 3D头像破解人脸识别系统的行为不断增加，其所引发的破解“人脸识别”系统的违法犯罪活动也逐渐增多。2021年3月，上海市虹口区人民检察院公诉一起特大虚开增值税普通发票案，犯罪嫌疑人就通过对他人的高清头像和身份证信息进行技术处理，让照片“动起来”，形成包括点头、摇头、眨眼、张嘴等动作视频，从而破解人脸识别技术，虚开增值税普通发票，合计超过5亿元。2020年1月，浙江省衢州市中级人民法院对一起侵犯公民个人信息的刑事案件进行二次审判。据判决书显示，自2018年7月开始，被告人以牟利为目的，通过使用软件将非法获取的公民头像照片制作成3D头像，从而通过支付宝人脸识别认证注册账户，非法获利30324元。2019年，四川省成都市郫都区人民法院审理了一起利用3D人脸动态图破解支付宝人脸识别认证系统的案件，被告人非法获利2.4万余元。作为一种新的犯罪类型，利用“深度伪造”技术制作 3D人像破解人脸识别系统的犯罪手段具有较大的危害性，除了对公民财产权利构成侵犯外，还可能构成破坏金融管理秩序罪，如除对金融系统等需要身份认证的网络系统进行破坏外，“深度伪造”对公民财产权利破坏应用最多的场景就是网络诈骗。声音伪造在网络诈骗和电信诈骗中的发案率比较高，有一些“猜猜我是谁”的升级版已经不需要用“猜”，因为“声音”告诉对方自己就是可信任的“朋友”，被骗者完全放松了警惕。随着AI换脸的伪造视频出现，利用视频聊天来“面对面”行骗的危害就更大，受害人被骗的可能性很高，不能不加以严厉打击。

（二）妨害社会管理秩序

1.制作虚假新闻，造成社会信任危机

虚假新闻已经成为世界公害。美国皮尤研究中心2019年6月的一份报告称，许多美国人都认为虚假新闻已经成了一个迫切需要解决的关键问题。鉴于对虚假新闻的担忧，美国人开始改变自己新闻获取和阅读的习惯，约 63%的人不再从某个特定媒体渠道获取新闻，约 52%的人改变了他们使用社交媒体的方式，约 43%的人减少了他们接受新闻的数量。网络传播中虚假新闻的危害不同于网络诈骗的违法犯罪行为，后者的危害性直接且显而易见，而前者的危害则来自众多不良影响的叠加，并且具有一定的持续性。新闻以传递信息为主要目的，而信息是为了消除人们工作和生活中的随机不确定性。如果新闻失真，就会对人们的工作和生产造成影响。首先，虚假新闻影响受众的决策与行为。利用“深度伪造”生产出的虚假新闻，可能误导公众的决策、误导舆论方向、引发受众的模仿。其次，“深度伪造”的新闻对于一般受众来说很难辨识，所以其在误导舆论方面危害十分明显。目前算法技术的发展使“个性化推荐”的应用普遍存在。“深度伪造”技术与算法结合，分析用户喜好，推送符合其偏好的内容，潜移默化地加深了固有的认知模式，塑造了受众的认知偏好，使得虚假信息更具吸引力，其传播速度比真消息更快 ，阅读量也更高。再次，由于“深度伪造”技术门槛逐渐降低，网络传播中基于“深度伪造”技术生产的虚假新闻随处可见，一般通过“换脸”视频或图片配以对应的文字进行播报。此类虚假新闻不仅可能侵犯原视频或图片作者的著作权，包括修改权、保护作品完整权、信息网络传播权等合法权益，而且还可能侵犯原作品表演者的表演权。最后，这些十分逼真的虚假新闻在欺骗了受众后，会使受众对媒体产生不信任感，进而影响媒体的公信力。

2.伪造证据，妨害司法

法律注重证据，证据的真实性将直接影响案件的判决结果。“深度伪造”的内容被用作证据时，由于缺乏对此类虚假影像资料的鉴别技术，虚假内容将对司法实践产生巨大的挑战。2021年播出的电视剧《巡回检察组》中就出现了篡改监控视频，将故意杀人伪造成过失致人死亡的情节，其中篡改视频的技术正是“深度伪造”。虽然此类行为是以电视情节的方式出现，实务中尚未出现案例，且对技术、资金要求较高，但随着“深度伪造”技术门槛的降低与人工智能的发展，并不能保证此类行为不会成为现实案例。法律面前人人平等，任何违法犯罪行为都应当受到法律的制裁，法律的尊严与权威不容践踏。用“深度伪造”技术制造证据，会构成妨害司法的犯罪。

（三）危害国家安全、公共安全

根据ASI数据科学公司的一项测试，通过语音生成算法，只需要借助两小时的语料并训练五天时间，就可以模拟出一份以假乱真的特朗普向俄罗斯宣战的语音。由于网络传播解构了传统意义上信息传播的垄断、控制、地域、国家等限制，传播范围具有全球性。如果不法分子利用“深度伪造”技术发布煽动反对政府、挑拨民族和谐、分裂国家政权等内容的视频，再利用网络传播的全球性在各类网络平台中传播，极易引发危害国家安全、危害公共安全、妨害社会管理秩序等犯罪，甚至还会对地区安全、国际和平造成巨大的影响。

综上所述，“深度伪造”技术的不当运用不仅侵害公民、法人的民事权益，还对社会、国家造成危害，其危害程度已经超出了民法调整的范围，因此需要用刑法进行及时应对。

四、刑法规制正当性：秩序与自由之争

秩序与自由都是法律所保障的具体价值。秩序是法的目的性价值中的基础性价值，“与法律永远相伴随的基本价值，便是社会秩序”。秩序意味着控制，意味着社会对人的行为加以限制与禁止。《刑法》第2条明确规定了刑法的任务是保护公民权利、维护社会秩序、保卫国家安全，这是秩序价值在刑法中的体现。刑法通过刑法规范，以犯罪行为人的行为为对象，以刑事制裁为手段，实现对社会行为的控制。刑罚是最严厉的一种法律制裁，它只能由国家有组织地实施。刑法规范是强制性规范，是社会秩序的最后保障。自由是社会价值体系中的核心要素之一。自由并不意味着“随心所欲”，法律尊重自由，也保障自由，但自由在实际中却受到诸多限制，一个人的自由以他人的权利为边界，这就是基本的社会规范，也是基本的法律规范。社会规范对自由的限制包括自我限制与外在限制。自我限制是指主体主动遵循社会规范，外在限制是主体被动遵守社会规范。自由价值在刑法中体现为罪刑法定原则，该原则规定“法无明文规定不处罚”，目的在于限制国家滥用刑罚权，保障公民的自由。秩序与自由之间存在矛盾，但这种矛盾不是根本性、对抗性的冲突，在刑法中二者处于动态平衡的状态，在不同背景下有所侧重。例如，《刑法》第246条第2款将侮辱、诽谤罪规定为“告诉才处理”的犯罪，但严重危害社会秩序和国家利益的除外。根据该条规定，一般情况下公民享有诉与不诉的自由，此时注重自由价值；一旦出现危害社会秩序和国家利益的情形就要强制提起公诉，此时秩序高于自由。

传统刑法注重刑法的惩罚功能，以罪责理论为基础，充分体现了对公民权利和自由的保障，符合法治国家的要求。但是，面对新型的技术风险时，传统刑法滞后性的负面影响逐渐显现，面对新型犯罪出现“无法归责”的尴尬局面。这是因为传统刑法强调的是刑法的事后应对，将实害结果作为刑法治理的出发点。然而，以“深度伪造”为代表的技术与网络传播相结合，其风险往往具有危害的严重性、影响的全球性和灾难的不可恢复性，如“深度伪造”中的“换脸”是由于面部生物信息泄露后引发的，不法侵害一旦发生便无法挽回，因为密码信息泄露可以重新更换一组，但受害人个人信息泄露却无法重新更换。为了防患于未然，法律必须对潜在的法益侵害加以防范。那么，以维护社会秩序为己任的刑法，面对新兴技术风险必须作出相应的回应，必须从事后惩罚转向事前预防，以保障法益不被实际侵害。

法律是社会的重要调节器，法律应当对社会问题作出积极的回应。当技术风险带来的犯罪危害超越传统犯罪产生的危害后果时，就应当坚持功能主义的立法观，主动介入变化了的社会生活及其社会实践。一方面，将传统刑法以自由为重心的价值取向，转变为以秩序为重心，对“深度伪造”的自由和其伪造物传播的自由进行限制，强调传播秩序的价值和法益保护的重要性。另一方面，注重发挥刑法的预防功能，防止不可逆转的法益侵害后果发生。万物互联的今天，网络空间已成为亿万民众共同的精神家园，而“深度伪造”产物的大肆传播，污染了原本良好的网络生态环境，有人利用网络鼓吹推翻国家政权、煽动宗教极端主义、宣扬民族分裂思想、教唆暴力恐怖活动，利用网络进行欺诈活动，散布色情材料，严重破坏了社会秩序，危及国家安全，让民众感到不安与恐惧。在此特定背景下，民众对于稳定秩序和维护安全的渴望超越了对自由的追求，通过发挥刑法的预防功能，阻止侵害公民权利、扰乱社会秩序、挑起各种争端的犯罪行为发生。

五、刑法规制路径：公平分配各主体责任

“深度伪造”是人工智能技术发展带来的负效应，虽然其对社会造成了潜在的技术风险，但法律却并不能直接对技术本身进行规制，刑法规制的客体是利用“深度伪造”及生产内容进行犯罪的行为。2020年1月1日起实施的《网络音视频信息服务管理规定》就规定，“网络音视频信息服务提供者和网络音视频信息服务使用者利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息的，应当以显著方式予以标识”。对于违法违规内容，网络音视频信息服务提供者应及时停止传输该信息，并采取消除等处置措施，防止信息扩散。“深度伪造”技术及其生产的内容在网络中的传播是一个完整的产业链，在这个产业链上包括了技术提供、内容生产、内容传播、网络服务等不同主体。各主体所处位置不同，发挥的作用也不同，因此所要承担的职责也各不相同。面对新兴风险，虽主张发挥刑法的积极预防作用，但罪刑法定原则始终是刑法的核心。因此，“深度伪造”技术刑事规制中最主要的步骤在于明确各主体的责任即主观要件。在违法行为已经发生，即法益已经遭受侵害的前提下，根据各主体的主观要件来分析其责任，从而判断其行为是否构成犯罪，是否应当受刑罚处罚。

（一）技术提供者

这里的技术提供者主要是指提供“深度伪造”技术的软件开发者、网站制作者等。技术提供者的主观责任分为故意和过失。“故意”是指技术提供者开发“深度伪造”技术软件的目的是用于犯罪，那么该技术提供者的行为构成犯罪。例如，“DeepNude”（深裸）就是依托“深度伪造”技术开发出来的软件，使用者仅需提供任何一张女性的照片，该软件就可以通过算法自动生成裸体照片。这类软件开发者的主观恶意明显，这些软件严重侵害了女性的人身权益，也因传播淫秽色情而妨害社会管理秩序。“过失”是指技术提供者未尽到其应尽的注意义务。技术提供者基于其专业的知识背景，对其开发制造的产品及其影响应当承担与其能力相当的注意义务。虽然技术提供者应当为自己未尽到注意义务而承担责任，但注意义务也存在限度，毕竟“法律不能强人所难”。根据《刑法》第15条规定，违反注意义务是构成过失犯罪的必要非充分条件。也就是说，当技术提供者未尽到注意义务时，是否成立过失犯罪应当具体问题具体分析。原因在于技术具有“自主性”，“深度伪造”技术作为人工智能的产物，具备深度学习能力，可能与其他技术耦合而产生超出技术提供者预期的“新技能”，技术提供者对此类结果不具有期待可能性，此时要求其承担刑事责任不符合罪刑法定原则的精神。

（二）内容生产者

“深度伪造”的内容生产者是技术的使用者，他们运用“深度伪造”技术进行文本、图片、音频和视频的伪造。我们一直乐观地坚持技术中立的观念，对技术所带来的效益怀有极高的、不理性的期待。但事实却往往与愿望相左，技术中立并不等于技术使用也是中立的，技术会被使用者带偏方向，走向人类良好愿望的反面。技术风险的特征之一是“人为性”，即技术使用者可以用善意来为人类创造价值，但是也可能怀有恶意而给人类带来灾难。除个别用于音乐、影视、广告等娱乐领域外，大部分“深度伪造”的内容都可能与违法犯罪活动有关联，除了色情视频泛滥之外，人们更担心的是侵害公民隐私、威胁信息安全、制造社会矛盾、破坏民族团结、操纵政治选举、煽动分裂国家等方面的问题。上述行为可根据《刑法》第363条制作、复制、出版、贩卖、传播淫秽物品牟利罪，第364条传播淫秽物品罪，第291条之一编造、故意传播虚假恐怖信息罪，编造、故意传播虚假信息罪，第246条侮辱罪、诽谤罪，第249条煽动民族仇恨、民族歧视罪，第120条之三宣扬恐怖主义、极端主义、煽动实施恐怖活动罪，第103条煽动分裂国家罪，以及第105条煽动颠覆国家政权罪等条款，对生产相关“深度伪造”内容者进行处罚。对于“深度伪造”内容的生产者来说，一般都明知自己的行为会产生什么样的危害后果，并且还希望或放任这种结果发生，因此属于故意犯罪。

（三）内容传播者

“深度伪造”内容传播者的主观责任仅包括故意。对于内容传播者而言，不管是首发还是转发，都应当对传播内容的真实性、合法性有注意义务。在不能确信传播内容真实性和合法性的情况下，应当停止对该内容的传播。所以，从立法的原意来看，之所以强调传播者的主观责任仅包括故意，就是为了强化注意义务。一旦传播者传播某一“深度伪造”的内容，不管他是否明知该内容虚假不实、违规违法，都推定该传播者明知或者应知该内容真实合法。《刑法》第363条关于传播淫秽物品入罪的条件是“以牟利为目的”，而第364条“传播淫秽物品罪”则没有，但都有“情节严重”这一入罪条件。《最高人民法院、最高人民检察院关于办理利用互联网、移动通讯终端、声讯台制作、复制、出版、贩卖、传播淫秽电子信息刑事案件具体应用法律若干问题的解释（二）》对“情节严重”和“情节特别严重”进行了量化。如果传播淫秽物品达到“情节严重”的标准，则不管是否以牟利为目的，都构成犯罪。

（四）网络服务提供者

网络服务提供者在网络传播时代的职责主要是为内容生产者和传播者提供平台、通道，它既不生产内容，也不直接传播内容，但却和内容的传播、意义的产生关系十分密切。参考《中华人民共和国民法典》第1194条至1197条的相关规定，网络服务提供者是网络传播过程中法律责任的主要承担者之一，这种责任主要包括：当网络用户利用网络服务实施犯罪后，收到通知就必须采取删除、屏蔽、断开链接等必要措施，不采取措施也应承担刑事责任；网络服务提供者知道或者应当知道网络用户利用其网络服务实施犯罪，未采取必要措施的应承担刑事责任。由此可见，网络服务提供者因不作为而造成后果的需要承担刑事责任。《网络音视频信息服务管理规定》第12条和《中华人民共和国网络安全法》第47条都规定，网络音视频信息服务提供者发现音视频信息服务使用者制作、发布、传播法律法规禁止的信息内容的，应当依法依约停止传输该信息，采取消除等处置措施，防止信息扩散，保存有关记录，并向有关部门报告。停止传输违法信息、消除违法信息等措施具体包括删除、屏蔽、断开链接等，对于未履行规定义务的网络服务提供者可以按照《刑法》第286条的“拒不履行信息网络安全管理义务罪”进行处罚。

六、结语

通过刑法的预防功能规制“深度伪造”技术带来的犯罪风险虽然有不可低估的作用，但是其所伴随而生的问题也无法回避。首先，对“深度伪造”的风险评估难，对风险的认知与评估容易受到主体主观因素的影响，不易量化，无法做到准确测定。安全问题是社会心理构造之下的产物，公众对于风险的认知与评估差异性大，因此可能并不切合实际，由此容易导致对安全的诉求也不一定合乎理性。其次，强调刑法的秩序价值易造成对公民自由的侵害，因为对风险的预判缺乏统一性与确定性，那么也就可能模糊了刑法与行政法的边界。最后，过度的规制会阻遏技术和经济的发展，为了某种夸大的技术风险而使刑法对“深度伪造”从严规制，加强了法律限制，进而可能妨碍甚至制约信息技术的发展。