深度伪造技术的法律规制

赵文迪

摘 要：“深度伪造”是利用深度学习技术中的“生成式对抗网络”模型数字化处理和生成智能图片或音视频的技术。随着数字时代人工智能技术的不断创新，深度伪造技术在各个领域也开始广泛传播和应用，它具有高度真实性、简易操作性和迅速传播性的特点。在应用过程中，极易出现信息失真与泄露、侵犯公民合法权益、威胁社会公共秩序等问题。本文根据深度伪造的法律规制现状探索其解决路径，通过健全制作者和平台责任制度、确立多元化监管模式和完善事后救济措施，以期在法律规制之下促进深度伪造技术良性发展。

关键词：深度伪造；人工智能；法律规制

中图分类号：D9     文献标识码：A      doi：10.19311/j.cnki.16723198.2023.19.068

人工智能已步入技术与产业相结合发展的新时期，新技术革命的时代即将到来，其应用场景也变得越来越多样化和广泛。“深度伪造”（deep fake）是由深度学习（deep learning）与伪造（fake）结合而成的一种新型合成词，可用于伪造视频、语音、图像、笔迹等方面，并可生成与原作品相似程度较高的真实效果。深度伪造技术是当前人工智能技术飞速发展的成果之一，它作为一种图片、音视频的制造手段，在某些情况下能发挥其独特的作用。例如将这一技术运用到软件开发中，能为用户创建极具体验感的自主制作虚拟图片、音视频的APP；电影制片公司还可以利用深度伪造技术创造出在没有替身的情况下的具有逼真效果的特效，以提升观感与电影特效水平。

正是因为深度伪造技术操作简易，在深度伪造技术发展迅猛及广泛使用的当下，有犯罪动机的人会将这种技术滥用于非法活动，给人们带来更大的风险。在深度伪造技术提供强大的技术支撑的情形下，国内各大社交平台、视频网站等领域涌现出了大量的AI换脸视频，造成了社交网络涌现的信息难辨虚实的现象。深度伪造技术的应用可以根据制作者目的概括为具有趣味性、娱乐性的深度伪造作品，和带有主观恶意的深度伪造作品。带有主观恶意的深度伪造作品，若被用于特定用途，将对个人利益、社会治理甚至国家安全构成严重威胁与挑战。例如，基于深度伪造技术生成的色情视频就是其中最常见的侵权行为的一种。这类视频不仅侵犯了脸部权利人的肖像权、名誉权等权利，也同时损害了被换脸人的肖像权甚至是表演者权；它还被用于制作虚假换脸视频对某些国家当前的政治事件进行虚假的负面报道，例如在外网推特上经常出现篡改国外政治领导人物人脸的发言视频。这种虚假信息传播既有可能加剧社会矛盾，也有可能对一个国家的政治形象造成影响。在其他方面，深度伪造技术导致的诈骗活动也会对公司和个人造成财务经济上的损害，或是对公司的股价造成影响。因此深度伪造技术应用带来的法律风险不容小觑，对深度伪造技术的法律规制进行探索具有积极的意义。

1 深度伪造技术的主要特征

1.1 高度真实性

以深度伪造技术生成的视频为例子，其利用了大量的人脸样本，并进行数据收集和分析，最终生成物无论是表情还是动作，都极为逼真，光靠人类的眼睛无法分辨。因此很多罪犯都会利用这种特点来作案。例如利用深度伪造技术换脸的AI视频电信网络诈骗正在全国爆发，中国互联网协会官微也发文警惕“AI换脸”“AI换声”等虚假音视频。

1.2 简易操作性

深度伪造技术的原理复杂，早期这种技术不具备广泛使用与流通的条件。如今，网络时代为深度伪造技术的应用市场带来了极大的发展空间，软件公司会根据自己的利益需求，凭借深度伪造技术带来的红利去满足用户的不同爱好和兴趣，让玩家可以通过APP简易操作制作虚拟图片或者视频，甚至有不法分子以此制作具有名人效应的色情换脸视频营利。

1.3 迅速传播性

随着人工智能技术的不断发展和广泛应用，降低了制造各种深度伪造作品的门槛。在传播速度层面，只要使用一部手机，就可以通过“一键转发”实现在互联网上的扩散。从传播内容上分析，在深度伪造生成物中，占据比例最多的是含色情和政治类作品。从专业传播学的视角来谈，色情和政治类作品通常具有低俗、虚假、传播迅速的特征。从而造成了网络和社交媒体上能迅速传播一批“有心人”恶意制作的深度伪造作品。

2 深度伪造技术的社会治理风险

2.1 信息失真与泄露

深度伪造技术可以利用真实和虚假的信息相糅合来达到欺诈目的，随着其被推广和大量应用，不可避免地会带来信息失真与泄露等严重后果。当深度伪造技术被非法使用来散布谣言、扰乱公众视听时，这种有害引导舆论的行为就是在操控公众意识，并破坏社会信任体系，从而对公共秩序的稳定产生了严重的危害。这种现象使得社会传播的海量信息都处于真实与虚假混杂、界限模糊的窘境，造成了信息失真与大量泄露的现状。

2.2 侵害个人合法权益

对于深度伪造技术产生的作品而言，风险之一是它会对作品中所涉及人物的人身权益造成损害。最初这项技术的传播便是被国外用来制作各种类型的色情换脸视频，现如今“换脸”的目标从艺人明星和政治家迅速扩大到了普通群众。可以看出，深度伪造技术的普及和传播速度极快。这就导致了过于简单，几乎是“无门槛”的操作行为使被“换脸”的艺人明星或者普通群众的名誉和肖像权都极易遭到侵害。深度伪造技术制作的换臉视频除了作为一种自娱自乐的工具，还可以作为一种敲诈、羞辱、骚扰受害人的工具，对公民的人身和财产造成了伤害。

2.3 扰乱社会公共秩序

如今，深度伪造技术已经在许多国家的情报工作中得到了广泛的运用。当网络间谍窃取了真实情报之后会与虚假情报混合发布，然后利用深度伪造技术，对虚假信息进行声音和视频的融合，以此来增强虚假情报的可信度，并借此来操控舆论，让人无法分辨真假，从而对国家安全和国际秩序造成更大的威胁。在经济上，也发生过使用深度伪造技术制造虚假信息，损害企业信誉，扰乱金融市场秩序的真实案例。在社会层面上，不法分子通过使用虚假资讯来混淆大众的认识，妨碍了真实消息的传播，消解社会大众对政府机构以及新闻媒体的信任，进而对真实的信息也产生了怀疑。究其根源，是由于高水平的深度伪造技术生成物对社会群众的认知产生了巨大的冲击，使得依照目前一般人的判定标准难以分辨。

3 现行立法对深度伪造技术应用的规制

3.1 現行立法规制现状

目前，我国还没有直接针对深度伪造技术的法律规制。滥用深伪造技术的行为可能侵犯到公民肖像权、名誉权、著作权和财产权等，给公民的个人信息安全带来巨大的威胁。因此根据上述权利相应的法律保护，我们可以通过现行的有关立法来进行间接规制。《民法典》第1019条规定，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。例如“换脸视频”这类深度伪造技术生成的作品便会在未经权利人同意的前提下，将人脸合成替换到视频中，然后在互联网上进行公开发布与传播，同时侵犯了“被换脸”本人以及原视频出演者双方的肖像权。《民法典》第五章是关于保障名誉权，如果深度伪造技术生成物蕴含色情污蔑和诽谤侮辱性质的内容并且被传播扩散，就会产生对权利人名誉权的侵犯。除了《民法典》之外，我国《个人信息保护法》第28条将生物识别明确规定为敏感个人信息加以保护，使其免遭他人侵犯。深度伪造技术的间接规制也体现在我国《著作权法》中。为了获取流量与热度，利用深度伪造技术的视频制作者往往会以当前热门影视作品为原始素材对象。按照我国《著作权法》第3条第6款的规定，这一类型的素材资料是受法律保护的视听作品。深度伪造技术是利用人脸替换技术产生的伪造新视频，可以通过保护作品完整权的角度进行规制。《著作权法》第39条还对表演者权做出了规定。深度伪造技术产生的伪造视频侵犯了原作品演员的表演者权。

3.2 深度伪造技术应用规制的局限性

3.2.1 制作者和平台责任规定模糊

深度伪造技术的法律规制既应包含权利保护，也应包含对制作者和平台责任的规定。除了制作者理所应当遵循的创作作品不侵害他人权益、不扰乱社会公共秩序之外，对平台相应责任也应进行规制。在现行的立法中，由于立法层级较低，规定模糊笼统，在实际应用时效果并不理想。例如《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》则对平台责任进行了一定程度的规定并对此作出了一个重大的创新，即明确了每个网络信息服务提供商即平台主体必须自己进行或将其委托给第三方进行的安全评估。即主要考虑了对用户隐私的保护，以及对网络中不良信息传播的防范能力。在第5条中，还要求平台将举报和申诉的相关步骤以及具体内容向社会公布，以便于受害人获得救济。

3.2.2 现有监管制度不完善

目前我国尚无一个统一的网络技术监管主体，主要是由网信部门、公安部门和工信部门在其职责领域进行独立或联合进行监管的，各个部门的责任划分还没有清晰的界定，容易导致重复监管或者无人监管的现象，使得行政执法部门难以进行有效的处罚。现有法律规定中还存在着网络服务提供者与平台经营者的权利冲突问题。在我国对互联网信息技术系统的传统管制中，公权力机关通常被视为监管主体，而网络平台作为主要的传播途径，却往往被忽视了其作用。随着网络技术的发展和完善，网络平台已经成为深度伪造侵权责任认定中重要的一环。现行的相关法律对于互联网平台的监管责任规定比较松散，大多是采取了事后救济的方式，难以对受害人造成的损害进行弥补。

3.2.3 事后救济机制存在缺陷

法律规制的不足之处在于其通常是一种事后规范，而对于受害者的事后救济机制则存在明显的缺陷。由于网络传播的快速性，如果没有及时、有效地清除侵权行为带来的负面影响，就会继续发酵蔓延。首先，由于数据的可删改性，被侵权人需要花费大量时间和金钱来收集、保留证据并证明数据的真实性，从而大大增加了维权成本。由于信息技术拥有者与无法获取信息技术者之间的信息不对等，导致处于劣势的被侵权人难以轻松获取掌握在信息技术拥有者手中的证据，增加了证据收集的难度。其次，违法行为所产生的代价相对较低，在未造成严重后果的情况下，侵权人或许只需承担微不足道的违法成本，例如删除伪造的音视频、道歉赔礼等，然而这种低成本、低风险的方式并不能有效地震慑侵权行为人，反而可能会助长其气焰。

4 深度伪造技术应用法律规制的完善

4.1 健全制作者和平台责任制度

首先，在制作者利用深度伪造技术生成作品的过程中，制作者应当履行告知多方权利人并征得权利人同意的义务。明确权利人知悉的范围。制作者在发布伪造生成物时，必须明确标注其伪造的属性，例如采用添加水印等方法。若制作的是深度伪造的换脸视频，那么在标注其伪造性的同时，还必须标注原视频的来源，避免对著作权和表演者权的侵害，避免用户产生误解。必须确立明确的规定，要求当制作者未能履行其披露义务时，必须承担相应的责任，包括但不限于删除伪造的生成物，否则可能会被永久封禁账号和内容等。

网络平台的监管作用是对虚假信息进行过滤和甄别的重要阵地。其应履行“通知—删除”的职责和提示、说明义务。若发现了侵权行为，应将证据保存留档，为受害者举证提供帮助。网络平台还需要提高对深度伪造内容的检测技术水平，并加强对深度伪造内容的审查力度。构建完善的数据库，以识别深度伪造的违法和不良信息内容，提高其识别和检测的准确性。在发现深度伪造技术生成物因审核失误而扩散传播时，平台应立即限制该信息的阅读、查看和转发权限，阻止虚假信息的传播。

4.2 确立多元化的监管模式

随着人工智能技术的迅猛发展，网络侵权案件数量急剧攀升。根据当前状况，应当建立以政府为主导的多元协同监管模式，确立明确的监管机构及其职责分配。同时加强对网络运营商的监管，确保网络运行安全和信息安全。网络平台需要更好地发挥自身的监管优点，从而达到对互联网信息进行实时监控的目标。利用大数据分析手段发现犯罪线索已经成为一个重要趋势。确立“黑名单”制度并收集相关数据，是必不可少的一项措施，并且大数据分析可以从不同角度对被侵权人进行分类研究。

另一方面，确立一套多元化的监督机制，建立一个公众参与的监督平台，确保在发现侵权行为时能够获得有效的举报渠道。还应该完善对举报行为的惩罚机制。为确保举报行为不受恶意干扰，应要求举报人提供初步证明，并保证对举报进行快速响应和公正的调查处理。

4.3 完善事后救济措施

在某些情况下，可以采用证明责任倒置的方式。在证明责任的分配上，立法者应该立足于权利和义务的公平，在必要时偏向于弱小一方，从而达到证明责任倒置的平衡作用。如果法律规定深度伪造技术制作者有告知当事人的义务，并要求被侵权人证明未收到通知不具有合理性，那么采用举证责任倒置的方式，制作者需要证明已履行告知义务和拥有免责事由，这样做更加合理。

另一方面，我们需要重新审视对于损害赔偿的认定。根据我国法律和司法解释的规定，对于精神损害的认定，必须遵循严格的标准，确保其达到严重损害的程度，以保障受害者的权益。在司法实践中因缺乏对此类案件的具体适用规则而导致了大量纠纷产生。对于每个人所遭受的伤害程度，其主观感受因情况而异，因此在实际操作中难以达成一致的认定标准。若将侵害行为细分为不同等级，根据其恶劣程度确定损害的大小，这种做法更具合理性，更容易统一标准。同时，推行具有惩罚性的赔偿机制，加大犯罪惩罚力度，引入惩罚性赔偿机制，加强对侵权主体的经济惩罚力度。对于那些利用深度伪造技术进行侵权行为的数据收集者、处理者或平台，应当对受害人遭受的损失加倍赔偿，这样才能够有效弥补受害者损失，同时起到犯罪警示作用。

参考文献

[1]萬志前，陈晨.深度合成技术应用的法律风险与协同规制[J].科技与法律，2021，（5）：8592.

[2]华劼.深度伪造内容著作权侵权问题研究[J].电子知识产权，2020，（4）：1624.

[3]李静宇.数字时代个人信息保护与合理使用[J].未来与发展，2022，（6）：3641.

[4]林爱珺，林倩敏.AI换脸的技术风险与多元规制[J].未来传播，2023，（1）：6069.

[5]毛宁，杨会.深度伪造技术的监管困境及其法律应对[J].长白学刊，2021，（5）：94101.

[6]文铭，孙圆圆.深度伪造技术应用风险以及法律规制研究[J].中国科技论坛，2023，（4）：158167.