深度伪造技术正在颠覆网络空间的可信性

■ 赛迪智库网络安全研究所 魏书音 刘玉琢

一、深度伪造技术特征

深度伪造是一种基于人工智能的人体图像合成技术。深度伪造技术的兴起是人工智能发展到一定阶段的产物，源于人工智能系统生成对抗网络（GAN）的进步。GAN由生成器和识别器两个相互竞争的系统组成。建立GAN的第一步是识别所需的输出，并为生成器创建一个培训数据集。一旦生成器开始创建可接受的输出内容，就可以将视频剪辑提供给识别器进行鉴别；如果鉴别出视频是假的，就会告诉生成器在创建下一个视频时需要修正的地方。根据每次的“对抗”结果，生成器会调整其制作时使用到的参数，直到鉴别器无法辨别生成作品和真迹，以此将现有图像和视频组合并叠加到源图像上生成深度伪造视频。

深度伪造视频难以鉴别。目前还没有鉴别深度伪造视频的商业工具。随着生成器越来越擅长创建假视频剪辑，鉴别器也越来越擅长识别它们。相反，随着鉴别器在识别假视频方面做得越来越好，生成器在创建假视频方面也做得越来越好。理论上，只要给GAN当前掌握的所有鉴证技术，它就能通过学习进行自我进化，规避鉴证监测。攻击会被防御反击，反过来又被更复杂的攻击所抵消。鉴别技术只可能暂时领先，深度伪造视频创造者很快就能赶上最新的检测技术。未来，生成假视频和检测假视频将持续进行“道高一尺、魔高一丈”的反复博弈。

深度伪造软件价廉且易操作，广受用户欢迎。在深度伪造出现前，视频换脸技术最早应用于电影领域，需要相对较高的技术和资金。2017年以来，该技术在“GitHub”的开源软件涌现，开发技术很容易被获取，能被不具备专业知识的普通人利用并轻易制作。制造视频并不需要很高的技巧，机器学习算法与面部映射软件相结合，伪造内容来劫持一个人的声音、面孔和身体等身份信息变得廉价而容易，普通大众一键便可制造想要的视频。

二、深度伪造技术滥用带来的安全风险

威胁国家安全和政治安全。深度伪造技术被运用在政治领域，可成为损毁国家形象、挑拨内部矛盾的武器。一是通过伪造国家领导人的图片、视频，诋毁国家形象、制造内部矛盾。二是通过拦截篡改相关事件的新闻报道，传播虚假信息，削弱对国家机构和官方新闻媒体的公信力，扰乱政治秩序。三是深度伪造技术已经滥用于情报工作。此外，还可能影响选举活动，比如在选举前故意传播虚假信息，诽谤选举人，进而影响选举的公正性。

侵犯个人肖像权、名誉权等合法权益。深度伪造技术最初被应用于色情行业。2019年出现的一键生成裸照软件DeepNude，只要输入一张完整的女性图片就可自动生成相应的裸照。受害者通常没有追索权，而且照片上传之后很难删除。这一技术会损害当事人声誉，甚至毁掉其职业生涯。对此，美国弗吉尼亚州扩大了《色情报复法》调整，已将利用深度伪造、photoshop 或其他工具制作的虚假照片、视频纳入管理范畴。

带来个人信息安全风险。深度伪造软件收集的用户照片，以及眨眼、摇头等动态行为信息，都是用户不可更改的敏感信息，一旦被非法使用，后果不堪设想。同时，被用作生物识别身份的语音也非常容易被模仿者欺骗。

三、几点思考

开展深度伪造技术安全风险评估。美国高度重视深度伪造技术的应用问题，两党议员分别在众、参两院同时提出《2019年深度伪造报告法案》（Deepfakes Report Act of 2019），要求评估深度伪造技术的安全风险。2019年6月13日，美国众议院情报委员会为此专门召开听证会，公开讨论深度伪造技术给国家、社会和个人带来的风险及防范措施。我国也应将深度伪造技术纳入新技术新应用的安全风险评估中，充分评估该技术目前的发展状况、适用领域和范围，未来发展方向和应用趋势，以及对国家安全和政治安全的影响、对公民个人权益的损害等。

制定与深度伪造技术有关的规范标准。近年来，美国陆续出台《2018年恶意伪造禁令法案》和《深度伪造责任法案》，主张对深度伪造技术进行严格限制。建议我国相关部门尽快制修订相关技术标准，明确深度伪造技术的适用范围，涉及国家安全、公共利益和公民合法权益的，要对其适用性进行明确限制，尤其是对深度伪造视频的传播应严格限制，如传播需用水印等进行标明。将伪造视频纳入违法和不良信息规制范围，严禁违法有害信息的传播；对深度伪造软件收集使用信息的行为进行评估，加强对人脸等生物识别信息的保护；明确互联网平台和伪造视频者的责任，督促互联网平台利用自身技术优势，加强对违规违法行为的管理。

强化对深度伪造鉴别技术的研发。美国国防高级研究计划局（DARPA）设立“媒体鉴证”项目，开发能够识别深度伪造视频的工具。我国相关部门在加强管理的同时，应大力促进第三方检测机构开展深度伪造监测鉴别业务，鼓励企业加大对鉴别技术研发的投入；利用区块链、电子认证签名等技术，开发相关鉴别工具。