深度伪造技术给网络可信身份管理带来的挑战与对策

孟雪 刘宗媛 李倩

摘   要：随着人工智能技术的飞速发展，基于深度学习的深度伪造技术正受到社会或业界越来越多的关注。在丰富人们文化娱乐生活的同时，深度伪造技术也引发了诸多社会问题，尤其给网络可信身份管理带来了潜在风险。随着深度伪造技术的不断进步，其引发的安全威胁和信任危机将愈加严重，采取有效措施遏制深度伪造的滥用风险已经迫在眉睫。文章首先介绍了深度伪造技术的原理和特点，接着深入剖析了其给网络可信身份管理带来的严峻挑战，最后从监管和技术层面研究，提出了有针对性的防范对策。

关键词：网络安全;人工智能;深度伪造;网络可信身份管理

中图分类号： TP399          文献标识码：A

1 引言

随着人工智能技术的飞速发展，人们的社会生活变得更加丰富和便利，然而滥用人工智能技术危害社会稳定的事件频频发生，深度伪造技术就是其中的典型代表之一。作为深度学习领域的一个分支，深度伪造技术近年来得到了创新发展，但同时也威胁着网络空间的安全，尤其是给网络可信身份管理带来了诸多风险和挑战。

2017年12月，网名为deepfakes的用户在Reddit网站上发布了一段由欧美娱乐明星面孔合成的色情视频，效果十分逼真，引发了社会巨大关注，“深度伪造”这一新兴概念也正式走进了人们的视野。自此以后，利用深度伪造技术合成的假视频，频频“登上热搜”，给个人和社会带来了诸多不良影响。

2019年8月30日，一款名为ZAO的智能換脸社交软件在国内各大应用市场上线，该应用凭借以假乱真的“换脸”效果迅速吸引了大批用户，其背后依赖的核心技术正是深度伪造。随后，不少媒体和网友指出，该应用的用户隐私协议不规范，存在数据泄露风险等安全问题。9月3日，工信部与ZAO应用的相关负责人进行了约谈，要求其开展自查整改，强化用户个人隐私保护。

可以想象，随着深度伪造技术的不断进步，其所引发的安全威胁和信任危机将愈加严重，采取有效措施遏制深度伪造的滥用风险已经迫在眉睫。

2 深度伪造技术的原理和特点

2.1 深度伪造技术的原理

深度伪造是深度学习（Deep Learning）与伪造（Fake）的合成词，其依赖的核心技术基础是深度学习，具体包括生成式对抗网络（Generative Adversarial Network，GAN）、卷积神经网络（Convolutional Neural Network，CNN）、变分自编码器（Variational AutoEncoders，VAE）等模型。深度伪造在近年来的兴起主要得益于GAN模型的不断精进，2018年提出的CycleGAN可用于在一段视频中合成伪造的人脸图像[3];2018年提出的PGGAN[4]和2019年提出的BigGAN[5]，可被用于合成高精度照片级别的图像和视频，使得人眼在有限时间内无法分辨。一个GAN包含生成器和鉴别器这两个对抗性算法，生成器首先将一段随机噪声转化为图像，然后将合成的图像和名人的真实图像一同输入到鉴别器中，鉴别器对合成图像的真伪进行判断，判断为假时，会反馈给生成器一条线索，即下次合成时“不要做什么”。起初，随机合成的图像是完全不像人的面孔，但随着两个算法无数次重复上述过程，并获得性能反馈，生成器和鉴别器的效果都会得到改善。这样，经过了足够的循环和博弈后，生成器将开始生成能够以假乱真的面孔和视频。

深度伪造技术起初专指基于深度学习算法的人体图像合成技术。随着技术的进步，深度伪造技术已经发展为包括视频伪造、声音伪造、文本伪造和面部表情合成等多维度音、视频伪造技术。深度伪造技术不仅能实现换脸，更可以通过深度学习模拟真人声音、创造出现实不存在的人物肖像。换言之，掌握了该技术的人，在理论上可以制作出任何一个人说任何话、做任何事的虚假音、视频，以达到混淆视听的目的。

2.2 深度伪造技术的特点

一是技术手段成型，使用成本低。深度伪造技术背后的核心技术支撑是深度学习算法，具有自动生成目标图像的显著特征。由于深度学习算法在人工智能领域发展迅速，其基础算法和核心代码已基本成型，且多数代码都是开源的，使用成本低，完成软件开发和制作后几乎能以零成本进行扩散。

二是效果以假乱真，辨别难度大。随着深度伪造技术的进步，伪造的效果不断提升，几乎达到了以假乱真的效果。起初，利用深度伪造技术生成的视频还可以通过面部微表情、眨眼频率等特征分辨出来，随着相关算法的不断优化，伪造产品的逼真程度得到了提升，已经让普通人甚至检测算法难以辨别真假。

三是迎合大众心理，传播速度快。基于深度伪造技术制作的伪造视频、音频等产品迎合了大众的猎奇心理，很容易借助微信、微博等社交媒体的助力，在网络上快速传播。伪造的音、视频越是搞怪、离奇、刺激，就越能引人注意，带来的流量就越大，在网络上就会传播得越快，不良影响扩散的速度也越快。

3 深度伪造技术给网络可信身份管理带来的挑战

3.1 冲击生物识别体系，身份仿冒易如反掌

近年来，基于人体生物特征的身份认证技术发展迅速，其使用便捷、安全性高，在网络可信身份的创建和管理中得到了广泛应用。然而，深度伪造技术应用最为广泛的领域正是人体生物特征的学习和伪造，现阶段已经实现了人体声音、面部、动作、表情等特征的高精度伪造，给生物识别身份认证体系带来了巨大冲击。以人脸识别为例，倘若恶意攻击者利用深度伪造技术生成了超高精度的3D人脸数据模型，那么攻击者就能轻易实现任何人的仿冒登录，直接突破由人脸识别技术保护的任何终端和系统，从前端特征采集到后端匹配验证都毫无安全性可言，整个身份认证体系将变得形同虚设。美国《财富》杂志在2019年12月的报道称，美国人工智能公司Kneron使用深度伪造技术，成功地欺骗了支付宝和微信的支付程序，并且顺利通过机场、火车站等自助终端的检验。可以说，深度伪造技术给基于生物识别的身份认证体系带来的威胁是致命的。

3.2 滋生网络诈骗行为，造成重大经济损失

深度伪造具有以假乱真的技术效应，明显地增加了网络主体现实身份鉴别的难度，为网络钓鱼、商务电子邮件攻击等网络诈骗行为滋生了土壤，造成国民财产损失。以商务电子邮件攻击为例，攻击者通常从某种网络钓鱼开始，以获取对公司网络的访问权，然后伪装成为公司的客户或者高级管理人员，通过发送电子邮件的方式欺骗组织中的关键人员将资金连接到攻击者控制的银行账户。其中，电子邮件的内容往往是利用深度伪造技术生成的文本，其行文规则和专业用语与真实商务邮件十分相似，让人难辨真假，这在一定程度上提高了诈骗的成功率，进而造成巨大的经济损失。2019年，商务电子邮件攻击在全球范围内平均每月造成的损失高达3亿美元，给企业发展和社会稳定造成了极大危害。

3.3 轻易操纵网络舆论，严重危害社会安全

深度伪造技术的成熟使得虚假信息能够以逼真的形式传达给普通民众，进而轻易操纵网络舆论，严重危害社会安全。在网络世界，恶意谣言的杀伤力是巨大的，以印度为例，仅2018年，印度全国各地就有20多人因为在WhatsAPP上被谣传绑架小孩或涉及其他罪案而被暴力打死。不可否认，深度伪造技术给虚假信息的传播提供了土壤，使得不法分子能够打着真实的幌子实施诬陷、煽动民意，轻则使被害人的名誉和财产蒙受损失，重则威胁到公民的生命安全。

3.4 网络身份真假难辨，动摇网络可信根基

网络空间本身就是虚拟的，深度伪造技术的恶意使用会进一步模糊网络空间中真实身份与伪造身份之间的界限，打破了网络用户之间的信任基础，使大家互相怀疑，从而彻底动摇网络可信身份管理的根基，进而可能造成整个网络空间的信任危机。设想一下，假如所有网络实体的真实身份都无法分辨，整个网络空间可能就会陷入到一场真相与假象之间模糊不清的混乱局面之中，网上交易、社交、信用体系等都会受到严重冲击，网络空间的安全性也就无从谈起。

4 应对深度伪造技术的几点建议

4.1 重视立法与监管，规范市场行为

对于深度伪造带来的威胁，应当秉持积极应对、严格监管的态度。国产智能换脸软件ZAO应用从一夜爆红到热度褪去、检查整改，靠的就是监管的力量。随着深度伪造技术的不断升级，网络可信身份管理面临的安全风险日益严重，必须尽快进行前瞻布局，推进立法与监管进程，进一步规范市场行为，有效地应对深度伪造技术的潜在风险。要重点做好三个方面的工作：一是要明确深度伪造产品生产主体的法律责任，对违法行为予以惩戒;二是要强化传播媒介的法律和社会责任，有效阻止恶意伪造产品的扩散;三是要建立完善的危机应对机制，避免不良影响的扩大化。

4.2 与时俱进，研究深度伪造检测技术

在深度伪造技术日益成熟的今天，信息真实性检测的重要性不言而喻。为了对抗深度伪造技术带来的不良影响，近年来，相关学者已经利用循环神经网络[11]（Recurrent Neural Networks，RNN）、成对学习[12]（Pairwise Learning）等人工智能领域的相关技术在深度伪造的检测和鉴别方面取得了不错的效果，但随着深度伪造技术的不断发展演进，深度伪造的检测难度越来越大。因此，必须加大对高效智能检测技术的研发投入和支持力度，紧跟最新技术成果，研究与时俱进的深度伪造检测技术，并应用到人脸识别等网络可信身份服务场景，在实践中检验、检测效果，实现迭代发展，以应对深度伪造技术的发展与进化。

4.3 大力发展区块链等基于密码技术的网络可信身份管理技术

深度伪造给生物识别技术的安全性带来了巨大冲击，然而其核心原理决定了它无法动摇基于密码技术构建的身份认证体系。以区块链技术为例，它在实现过程中使用了杂凑算法、电子签名等密码技术，具有去中心化、高度可信和强安全性等特点，有效保证了用户身份信息和網络行为的真实性和不可篡改性，能够在数据资产的真实性和原始性保护方面发挥重要作用。具体来说，无需权限的区块链（Permissionless Blockchain）就十分适用于深度伪造的防范和检测。在无需权限的区块链中，防篡改记录、日志和传播等行为对所有人都是公开的，任何人都可以进行实时访问，这就使得伪造的数据和行为无处遁形。HAYA R. HASAN等人[13]利用区块链技术提出了一种对网络音视频进行追踪溯源的通用解决方案，可有效验证数据资产的真实性。因此，必须高度重视并充分利用基于密码技术的身份认证技术，研究反伪造策略，推动区块链等新兴产业发展，从根源上抵御深度伪造技术给网络可信身份管理带来的威胁。

4.4 以用户为中心，加强个人隐私保护

深度学习的一大特性就是，提供的样本数据越多，对目标对象的模拟就会越准确，伪造出来的伪造视频和音频等产品就会显得越逼真。目前，流传在网上的伪造视频主要是关于明星、政客等公众人物，就是因为他们的照片和视频在网上可以轻易获取，用作伪造视频的原材料。因此，必须重视对公民个人隐私数据和敏感信息的安全保障，采纳严格的安全技术标准，出台相关的法律法规和标准规范，对用户隐私信息收集、使用以及泄露应当承担的法律责任等内容予以明确和规范，以确保网络可信身份管理工作健康运行。

5 结束语

随着人工智能技术的快速发展，基于深度学习的深度伪造技术在近几年迅速兴起，在教育、文化、娱乐等领域展现了积极的价值。然而，在丰富人们文化娱乐生活的同时，深度伪造被恶意使用的风险也逐渐显现，尤其给网络可信身份管理带来了诸多挑战。本文介绍了深度伪造技术的原理和特点，并对其给网络可信身份管理带来的风险和挑战进行了分析，最后提出了相应的防范对策。

参考文献

[1] Charlotte  Stanton.How  Should  Countries Tackle Deepfake.Carnegie Endowment for International Peace.s[EB/OL]. https：//carnegieendowment.org/2019/01/28/how-should-countries-tackle-deepfakes-pub-78221.

[2] Gangeshwar Krishnamurthy，et al. A Deep Learning Approach for Multimodal Deception Detection[J].arXiv，2018，03（44）：5-6.

[3] Henry N， Powell A， Flynn A. AI can now create fake porn， making revenge porn even more complicated[J]. The Conversation， 2018， 28.

[4] Karras T， Aila T， Laine S， et al. Progressive growing of gans for improved quality， stability， and variation[J].arXiv preprint arXiv：1710.10196， 2017.

[5] Brock A， Donahue J， Simonyan K. Large scale gan training for high fidelity natural image synthesis[J].arXiv preprint arXiv：1809.11096， 2018.

[6] Robert Chesney， Danielle Keats Citron. Deep Fakes：  A  Looming  Challenge  for  Privacy， Democracy， and National Security[EB/OL]. （2018-8- 23）. https：//papers.ssrn.com/sol3/papers.cfm？abstract_id=3213954.

[7] Greg Allen， Taniel Chan. Artificial Intelligence and National Security [EB/OL]. （2017-7）. https：//www.belfercenter.org/publication/artificial-intelligence-and-national-security.

[8] Yaohua Liang， Yanmei Fang， Shangjun Luo. Image Resampling Detection Based on Convolutional Neural Network[R]. Proc. of15th International Conference on Computational Intelligence and Security （CIS），Macao，2019.

[9] Hayley Tsukayama， India Mckinney， Jamie Williams. Congress Should Not Rush to Regulate Deepfakes [EB/OL]. （2019-6-24）. https：//www： eff.org/deeplinks/2019/06/congress-should-not-rush-regulate-deepfakes.

[10] 龍坤，马钺，朱启超. 深度伪造对国家安全的挑战及应对[J]. 信息安全与通信保密，2019（10）：21-34.

[11] Güera D， Delp E J. Deepfake video detection using recurrent neural networks[C]. 2018 15th IEEE International Conference on Advanced Video and Signal Based Surveillance （AVSS）. IEEE， 2018： 1-6.

[12] Hsu C C， Zhuang Y X， Lee C Y. Deep fake image detection based on pairwise learning[J]. Applied Sciences， 2020， 10（1）： 370.

[13] Hasan H R， Salah K. Combating deepfake videos using blockchain and smart contracts[J]. Ieee Access， 2019， 7： 41596-41606.