人脸交换技术可能引发人工智能技术滥用风险

郑子亨 王哲

“Deepfakes”是“deep machine learning”（深度学习）和 “fake”（造假）的英文组合词，又被称作“深度伪造”，是一种基于深度学习的人物图像合成技术，由于Deepfakes最常见的方式就是在视频中把一张脸替换成另一张脸，因此也被称作“人脸交换” （Face swap）技术。Deepfakes算法常常被运用在图片和视频制作过程中合成新的视频或图像，目前，其技术门槛正在不断降低，非专业人员已经可以利用简单开源代码快速制作出以假乱真的视频和图像，使用Deepfakes技术制作的音视频很难被肉眼辨别真伪。Deepfakes 技术正被滥用于网络暴力、破坏政治选举、扰乱外交关系等方面，给社会和国家带来极大风险，对此，我国应予以高度重视，并提前布局积极应对。

Deepfakes技术滥用引发社会风险

Deepfakes技术正在不断演进。Deepfakes是一套基于生成对抗网络的深度学习算法模型，可以实现模拟真人声音、图像视频内容替换、图像生成等内容。目前，Deepfakes被越来越多地使用在视频领域，使用者利用Deepfakes技术可嫁接和重构视频内容特性，将视频中人脸进行替换。Deepfakes视频人脸替换实质是将视频进行逐帧处理，达到换脸的效果，整个处理流程主要包括三个步骤：一是图像预处理，二是模型训练，三是图像融合。在生成视频前，神经网络需要大量目标任务图像数据进行学习，图像的数量、质量和多元性决定了神经网络的学习效果，即学习数据越多，模拟效果越逼真。换脸技术曾长期被大型数字特效公司用于视频的制作，然而，随着Deepfakes技术的发展，使用传统技术进行换脸需要耗费的大量时间和计算资源得到极大简化。近年来，Deepfakes技術自身也在不断迭代更新，基于新型无监督视频重定向方法（Recycle-GAN）的Deepfakes算法，不仅实现了对音视频材料空间信息和时间信息的抽取，也改进了 Deepfake伪造视频的真实度，不过，该技术的应用目前尚不成熟。

Deepfakes技术滥用愈发严重。近年来，Deepfakes技术门槛不断降低，部分人将Deepfakes技术用于煽动网络暴力、破坏政治选举、扰乱外交关系、伪造虚假证据等不法用途，在“所见即真实”的认知定律下，虚假视频及新闻在社交媒体的加持下加速传播，使得 Deepfakes技术滥用的后果不断加剧。今年以来，利用Deepfakes伪造的美国政要的虚假谈话视频纷纷出现在社交媒体上，并被广泛快速传播。Deepfakes技术的恶意应用还极大影响了个人生活， 此外，Deepfakes还可被用来提供虚假证据，一些不法分子可以制作出关于企业负责人行为不当的虚假视频，以此来要挟和敲诈企业。

Deepfakes将带来一系列社会风险。Deepfakes技术的滥用会给国家、社会和个人带来极大危害。首先，Deepfake存在降低国家信誉、威胁国家安全、损害国际形象的隐患。深度伪造技术可以让虚假信息以高度可信的方式呈现给社会公众，从而操纵观众的情绪反应，引发社会广泛的不信任。其次， Deepfakes可能被敌对国家和势力利用，作为低毁政党、煽动恐怖和暴力活动、挑拨国家矛盾的工具。美国外交政策研究所认为，Deepfakes技术正被滥用于制作抹黑美国国家元首的视频，其在社交媒体上的大肆传播可能对美国2020年大选存在威胁。其次，Deepfakes 技术的滥用将对社会媒体的公信力产生动摇，加剧社会公众对记者和媒体的不信任，阻碍证据的呈现和对真相的报道，进而引发全社会的信任危机。最后，Deepfakes 技术将对个人权益造成严重损害。目前，DeepNude等应用对女性恶意污化，使受害人名誉、隐私严重受损，并使其承受着极大的精神折磨。同时，人脸识别技术已经在上班打卡、刷脸购物、支付、手机解锁等场景得到广泛应用，如果Deepfakes技术被应用于上述领域，则将对公民个人隐私、财产安全、生命安全等产生重大威胁。

技术创新和立法监管双管齐下

从算法角度看技术逐步成熟。目前对杭Deepfakes造假的新型 Al视频识别技术逐步成熟目前，研究者正在利用Deepfakes的算法漏洞研制对抗识别算法，准确度已经达到90%以上。例如，美国南加州大学的研究人员发现，用于生成Deepfakes伪造视频的主流方法都忽视了视频的连贯性，使得生成视频中的人物移动不流畅并且出现抖动情况;他们利用该漏洞，训练出基于递归卷积神经网络的深度学习模型，以人类说话时的面部移动特征为学习数据，能够自动检测视频的抖动和连贯性情况，判断Deepfakes伪造视频的准确率超过90%。加州大学伯克利分校的研究者构建了高度个人化的“软生物识别指标”，并利用这些指标来区分真实和虚假视频。他们发现，人类讲话时会以微妙但独特的方式来移动身体，每个人都有特定的运动轨迹，现有的Deepfake视频伪造技术并没有考虑该因素，而以该特征训练神经网络模型能以92%的准确率识别Deepfakes伪造的视频。此外， IBM基于Debater项目研发了Al造假探测器，并已投入使用，其客户可以利用IBMWatson Studio等各类解决方案开发高质量模型，防范包括Deepfakes在内Al造假威胁和欺诈虽然基于深度学习的 Deepfakes识别技术的发展但现有检测方法的准确率仍不能充分满足现实需求。

与此同时，区块链技术作为一种可能的溯源解决方案被提出。区块链是一种全新的分布式基础架构，具有分布式、开放性、独立性、安全性、匿名性等特点，在视频真伪鉴定领域有很大优势，不仅可以对视频发布者进行标记，并将标记值使用区块链进行存放，也可保证视频哈希值既可公开查询又无法被篡改，为用户进行视频真假校验提供了极大便利，可以作为甄别伪造视频技术的未来发展方向加以探索。

从立法角度看，各国政府积极推动建立Deepfakes的立法鉴定系统。Deepfakes的技术滥用正引起美欧各国政府监管层的重视，许多国家正在酝酿出台法律条文应对技术滥用隐患。欧盟在打击 Deepfakes产生的虚假新闻方面采取了有效的措施。2019年初，欧盟专门发布一项打击虚假新闻的战略，包括应对Deepfakes的指南。该指南强调公众参与的必要性，帮助人们更容易分辨出某条信息的来源以及可信度。欧盟委员会还要求建立一个独立的欧洲事实核查机构帮助分析网络内容的来源、创建和创建过程。美国政府高度重视反Deepfakes滥用的立法进程。2019年7月，三位美国参议员撰写公开信呼吁国家情报局局长深入调查外国政府、情报机构和个人如何利用 Deepfakes来损害美国的利益，并加以提前应对。2019年7月1日，美国弗吉尼亚州政府正式宣布扩大化的复仇色情法生效，严禁制造和传播经过“深度伪造”的内容。该法律条文覆盖了利用Deepfakes等技术制作或操纵的视频和图像等，违法者最高可判处12个月的监禁并罚款2500美元。英国政府正在酝酿出台滥用数字技术和产品的法律，专门涉及制作和分享非自愿的亲密图像，英国立法机构将重点关注复仇性质的色情视频及利用Deepfakes算法生成的色情内容。

对策建议

制定标准，明确Deepfakes的使用范围和不正当使用及其后果。 Deepfakes算法正被广泛运用于不同领域，亟需推动全社会对Deepfakes接受范围的大讨论，明确规定Deepfakes的使用范畴，帮助社交媒体规范平台管理，对内容进行合规审核。在此基础上，可借鉴欧盟打击Deepfakes等Al造假指南文件的制定过程，加强 Deepfakes概念界定和监管标准研制，增强 Al 算法的安全可控、透明可释、保护隐私、多元包容等伦理原则的可衡量性，同步建设相应的测评能力，对Deepfakes技术的侵权问题和法律界限进行约束和界定。

加强与社交媒体、新闻机构、非政府监管机构共享Deepfakes信息。可借鉴欧美等国家和地区的做法，在Deepfakes来源方面加强与社交媒体、新闻机构等平台组织的信息共享，在Deepfakes虚假新闻形成规模传播前向上述平台发出警告，并同步共享给主流新闻机构，做到事前管理、事前预警，减少虚假新闻的波及范围。例如，美国2015年通过的网络安全信息共享法案就允许平台在虚假信息传播至其他平台之前进行警告，并在虚假新闻传播至主流新闻圈前提醒新闻机构。

积极推动Al造假溯源和Deepfakes对杭技术的探索研究。目前，区块链技术在虚假视频信息溯源中的应用尚在发展早期，没有成熟应用，而Deepfakes对抗算法的创新研究成果也主要出现在美国。例如，美国国防部高级研究计划局（DARPA）正在大力投资“反Al变脸计划”，确保侦测到最先进的Al造假技术。我国应积极参与并推动上述技术的研究实践，尤其要重视将国内区块链技术的创新引导向 Al 造假的侦测、溯源和取证等方面，从而实现多主体间的信息共享和一致决策，确保信息的不可篡改和公开透明。