深度伪造对媒体与人类的致命威胁

刘建明

【摘要】生成对抗网络伪造的假新闻与视频，正在操纵美国及多国媒体，成为人类的公害。深度伪造引起人们对假信息的担忧，对好战分子可能利用假视频引发世界大战或核战争充满恐惧。AI技术的魔兽一旦被放出笼子，对媒体的威胁已难以遏制，大量媒体的新闻专业精神已被无情地劫持。

【关键词】深度伪造;换脸技术;媒体的迷途;人类的公害

美国大量媒体以炮制假消息而闻名于世，AI技术又给其疯狂造假带来法力。2020年4月26日晚，特朗普在Twitter上转发了拜登“伸出舌头，支支吾吾地胡言乱语”一通的视频，讽刺竞选对手的愚笨无能。依照推特的规定，他不得不在视频旁贴上“深度伪造”（deepfake）的标签。[1]深度伪造技术从业余爱好的实验，演变为媒体造假的手段，已成为美国媒体危险的工具。美众议院情报委员会主席亚当·希夫（Adam  Schiff）警告说，深度造假“让恶意行动者煽动混乱、分裂或危机，有能力扰乱整个竞选活动，包括总统竞选”[2]。“深度伪造”引起民众和政界的担忧，对以假乱真的消息和绯闻深感震惊。据英国《连线》（Wired）杂志报道，自2020年7月以来，至少有10万多名女性被深度伪造创建了裸照，严重侵害了他人的隐私和名誉。

一、深度伪造技术的出炉

“深度伪造”是2014年由在苹果公司工作的伊恩·古德费罗（Ian  Goodfello）为核心的小组发明的。[3]他利用多种样本和数据，采用相互检验和匡纠模型，把不同人的身体与面孔嫁接，转而生成一个新的“真实”而活生生的视频。这种技术是信息组构和验证其真假度的两种数据程序的产物，难以发现其造假的痕迹。据英国《卫报》报道，Deepfake一词起源于2017年12月，一位自称“deepfakes”的用户制作了名为《神奇女侠》的假视频，将著名演员的脸贴在他人裸体上，以展示淫秽表演赚取流量。社交网站传播这类视频或图片，使换脸技术越来越逼真、生动和无所不能，报刊刊载这类图片并附加文字说明，种种变态被渲染得越发透彻。[4]基于AI技术的深度伪造，把若干真实的视频与音频叠加与整合，制作出逼真的虚拟作品，精妙的换脸技术成为超凡入胜的绝技。

深度伪造还可将人脸从一种性别变形到另一种性别，建模于深度模仿（Deep  learning，又译为深度学习）的数据程序，改变人物面部的眼神和笑容。整个过程通过生成器（generator）和鉴别器（discriminator）的对证，在两个数据网络的对质中生成新信息（Generative  Adversarial  Network）。鉴别器不断验证生成器新信息的罅漏，逐渐使新信息达到完全真实，当鉴别器不能识别虚拟信息与真实示例的区别时，一件严丝合缝的伪造品就出炉了。生成器作为发出受控指令的神经网络（又称为前馈），经过鉴别器的多次反馈逐步改善其象形数据的输出，新的合成信息就越加逼真。在广泛采样基础上的这种模拟过程，使伪造的视频在真假信息节点的对抗中走向匹配，所以国内通常把 Generative Adversarial Network（GAN）译为生成对抗网络。

伊恩·古德费罗和他的同事在2014年的论文中，最早介绍了生成对抗网络的原理。他使用十几个数学公式计算生成器信息函数输出的差异，使其达到最小化，而鉴别器测试数据的差异又力求最大化，让生成的伪造信息完全符合实例的原貌。[5]生成对抗网络构成自动编码器，不断调整与场景、年龄和性别相关的参数，让人物特别是政治人物说出他们在现实中没有说的话，展示他们不曾有过的动作。

音频风格在生成对抗网络中随同视频转换为频谱图，以相应的时长和频率表现声音的强度。当音频信号嵌入固定的视频中，并同人物的口型相吻合，一则伪造人物说话的视频便活起来。生成器结构作为卷积神经网络①，把一个说话者的声音变成另一个说话者的声音，或把一段乐曲从古典音乐转换成爵士乐，甚至能伪造大众欢呼的场面，使逼真的景象历历在目。2020年2月，《时代》杂志网站使用深度伪造技术，重现了马丁·路德·金在1963年6月28日发表《我有一个梦想》的演讲场景，许多用戶再次目睹了这个伟大历史的一幕。

深度伪造最初流行于娱乐、电影和广告制作，随着技术进步达到难以察觉其虚假的程度，越来越被用于新闻报道，干预现实的政治生活。一些网站和电视台不断声明使用深度伪造技术，并不是要造谣生事、蛊惑受众，而是要塑造和改善娱乐与政治的公共形象，正如有的媒体人所说：“我们从未打算让我们的软件帮助用户传播错误信息，我们只是想提高一下自己的能力。”“我们决定了一些基本规则：将在程序中专注于制作特定的基模，而不是在背景之外深度造假。只要是娱乐活动，而且是在米姆文化②范围内，我们的内容不会越过禁区。”[6]最近两年，这项技术已经被不道德地使用，在英美引起广泛争议。“从2016年起，生成对抗网络开始出现在新闻文本中，并进入公众意识，引起人们对‘越来越真实的假新闻和媒体操纵问题产生担忧。”[7]魔兽一旦被放出笼子，对媒体的威胁已无法遏制，新闻专业精神也被无情地劫持。

二、美国媒体深度伪造的泛滥

deepfakes最早是为传播色情而开发的，多用于骚扰女性，将她们的脸转换成色情视频。在第一个深度造假程序发布不久，美国红迪网（Reddit）就充斥了以名人和政客为主角的假视频。盖蒂图片社最新分析显示，每个月都有数以千计的女明星、女演员和女音乐家为主角的“露点”假视频被上传到全球最大的色情网站上，每条未经当事人同意的视频获得几百万流量，色情网站从未将其删除。

在世界最大的三家色情网站XVideos、Xnxx和xHamster上，深度造假视频一个月内就被观看数百万甚至上千万次，其访问量在整个互联网界排名前十。这些被广告包围着的色情视频，帮助美国这些网站赚钱，远远超过亚马逊和红迪网。全球首家视觉威胁检测公司（Sensity）首席执行官兼首席科学家乔治·帕特里尼（Giorgio Patrini）说，该公司最近更名为“深度追踪”（DeepTrace）公司，“除非有一个强有力的理由让色情网站关闭并过滤它们，否则我坚信什么都不会发生”。“人们仍然可以自由上传这类材料，不会给数亿人浏览的网站造成任何后果。”既然如此，大量色情网站已经肆无忌惮地使用明星的脸造假，使网上色情波涛汹涌地蔓延开来。好莱坞女演员克里斯汀·贝尔（Kristen Bell）说，当她第一次发现“伪造”用的是她自己的脸，感到十分惊讶。“即使贴上‘哦，这不是她的标签，也很难想象我被人无偿地剥削了”。[8]

美国网络上的“伪造品”呈指数级增长，2019年7月有14678个假视频，其中96%是色情内容，到2000年6月已攀升至49081件。多数假色情是在特定社区中发现的，并由这些社区创建，仅四大假色情网站的浏览量就超过1.34亿。[9]Pornhub网站发布的数据显示，它在2018年的总访问量达到335亿，平均每天访客有9200万。几年中他们总共上传了479万个假视频，消耗了4403PB流量。卡内基国际和平基金会网络政策倡议研究员乔恩·贝特曼（Jon Bateman）表示：“深度伪造作品的独特之处在于，视听元素对我们心理的影响比其他类型的媒体更大。即使在被揭穿后，社交媒体上这些‘廉价伪造品（Cheapfakes）或‘低俗伪造品（shallowfakes）也能改变公众的看法。”人工智能使媒体得心应手地操纵假新闻，让任何人都能接触到它，对公众舆论的影响很容易达到使用者的目的。

当深度伪造用于政治人物，作为美国两党互殴的手段，却成为公众嘲笑政客品德卑劣的游戏。当年特朗普战胜希拉里成为总统进入白宫，2017年网上流传一段二人对跳迪斯科舞的视频，“朗君与希妹”笑容可掬或似笑非笑地互抛飞眼，扭动腰肢，你来我往，看后让人乐不可支。2019年5月24日下午5：36，特朗普在推特上发布了众议院议长佩洛西一段经过编辑的视频，同时发表了“佩洛西在新闻发布会上口吃结巴”的推文。视频当晚在福克斯主持人多布斯的节目上播放，佩洛西在说出“监护”和“边界”等词时哆哆嗦嗦，话语含糊其辞，似乎喝醉了。这段伪造视频在网上疯传很长时间。[10]美国麻省理工学院亚历山大·阿米尼博士在2020年深度模仿入门课程的开幕式上，播放了他制作的一段视频：他邀请了前总统奥巴马参加培训班。奥巴马在视频中说：“深度模仿正在改变很多领域，从机器人到医学，以及介于两者之间的一切。我通过视频会议参加了这个课程的学习。”最后奥巴马说：“事实上我没有参加这次培训，我被伪造了，这段视频是用深度模仿和人工智能创建的。”当场的观众才恍然大悟，要不是“奥巴马”自我揭穿伪造，人们还以为他真的参加了这次培训。

美国共和党和民主党互撕其耻、互泄仇恨，常用深度伪造相互挖坑，对大众了解政治真相构成翳障。在2020年末总统大选中，为了阻止计票，特朗普和他的盟友在推特上发布了一段阴谋论的视频：有人焚烧投给特朗普的选票。这段误导视频被推特删除后，特朗普的盟友又抛出另一段假视频，好像拜登承认选民造假，共和党国会议员格林上传“拜登正在努力防止选民欺诈”的情节，渲染选举舞弊是如何在幕后策划的。经福克斯新闻主播埃里克播出后，又发布在YouTube特朗普的主页上，让更多的人对总统选举的合法性产生怀疑。

三、传授深度伪造技术的美国网站

问题的严重性还在于，美国有多个网站公开向大众传授视频伪造技术，只要掌握了这套程序，任何人在电脑上都可制作不同程度的“深度伪造”品。格蕾丝·温德海姆（Grace Windheim）大学毕业后在旧金山创业公司Kapwing担任内容创作员，负责管理YouTube频道。2020年8月初，她在谷歌Trends网站上发现了一个“Baka Mitai”的假唱视频，事后在YouTube上找到了这个造假程序，不到一天，她就将这首歌与视频同步编制了一个新版本教程。她发布视频说：“制作这些深度造假作品并叠加音频不像你想得那么复杂，深度造假用于娱乐和恶搞之间有一条微妙的界限。在本教程中，我想说的是，‘你如何制作这款特殊的深度假唱，但可怕的是，这种脚本可以用来制作任何你想要的深度伪造。”[11]温德海姆这个deepfake程序，在2020年末已经获得超过1.2亿的点击量。

深度伪造正在美国兴起，在其他国家的媒体上也在陆续出现，一些网站纷纷向用户传授深度伪造技术，用户对制作假视频感到非常“真实”和“好玩”。这类伪造品并非都用于丑化、歪曲或攻击某人，很多人用其复活历史、动态美术、自我欣赏或医学研究。只要有图片或视频资料，人们就可再现栩栩如生的场景，让文物活起来，甚至使“蒙娜丽莎”说话或发出笑声。许多用户对机器模仿、图像识别和计算机视觉发生浓厚兴趣，纷纷寻找专业网站学习深度造假技术，一时机器伪造软件在美国“洛阳纸贵”。

据美国学者比保姆·斯塔夫（Beebom Staff）介绍，美国有八个网站传授伪造技术名声在外，掌握了它们的制假程序，轻而易举就会使用换脸技术，这八个网站深受用户欢迎。[12]它们分别是：（1）Deepfakes web β（深假网β）。浏览和掌握该网站的造假技术，每小时付费两美元。（2）AvengeThem（复仇者联盟网），创建静态3D人脸模型，访问和学习该网站的技巧无须付费。（3）Reface（修脸网），展示一个名为Doublicat的深度伪造程序，指导人们制作有趣的表情包，幾秒钟就可把一张脸叠加到“动图”上。用户可以免费使用这套程序，但程序内难度大的技术需要用户付费购买。（4）MachineTube（机器筒网），开发了一款Fake App桌面应用程序，只要用户有一个带有高端GPU的电脑就能做出深度伪造视频。在该网站学习Fake App不收费。（5）DeepFaceLab（深脸实验室网），推出一个Windows程序，指导用户创建深度假视频，无须付费。（6）Deep Art（深厚艺术网）在2020年11月开发了一款走红的应用软件，根据古代建筑、绘画和历史遗迹，将任何图片变成活的艺术品，诸如梵高、达·芬奇、米开朗基罗、毕加索等画家的作品都可制成“动态”画面。选择这家网站学习，免费安装Android/iOS（移动操作系统），但程序内的高超技术仍需付费。（7）Face Swap（换脸网）不仅是一款深度造假的应用程序，还能产生3D效果。安装Android免费，安装iOS需付0.99美元。（8）微软Face Swap网，是微软公司开发的一款应用程序，使用图像识别技术交换人脸，强大的引擎可让用户瞬间换脸，不留任何瑕疵。如果用户对结果不满意，可以调整肤色、亮度和转头等动作，还可改变用户的发型、服装和动画场景。

用户用这款技术自我拍照，兴致勃勃地上传网络留影纪念，个个乐不思蜀。美国人普遍认为，媒体没有理由过滤、删除这类假视频，正如xHamster网站副总裁亚历克斯·霍金斯（Alex Hawkins）所说，“本公司对深度伪造没有具体政策，像对待其他非双方同意的内容一样对待它们”。“我们完全理解人们对深度伪造的忧虑，有人如果提出删除的要求，经过审查被认定假视频确实没有经过本人同意，我们就把它移除。”[13]深度伪造检测公司Sensity提供的数据显示，2020年前8个月每月有多达1000个深度伪造视频上传到色情网站，并向主流媒体扩散。大量媒体对深度伪造爱不释手，已经身陷招摇撞骗的迷途，不再是人类生存环境的守望者。

四、深度伪造的危害与社会风险

伪造技术引发美国人更大的担忧是，它被用来操纵政治，威胁社会与人类安全。《深度伪造与信息启示录》的作者尼娜·希克（Nina Schick）认为，美国的信息生态系统正陷入腐败，敌对玩家利用深度伪造这种腐败方式给媒体造成严重威胁。她在2020年写道：“视频长期以来被认为是最无可指责的证据，但是现在完全利用人工智能来造假，伪造品很快就能唾手可得。好莱坞女明星已经成为深度造假色情作品的对象，她们的身份被窃取，并被用于有辱人格的目的。在未来，我们无法辨别什么是真实的，什么不是。现任美国总统是一个喜欢使用‘假新闻的法西斯分子，很快我们可能会发现自己被一个能够成功部署假新闻的法西斯分子所统治。”[14]

深度伪造引发的假新闻激起人们严重的关切，尤其在2020年美国总统选举中许多新闻让人不敢相信。正如美国作家H.萝莉所说，我们进入深度造假时代，深度造假是一种合成媒介。它可以是图像，也可以是视频或文本，都是人工智能生成的。“我们现在生活在一个相当疯狂的时代，人类正面临着巨大的挑战。如果你试图通过研究双方的信息和论点建立一个有见地的观点，你会有一个令人沮丧的发现，双方对事实和现实的解释似乎完全不同。双方都认为自己看到的东西是正确的，他们不是产生幻觉或疯狂，就是一种纯粹的邪恶。”[15]新闻人对假新闻防不胜防，无法识别、无法审核，真伪难辨，媒体的权威性可能一落千丈。南卡罗莱纳大学新闻与大众传播学院院长安德里亚·希克森（Andrea Hickerson）说：“在最基本的层面，深度伪造是伪装真相的谎言，如果我们把它们当作真理或证据，我们很容易得出错误的结论，从而可能带来灾难性的后果。”“最明显的例子是，像特朗普那样的政客最广泛地使用这项技术进行自我宣传，让广大用户分享他们精心制作的谣言。尽管它是肤浅的赝品并很快会被揭穿，但人们仍然相信它。”人工智能公司Hypergiant Industries的首席执行官本·拉姆表示：“问题不一定在于GAN技术。问题是，坏人目前拥有巨大的优势，而且媒体没有適当的解决方案来应对日益增长的威胁。deepfakes变得如此严重，即使提出了解决这一问题的办法也为时已晚。”[16]

如果任何东西都可以被伪造，包括现实客观存在的证据，那么一切都可以被否认，人们的道德将沦丧得无法挽救。这是因为“深度造假似乎会带来三种主要的危险。第一种是，虚假的媒体贬低人们的智商，让受众产生错误行为，给人们造成直接损害。第二种可以说是更严重的一种，当我们都觉得自己无法再相信任何事情时，我们可能变得冷漠，拒绝承担任何社会和公民义务，或者基于完全的谎言做出糟糕的选择。第三，当任何事情都可以被令人信服地伪造时，撒谎者很容易找到欺骗的机会和逃脱的理由。”[17]

许多人敲响另一个警钟：深度造假正在渗入金融领域，支付业务出现难以识破的骗局。美国联邦贸易委员会报告称，音频深度造假很容易实施财务欺诈。2019年早些时候，一家公司的CEO被AI产生的声音欺骗，将24.3万美元转入他认为是公司供应商的银行账户上，事后才知道他被骗了。同年一家英国能源公司向诈骗分子转移了20万英镑，犯罪分子利用深度造假技术在电话中冒充德国母公司的首席执行官。求知网站公司（KnowBe4）非洲内容战略高级副总裁安娜·科拉德补充说，犯罪分子以深度伪造很容易窃取他人账户，这类软件预计在2021年会继续增长，操纵人们支付的手段将更加狡猾。“手机银行木马和恶意应用程序普遍增多，加上手机用户缺乏防范意识，金融犯罪将容易得手。”[18]

2019年一款名为“ZAO”的换脸App（应用程序）在我国网络火爆，不少网友在朋友圈、微博上分享自己换脸后的短视频。9月3日，工信部约谈“ZAO”App相关负责人，要求其开展自查整改。[19]“换脸”技术严重威胁用户的信用安全，收集、加工、存储和扩散人脸信息给人的生存带来巨大风险。在“刷脸”广泛用于生活的多种场景的今天，换脸技术已成为人类公害，用户的面部信息一旦被盗用，人们在“丢脸”之后，随之可能存款被盗、被诬陷，丧失了清白和信誉。

美国和平人士中还充斥另一种恐惧，即深度伪造一旦被好战分子利用，很可能引发世界大战或核战争。他们想象，用户使用多国军队演习的视频制作若干国家对另几个国家发动军事进攻，携带核弹头的导弹纷纷发射，飞向敌对大国。社交媒体一旦传播这样的假视频，可能引起遭受进攻的国家发起反击，一场烈焰冲天的人类浩劫就将降临。2018年初，美国夏威夷紧急事务管理局的一名员工因失误向公众发出关于核弹来袭的公告，短时间内引发巨大骚乱。[20]如果不法分子利用深度伪造发布类似虚假信息，社交媒体就成为战争的导火索，给一个国家以至全人类造成惨重的灾难。在一国之内，极端分子利用媒体发布伪造信息，进行暴力和恐怖煽动，一些民众很容易被裹挟进去，给社会带来严重的恶果。网络平台传播此类信息引发暴乱，必然要承担罪责，深度伪造对媒体的严重危害，让媒体时时都命悬一线。

深度伪造正在迅速向欧洲、印度、南美和日本扩散，不仅演艺明星、政界、企业家被污名化或遭受欺诈，普通民众也可能遭到诬陷，甚至被拖进“犯罪”的泥淖。巴西某些媒体不仅用深度伪造传播色情视频，而且编造政治家的虚假活动，引起许多人的恐慌。2019年7月25日，证人（WITNESS）媒体工作室在巴西圣保罗举办了一场名为“预防深度造假和合成媒体”的会议，讨论如何应对智能造假对国家的潜在威胁。日本樱美林大学平和博教授说：“AI换脸技术目前以超高性能的速度发展，以前需要100张照片才能做到以假乱真的换脸，现在只需要一张即可，因为这一技术被泛滥使用，换脸侵权的犯罪案件已经不仅仅局限于名人，连一般人也成为犯罪分子的目标。”[21]

五、防范深度伪造的荆棘之路

许多美国人抵制深度伪造的呼声正在高涨，从公众、科技公司到政府机构都提出媒体要把传播伪造品列为职业禁忌。研究者一致认为，预防深度伪造首先需要受众的独立思考，不断提高媒介素养，对社会现象要有敏锐的辨别力。希克森（Andrea Hickerson）说：“保护自己不被深度伪造欺骗的最好方法是永远不要只看表面现象，不能假设眼见为实。一般来说，人们在社交媒体上分享的东西都很草率，一旦看到它，应该想想它是从哪里来的，谁或什么是原始来源？”[22]

科技被用于做坏事，最好由科技的正面用途来消除，美国有些科技研究机构和公司正在开发深度伪造的检测技术。美国卡内基梅隆大学、华盛顿大学、斯坦福大学和马克斯·普朗克信息研究所（Max Planck Institute for Informatics）等机构的研究人员，都在设计如何识别伪造的软件，试图用科技消除科技的负面作用。Facebook公司已经拨款1000万美元用于检测AI造假研究，借助区块链技术追溯视频来源，在这类视频上传时进行筛选和拦截。[23]华盛顿大学和艾伦人工智能研究所的研究人员在2019年推出一款名为Grover的可控文本生成模型和一个伪文本的检测系统，用以揭露机器生成的“神经假新闻”（neural fake news），但其识别真假的能力极其有限，几乎没有媒体采用。

有人指出，随着技术的不断发展会产生更狡猾的虚假视频，检测深度伪造技术也许变得无效，打击深度伪造已经变成一场猫捉老鼠的追逐。“不管我们做什么，制造并操纵假视频的人总会想出办法。”[24]由于人工智能的对抗性质和诱导方式，当出现一个足够好的检测器时，生成模型也会随之变得更机智，力求有效地绕开它。在这个没完没了的猫捉老鼠的游戏中，只能不断争取开发更好的检测器，粉碎深度伪造对人类的威胁。

美国政界人士期待法律发挥作用，采取果断措施出台法律条文消除人类这一公害，但至今收效甚微。2019年6月12日，美国国会提出《深度伪造责任法案》（Deep fAkes Accountability Act），立法的目的是“我们需要做好准备，防范外国竞争对手利用深度伪造技术散布虚假信息，干涉选举活动”。6月28日，美国国会又通过了《2019年深度伪造报告法案》（Deepfake Report Act of 2019），要求美国国土安全部（DHS）定期发布关于深度造假技术的评估报告，回应公众对虚假信息负面影响的关切。2019年7月1日生效的美国弗吉尼亚州的反色情复仇修正法案，将“制作、传播虚假的裸體或性视频或图像”以胁迫、骚扰或恐吓他人的行为认定为刑事犯罪。加利福尼亚州、得克萨斯州和马萨诸塞州等也在研究出台相关法案来规制深度伪造。[25]但美国政界至今没有提出严厉惩治使用深度伪造技术的措施。

美国网络技术专家爱德华·西格尔（Edward Segal）综合政界、商业人士和数字技术专家的建议，提出防范深度伪造的七种途径：（1）媒体要听取社会意见，政府要对媒体传播虚假信息提出警告。（2）媒体对传播内容要事先进行自我评估。评估的重点是，哪些内容易被误解或掩盖，什么样的信息在公众中能产生强烈的共鸣，媒体防止潜在的欺诈存在什么弱点。（3）加强同社会各领域的沟通，直接与客户、其他媒体和公众对话，主动发现网络安全漏洞。（4）在信息生态系统中预先确立话语权和品牌，主动接洽第三方验证者，接受验证机构的批评与监管。（5）媒体公司的员工需要经常培训，提高鉴别伪造信息的能力。（6）对上传损害媒体声誉的视频要诉诸法律，通过法律解决问题。（7）用户上传信息违反平台的服务条款，要立即删除。[26]

令人沮丧的是，美国大部分媒体对拒绝深度伪造犹豫不决，总是想方设法留有余地。例如，2020年2月，推特尽管宣布禁止用户上传“可能影响公共安全或造成严重伤害后果”的合成视频，但只要标出“伪造品”字样，平台是否删除要视其后果。曾多次传播虚假信息和仇恨言论的Facebook，拒绝从其Instagram平台上删除首席执行官马克·扎克伯格的深度伪造视频。这是一段《华盛顿邮报》用演员的声音篡改的真实画面，脸书告诉CNN商业频道，根据新的深度造假政策，该视频不会被删除。Facebook还曾拒绝删除美国众议院议长南希·佩洛西（NancyPelosi）的虚假视频。在社会舆论的压力下，在2020年7月，脸书不得不向社会宣布，“删除任何违反其关于裸体、图像暴力、压制选民或仇恨言论规定的视频”[27]。不久，《华盛顿邮报》设立了“媒体求证委员会”（Media Forensics Committee），负责甄别深度伪造品，在评估其危害程度后才决定是否将其清除出网站和版面。

显然，深度伪造在美国媒体上兴风作浪，AI技术既无责也无罪，罪责在于使用AI技术的人及制度。美国的两极分化充斥着社会仇恨，两党你死我活的相互诬陷和攻击，以及媒体不择手段地追求流量和利润，是深度伪造在美国泛滥的根源。正如《人民日报》的评论文章《AI换脸，别只顾着好玩》指出的：“技术是中立的，但使用技术的人是有立场的。”[28]

注 释：

①参见百度百科“卷积神经网络”词条，https：//baike.baidu.com/item/卷积神经网络/17541100 ？fn=aladdin.

②参见百度百科“米姆文化”词条。

参考文献：

[1]David Covucci，Has this clip of Biden with his tongue out destroyed the fabric of democracy？ The Daily Dot，Apr 27，2020.

[2]A.B. Gray，How Deepfakes Could Literally Change the Face of Movies.Fandom，Jun 24，2019.

[3]Kristina Libby， Deepfakes Are Amazing. Theyre Also Terrifying for Our Future. Popular Mechanics，Aug 13，2020.

[4]Alex Hern， Counter hate ...The Guardian （London）， 25 Jan.2018.

[5]Ian Goodfellow，Generative adversarial networks，NIPS workshop，2014.

[6]Karen Hao，Memers are making deepfakes， and things are getting weird，MIT Technology Review，Aug 28，2020.

[7]Thomas Wood，Generative Adversarial Network.https：//deepai.org/.

[8]Matt Burgess，Porn Sites Still Wont Take Down Nonconsensual deepfakes，WIRED，Aug 30.2020.

[9]Matt Burgess，Porn Sites Still Wont Take Down Nonconsensual deepfakes，WIRED，Aug 30.2020.

[10]Carly Minsky，‘Deepfakevideos：to believe or not believe？ The financial times，Jan 26，2021.

[11]Karen Hao，Memers are making deepfakes， and things are getting weird，MIT Technology Review，Aug 28，2020.

[12]Beebom Staff，8Best Deepfake Apps and Websites You Can Try for Fun，Beebom Media，Dec 29，2020.

[13]Matt，Burgess，Porn Sites Still Wont Take Down Nonconsensual Deepfakes，WIRED，Aug 31，2020.

[14]Mike Stafford，‘Deep Fakes and the Infocalypseby Nina Schick，faithfulpundit.co.uk，Oct 14，2020.

[15]Hi Lori，Is seeing believing？Deepfakes and the information apocalypse，Oct 25，2020.https：//www.betteratenglish.com/

[16]Sam Bocetta，Deepfakes are a problem，whats the solution？AT&T Business，Aug 5，2019.

[17]Hi Lori，Is seeing believing？ Deepfakes and the information apocalypse，Oct 25，2020.https：//www.betteratenglish.com/

[18]Schalk Burger，KnowBe4 warns of AI，deepfakes in social engineering attacks this year.Jan 27，2021.

[19]工信部就“ZAO”App網络数据安全问题开展问询约谈[N].人民日报，2019-09-04.

[20]曹建峰.深度伪造技术的法律挑战及应对[J].信息安全与通信保密，2019（10）：35-40.

[21]在日本的AI换脸，滋生各种问题[EB/OL].https：//www.sohu.com/a/376201060_100207483.

[22]Kristina Libby，Deepfakes Are Amazing. Theyre Also Terrifying for Our Future. Popular Mechanics，Aug 13，2020.

[23]苗争鸣.可怕的“深度伪造”技术[J].世界知识，2019（22）：70-71.

[24]Madison Latiolas，Deepfakes，LSU Faculty Websites，Jan 2021.

[25]BBC：Virginia bans‘deepfakesand‘deepnudespornography （2019-07-02）.https：//www.bbc.com/news/technology-48839758

[26]Edward Segal，Deepfakes：7Ways To Guard Against This New Form Of Disinformation，Forbes.com，Jan 11，2021.

[27]Hadas Gold，Facebook tries to curb deepfake videos as 2020 election heats up ，CNN Business（2020-01-07）.

[28]叶子.AI换脸，别只顾着好玩[N].人民日报（海外版），2019-09-08.

（作者为清华大学新闻与传播学院教授）

编校：董方晓