深度造假：人工智能时代的视觉政治

人工智能时代，后真相的社会进程并没有因为各类事实核查技术和数字赋权运动的发展而被阻止，反而借助逐渐成熟和大众化的深度学习技术应用以及以社交媒体为代表的泛在的传播设施走向新阶段。以平台控制为核心的“后真相体制”得以巩固。以多边供需机制为特征的互联网平台在自我规制或者说自我强化的过程中，也借助大数据和机器学习等自动化技术孵化新的产品形态，从而在给社会带来新的不确定性的同时，更进一步对社会加以控制。在这个过程中，技术与人的界限正在各个层面变得模糊起来，而赛博格正逐渐从想象走向现实。人工智能所俘获的已经超越了单纯的文本和图片，而是对认知更具基础性，也更具有迷惑性、煽动力和用户粘性的载体——视频和音频。这就是自2017年以来被称为“深度造假”（deepfake）的技术运动，因为借助“深度学习”技术而得此名，也被翻译为“深度伪造”。

深度造假是政治精英、技术专家和新闻媒体话语中的又一场真假对立，还是预示了一种持续的或者新的权力结构，超越了真假二元论，从而对社会产生更深刻的影响？

深度造假简史

英文语境中，“深度造假”涉及多个词汇，包括deepfake、deepfakes、deep fake、deep fakes等。其中，deepfakes是社交新闻网站Reddit的一个用户的名称，该用户因发布换脸视频和公开深度造假代码而成为热搜对象。后来，deepfake成为被更广泛使用的概念。根据Google Trends的统计分析，全球范围内对上述四个英文词的搜索在2017年11月至2019年5月期间发生了比较显著的变化。作为发明者的deepfakes主导了初期的热度，但在2018年中以后明显衰减，更具有现象学意义的deepfake一词逐渐成为最受关注的概念，并在2019年上半年掀起了另外两个搜索波峰。

大多数深度造假都依托于一种深度学习技术——生成式对抗网络（GANs）。截至目前，深度造假的技术展示大致分为换脸、唇形同步、面部复现和动作转移。由于有关GANs的研究和其他深度学习技术的公共可获得性，以及以社交网络为代表的互联网平台公司的渐次进入，深度造假的大众创造能力正在迅速蔓延，并成为一个新的技术运动，进而导致造假与打假的矛盾循环。简言之，“深度造假”指的是把图片和声音输入机器学习的算法，从而可以轻易地进行“面部操作”——把一个人的脸部轮廓和表情放置在其他任何一个人的脸上，同时利用对声音的逼真处理，制造出实为合成却看似极真的视频——用以躲避识别、混淆视听、娱乐用户，以及实现其他虚假宣传的目的。当然，这一技术并不单纯用于换脸，还被较少争议地应用在影视、健康和教育等其他行业之中。

Britt Paris和Joan Donovan在全面梳理这一技术运动的报告中提出了一个“深度造假—廉价造假”光谱，其主要标准是所使用的技术的复杂性。其中，深度造假位于光谱一端，高度依赖数据和计算，较少被大众所接触；而廉价造假位于另一端，借助一些廉价乃至免费下载的软件，消费者不需要特殊的专业知识和技术能力即可通过终端加载的调整速度、摄像头效果、更换背景等实现换脸等操作。廉价造假呈现出巨大的娱乐效果，从而进一步使造假现象及其社会效应复杂化。斯坦福大学研究员Tom Van de Weghe联合计算机、新闻等行业的专家，成立了“深度造假研究小组”，总结出深度造假发展至今的六条基本趋势，即：应用的大众化和终端化，算法的平台化，扩大的商品化，不曾停歇的猫鼠游戏，区块链技术的重要性、公众自身鉴别能力的提升。

深度造假不仅是一种技术迷思和技术景观，而且是一个充满变动的权力场域。这一场域受到多种政治、经济和技术力量的干预。自2017年出现并流行以来，关于深度造假最具代表性的怀疑论点来自被虚假信息和假新闻所动摇的理性主义真相观，尤以新闻专业主义为代表。然而，本文认为，真相的瓦解与重建并不能改变深度造假的技术趋势，需要关注的应是深度造假如何参与型构了新的平台控制，并依托怎样的经济动能完成平台的可持续再生产。

深度后真相：理性主义视野中真相的最终瓦解？

深度造假之所以被政治和社会领域所关注，恰恰是由于精确换脸对这些领域中真相的认识论的进一步瓦解，以及造成的有关传播失序的道德恐慌。始自2016年的与美国大选相关的后真相和假新闻，挑战着如今升级为更具颠覆力的深度造假，进一步挑战着传统的真相观，或者更精确地说，传统上拥有真相定义或制造权的专业权威。本文将这一新阶段称为“深度后真相”。延续理性主义的逻辑，“深度后真相”具有两个方面的特征：

第一，视觉客观性的瓦解。自从摄影术、视频、射线扫描技术出现以来，视觉文本的客观性就在法律、新闻以及其他社会领域被慢慢建立起来，成为真相存在——或者更准确地说，建构真相——的最有力证据。“眼见为实”成为这一认识论权威的最通俗表达；与此同时，视觉文本的制造者和阐释者也顺理成章地成为真相的最权威定义者和阐释者。在这个意义上，视觉客观性产自一种特定的专业权威体制。然而，深度造假的技术优势和游猎特征，使得这一专业权威体制遭遇前所未有的挑战。借助这一体制生产的视觉文本，深度造假者替换了不同乃至相反的文本内容和意涵，造成了文本的自我颠覆，也就从根本上颠覆了这一客观性或者真相的生产体制。除此之外，借助“云服务+终端”的平台化网络架构，更加廉价和智能的深度造假终端应用进一步扩大了这一体制瓦解的负面效应。对视觉文本的广泛不信任将严重影响社会的政治进程和传播秩序。

第二，新闻专业主义的自我救赎。这无疑是新闻专业主义权威在后真相时代的瓦解与重建的新阶段。面对视觉化后真相时代的到来，在更具传播力和煽动性的深度造假视频面前，传统媒体的解决方案依然是回到兼具意识形态和操作规范的专业主义。比如，为了应对深度造假的来临，《华盛顿邮报》设立了“媒体求证委员会”，汇集了视频、摄影、视觉、研究、平台和新闻编辑在内的各种力量，通过内部训练提升甄别深度造假的能力。在拥有深度学习能力的深度造假技术面前，传统媒体依然坚守了基于主客体二元论和新闻业独立性的专业主义立场，认为成就自身专业水准的那些能力依然可以保证真相的可获得性。然而，虽然拥有这些制造真相和核查真相的专业技术，但深度造假快速崛起的现实以及传播与核查之间富裕的时间差，使得传统媒体在多大程度上能够有效应对网络化生产和散布的造假视频，乃至继续扮演民主的守门人角色，成为一个难以回答的问题。当下，深度造假可能是假新闻在质量上的变化，也就是采用包括人工智能在内的更加复杂但越来越廉价和可以被用户端所轻易使用的技术，未来也可能在数量上超出以往任何时期。

简而言之，深度造假正在影响乃至控制着人们对政治世界和社会政策的认知，也因其多义性使得不同意见群体可以进行多元解释。在进一步瓦解真相的理性建构观的基础上，深度造假参与形塑着正在崛起的平台社会。在这里，人与人的互联被数据化、商品化和互联网平台的算法选择或者说算法偏见所型构。真与假的二元对立关系被替换为渠道与内容的供需关系，复杂的政治后果背后隐藏着平台经济的精明算计。

视觉控制：深度造假的政治内涵

随着深度造假被广泛使用，其侵入政治领域所激发的有关真假与民主的关系的讨论，再次加深了全社会对后真相时代的体认。2016年以来，后真相时代假新闻的出现“恰逢”全球范围内政治诚信的危机和民粹主义政治的兴起，深度造假自然也是这一“历史巧合”下的产物或者延伸，而视觉传播赋予了深度后真相以生命力。

首先，在西方，深度造假干预政党竞选并扩大政治分裂。围绕深度造假的讨论大多与2020年美国总统大选有关。2016年以来，深受假新闻和社交媒体干预的美国竞选政治，在快速发展的传播技术面前表现得异常紧张。电影人Jordan Peele曾使用深度造假技术，借用奥巴马的脸来向公众发出警示，让公众警惕深度造假的危害。但深度造假视频的病毒式传播往往早于对假视频的识别结果，尽管或早或晚会被证实造假，但在这一时间差内，造假视频借力社交媒体平台的传播效果已经显现，而改变人们已经形成的认知就变得异常困难。在这个政治语境中，深度造假并不是简单地加剧了真与假的分离，而是进一步撕裂了政治鸿沟，从而导致更加严重的社会分裂、更极化的政治立场和更激化的社会矛盾。因此，深度造假也被认为有可能成为未来虚假信息战的武器，被各方政治力量所使用。简言之，如果作为独立监督力量的传统媒体已经深陷假新闻和党派政治的漩涡，而作为替代性的网络平台也被无法追踪来源的虚假信息所充斥，甚至通过视觉造假在最基础的认知层面传递误导性信息和煽动性言论，那么，西方民主的根基——理性的公众——就面临崩塌的危险。

其次，从地缘政治的角度而言，深度造假正在威胁国家安全，其核心是对域外信息控制的担心。各国的国防系统已经成为研究深度造假的前沿力量，以提防深度造假的“武器化”。正如美国国防部联合人工智能中心主任Jack Shanahan中将所说：“深度造假是一个国家安全问题，国防部需要在能够对付它的技术上投入巨资。”美国2020年的《国防授权法案》中就提出要资助检测深度造假的技术创新，因为深度造假已经威胁到美国的国家安全。法案要求开发检测和利用深度造假的技术，以应对机器主导的媒体和潜在的外国力量利用这一技术武器，散布虚假信息以影响美国大选。与此同时，以民主党参议员Jennifer Wexton为代表的政治势力也向以脸书为代表的社交媒体施压，希望其有效甄别和控制蓄意造假的视频。由此，深度造假与国家机器的绑定更加清晰。不管是虚假视频还是其传输渠道，都成为涉及国家安全的重要方面。

再次，视觉控制除了内容造假，更涉及虚假内容的网络化传播。于是，这一项政治议程指向了社交媒体平台。社交媒体的渠道霸权和平台中立性主张往往成为深度造假产生强大传播效果和广泛政治影响的技术前提。中立是否政治无赦？一方面，从平台的外部性而言，“网络中立性”原则在美国被提出和被废止的短暂历史已经说明不同的政治立场很难在这一点上达成一致，中立往往成为一种表达立场的政治修辞；另一方面，正如Tarleton Gillespie在其《互联网的守护者》一书中所揭示的，尽管平台公司的领导者往往把自己呈现为中立的中介角色，但却无法掩盖平台组织和选择内容的事实。他将这一点描绘为平台的“不可调和的矛盾”。在这个意义上，平台孵化了深度造假的应用，也利用深度造假生产着分裂的网上公众，使后者更依赖平台进行信息发布、意见表达和运动组织。

需要注意的是，平台控制也有着丰富的地缘差异，从而导致了视觉控制的宽度和力度。如果深度造假可以依托源自北美的社交媒体体系（如脸书和推特）达到特定的政治宣传和政治动员的目的，那么在中国，具体问题就不是情绪表达乃至政治攻讦。中国虽然同样具备深度造假的技术条件和平台化水平，但虚假视频一般不会涉及政治领域，而是存在于相对去政治化的社交空间中。这显然是中国特定的政治与媒体关系、对于互联网的治理方式所决定的，但这并不意味着深度造假视频不会对中国的政治议题和政治环境产生影响，相反，它会继续以收割社交媒体流量的方式将传统媒体为代表的权威信源边缘化，从而在客观上导致政治讨论的去中心化。

平台动能：深度造假的经济价值

后真相体制是一个有关真相的游戏。游戏的基础有二，一个是高度分裂的社会，另一个是注意力经济，即网络参与的数据化和商品化。二者对互联网平台而言，缺一不可。深度造假的兴起恰恰符合这一政治经济逻辑。另外，依托应用平台和社交平台的网络化效应，深度造假正在转向“廉价造假”，其潜在的经济价值正在被各个互联网平台所发掘。

对承载着后真相时代虚假信息的散布的社交媒体平台而言，吸引注意力、增加用户粘度、成为互联网的入口，从而带来更多、更稳定流量的商业考虑往往优先于事实核验和理性辩论。在平台或者生态系统的中立性修辞表象下，对这些平台企业而言，真与假的辩证其实并不重要，对其公共性的诉求也超出了其组织承载力。与此同时，这一去政治化的实用主义商业动机也内嵌在各种算法逻辑中，从而通过作用于社交媒体时代大众的信息消费和情感表达心理，促成了特定信息的快速流通和大量消费，最终也不可避免地产生了更加广泛的政治与社会后果。这也是以荷兰学者Jose van Dijck为代表的平台社会研究者们所关心的核心问题，即如何让一个私有并且商业化运行的互联网平台系统在创新的规制体系下发挥公共服务的功能，而不是任由商业价值侵蚀公共价值。在这里，资本借由技术变成一种直接的建构性力量，造就了一个“平台资本主义”时代的到来。在这个意义上，各类应用作为平台经济的代表，本身就是资本积累的重要工具。

深度造假共享了平台社会的一系列基本原则，并逐渐演化为平台经济的一种内容商品，成为互联网企业突破增长瓶颈的新选择。按照Jose van Dijck等人的分析，平台设施在社会中的扩张依赖于其基本过程。第一，数据化，即尽可能多地、系统性地获取用户信息。对深度造假而言，这也是深度学习、机器训练的基础，社交媒体平台提供了获得数量庞大的用户视频资源的可能。第二，商品化，即将线上行为转化为可以交易的产品。深度造假的商品化首先体现在注意力经济，其本身就具有挑战既有认知框架的反常性特征，能够有效促进从点击到转发的网络行为；其次，社交平台以服务用户为名，使用用户自制内容而不需要付费，尤其是依托深度造假客户端而上传的用户视频素材和制作的合成视频。除此之外，就社交媒体平台而言，其内嵌的“技术法则”虽然出自技术专家之手，包含了技术、产品和文化的逻辑，但大多服务于其母公司（多为私营）的商业模式。而截至目前，社交媒体平台的主要商业或盈利模式，在喧嚣的技术神话和商业概念泡沫的掩盖下，矗立得像传统媒体一样古老。Jakob Rigi和Robert Prey将之总结为两个方面，即广告空间的租用和虚拟资本所期待的意外之财。通俗来说，就是广告收入和在股票市场的表现。

小结

进入人工智能为技术基础的深度后真相时代，深度造假进一步用超越人类识别力的技术，模糊了真与假的界限，并将真相开放为可加工的内容，供所有参与者使用。在这个意义上，深度造假开启的是普通人参与视觉表达的新阶段，然而，这种表达方式还会结构性地受到平台权力的影响，从而使得极端言论更容易被选择和被传播。在NiemanLab的Rubina Madan Fillion看来，“威权主义的崛起与深度造假——使用人工智能软件创造出逼真的影像——的繁荣巧合地同时出现”，与核查事实、澄清真相相比，对于偏见的确认似乎更具有影响力。换句话说，对带有偏见的影像的肯定和散布，远比获取事实来得容易。