后真相时代深度伪造技术的信任问题与信任重构

刁生富, 曹兰兰,吴选红

(1.佛山科学技术学院 广东 佛山 528000;2.广东理工学院 广东 肇庆 526100)

深度伪造(Deepfake)作为人工智能的一个技术分支,得益于大数据、神经网络等技术的支撑,在其发展过程中逐渐演化为一种用于制造虚假内容的新型智能技术。随着深度伪造技术在网络空间中的运用愈来愈广泛,其与网络舆论的纠葛也愈加复杂难解,一些“后真相”现象的出现正是这种复杂环境的产物。在后真相时代,深度伪造技术借助大量数据,生成众多虚假视频,增加了人们的认知负担,使得社会公众对那些真实的视频内容无法信任,因而极大地冲击了社会信任体系。如何减少后真相时代深度伪造技术的信任问题和推进后真相时代深度伪造技术的信任重构,已成为一个具有重要现实意义的课题。

一、深度伪造技术与后真相时代的来临

(一)后真相时代的来临

1992年,史蒂夫·特西奇在《政府的谎言》一文中正式提出“后真相”一词(1)Tesich S..A Government of Lies,Nation,1992,254(01):pp.12-14.,用来专指政府引导公众舆论走向的行为。2004年,拉尔夫·凯斯在《后真相时代:现代生活的虚假和欺骗》一文中进一步讨论和界定了“后真相”的概念。2016年,“后真相”一词频繁出现,成为《牛津词典》的年度热词,很快被人们所接受(2)刘长喜,侯劭勋,等:《正能量与后真相》,东方出版中心,2019年,第3页。。如今,随着网络时代的不断发展,“后真相”一词在我国引起广泛关注,通常是指用情感隐蔽现实、感性掩盖真相进而造成的虚假或错误现象。

后真相作为一种世态现象,与整个时代发展状况息息相关,尤其是伴随着网络空间的不断拓展和人们在虚拟环境中投入时间的不断增多而愈发呈现出其舆论特色。在现代社会发展过程中,一方面人们极易受社交媒体传播的信息影响,误把谣言当作事实,在经受社交媒体虚假信息多次欺骗后,人们对社交媒体的信任逐渐丧失,且将自己的受骗经历无限放大,导致社交媒体被污名化;另一方面,人们明知有些信息不合实际,却因为它在传播媒介上标注了官方、警方通报等字眼或这种信息迎合了人们的某种情绪和利益诉求,因而未经证实依然凭借自身经验坚持选择了相信(3)全燕:《“后真相时代”社交网络的信任异化现象研究》,《南京社会科学》,2017年第7期。。在后真相时代,人们极易掉入寻求“真相”的旋涡中,如果说真相是指事物的本来面貌,那么“后真相”则可以理解为怀疑与信任、希望与失望、无畏与恐惧等的混合体,其繁杂无章着实令人惊叹。

(二)后真相时代深度伪造技术的普及与发展

深度伪造的产生和普及与人工智能深度学习技术的发展和智能设备的广泛应用密切相关。当下配备高质量数码相机的智能手机的普及,加上与深度学习AI平台相结合,可以方便地下载使用各种用于录制、编辑和共享视频和数字图像的应用程序,催生了一种新的伪造视频现象——“Deepfake”(4)Jafar M T , Ababneh M , Al-Zoube M ,et al. Forensics and Analysis of Deepfake Videos, 2020 11th International Conference on Information and Communication Systems (ICICS). 2020.。“Deepfake”指的是使用人工智能技术操纵的视频。如今,深度伪造技术已经成为各国政府关注的问题,并且随着技术的日趋成熟,“深度伪造”逐渐成为“视频换脸”的代名词,这不仅给人脸识别技术带来巨大的考验,而且也给社会带来了诸多问题。

首先,信息扭曲的后真相时代为深度伪造技术的发展搭建了桥梁。在这个充满不确定性的时代,社会公众主要通过社交媒体来获取信息,人们认识世界的方式随着社交媒体的快速发展发生了改变。虽然社交媒体给社会公众带来了很多好处,但是也带来了诸多问题,如网络空间信息过载、难以挖掘有价值的信息、信息处理效率低下、信息真假难辨等。另外,随着人工智能技术的快速发展,很多视频可以通过深度伪造技术进行伪造或合成,以至于很多受过专业训练的人士都很难区分真假视频和发现其中的“窍门”。基于后真相时代信息的扭曲以及真假信息的混乱,人们难以辨别事实的真相,再加上深度伪造技术自身的高度仿真性,使得二者极易融合,为深度伪造技术的快速发展提供了契机。

其次,深度伪造视频的泛滥加速了后真相时代的发展。随着人工智能时代的来临,深度伪造技术门槛愈来愈低,只要有网络的地方,深度伪造视频就会随着网络传播迅速传遍世界的每一个角落,如今,生成性对抗网络的最新进展使得检测深度伪造视频成为一项具有挑战性的任务(5)Fernandes S ,Raj S,Ewetz R,et al.Detecting Deepfake Videos using Attribution-Based Confidence Metric,2020 IEEE/CVF Conference on Computer Vision and Pattern Recognition Workshops (CVPRW). IEEE, 2020.。“后真相”与“信任”有着十分紧密的联系,社会信任的缺失助推后真相时代的来临,加速后真相时代的发展,而后真相时代又进一步导致社会信任出现异化。近年来,社会公众对传统媒体不断疏离,为以短视频为主要形式的新兴媒体提供了发展契机,短视频运营者利用深度伪造技术的高度仿真性,将其应用在虚假视频的制作过程中,将虚假信息呈现给社会公众,驱动社会公众的情绪,降低其对社会的信任度,恶化社会信任生态。当社会公众意识到自己无法辨别视频信息真假时,就会对任何信息产生怀疑和不信任,这无疑会极大地冲击社会信任体系,进而助推后真相时代的发展。

二、后真相时代深度伪造技术的信任问题

在后真相时代,社交媒体作为人们彼此之间用来沟通交流和分享观点的工具和平台,不断改变着社会公众沟通和认知世界的方式,且极易与深度伪造技术相结合,使得很多未经专业训练的公众很难区分和发现其虚假性,久而久之便会引发对社交媒体的信任问题,导致后真相时代社交媒体的污名化。

(一)行业混乱导致媒体信任度降低

随着人工智能技术的迅速发展与移动智能终端的广泛普及,短视频这一新型媒体迅速崛起和流行,而短视频的迅速崛起和流行也为深度伪造技术发展提供了便利的应用场景,“深度伪造”短视频应运而生(6)黎梦兵,吴勇:《新媒体的社会信任问题研究:基于“深度伪造”短视频视角》,《理论月刊》,2020年第12期。。较一般技术而言,深度伪造技术具有很多优点,短视频运营者为了增加用户量,满足社会公众的主观需求,不考虑视频内容的真实性,借用深度伪造技术定期更新来博取更多的关注,以达到获取高额利润的目的,这在一定程度上造成了媒体行业的混乱。如今,“深度伪造”短视频借助新媒体进行广泛传播在很大程度上导致了媒体信任度降低。一方面,新媒体形式丰富多样,各种短视频App不断出现,并迅速成为后真相时代社会公众获取信息的重要渠道。“深度伪造”短视频制作者借助新媒体广泛传播视频内容,容易引起社会公众的关注,获得社会公众的认同,一旦社会公众发现视频内容存在虚假信息,便会怀疑新媒体上的信息真实性,从而导致社会公众对媒体信任度降低。另一方面,短视频因其制作的自主性与参与的广泛性、内容的即时性与海量性、沟通与交流的实时性等特征,不断流行在社会之中,其用户量也在不断扩大。当“深度伪造”短视频借助新媒体在社会进行广泛传播时,极易引起假视频、假图片、假新闻的严重泛滥,对新媒体的社会信任度造成不可弥补的伤害。

(二)政府组织逐渐陷入“塔西佗陷阱”

“塔西佗陷阱”最早出自古罗马时代塔西佗所著《历史》,后来学界将其定义为:一旦政府部门丢失社会公众的信任,无论政府部门采取什么措施和手段,都会被认为是在危害公众利益(7)蒋沐淋:《信任的危机:后真相时代与塔西佗陷阱》,《记者观察》,2019年第36期。。在后真相时代,一方面,人们在日常生活中大多是通过社交媒体来获取政府信息,社会公众接触到的政府信息是有限的;另一方面,人们目前面临着人工智能合成的深度伪造视频这一新兴问题,这类视频可能会存在对隐私的威胁、欺诈等(8)Maksutov A , et al. Methods of Deepfake Detection Based on Machine Learning,2020 IEEE Conference of Russian Young Researchers in Electrical and Electronic Engineering,IEEE, 2020.。在社会生活中,社会矛盾的激化使得社会公众渐失耐心,把一些经常出现的问题全部归因于政府,反复拷问着政府的公信力。当政府不能向社会公众及时公布事情真相,谣言就会蜂拥而至,扰乱社会舆论的走向,左右公众的判断方向,最终养成“塔西佗陷阱”土壤(9)李季芳:《网络时代,如何破解“塔西佗陷阱”舆论怪圈》,《中国工商管理研究》,2013年第7期。。当社会公众对政府的信任度降低之后,“塔西佗陷阱”也将成为政府未来发展的必然进程。

(三)社会诚信体系遭到侵害和腐蚀

长期以来,在人们的传统观念里,相较容易失真的照片而言,视频具有一定真实性。但随着人脸合成视频生成技术迅速发展,基于深度伪造技术制作的虚假视频具有超真实性,这种技术导致人们对视频内容失去信任。近年来,信息自由流动加上社交网络的“放大器”效应,使得传统新闻来源模式受到冲击,传统信息分发模式被颠覆,而以“深度伪造”为代表的技术异化也正在加速这一趋势(10)Chang X, et al. DeepFake Face Image Detection based on Improved VGG Convolutional Neural Network,2020 39th Chinese Control Conference (CCC),2020.。事实上,深度伪造技术迅速发展所带来的消极影响不仅是社会公众会被欺骗,更可怕的是社会公众会把所有事物包括一些真实的信息都当成是欺骗,从而对社会的一切都充满了不信任。如今,深度伪造视频通过伪造信息取代科学知识,达到歪曲事实的目的,而当前政府科研机构技术检测能力有限,检测尚未完全形成自动化,对信息检测不够及时,社会公众往往也不会主动探查虚假信息的来源,再加上自媒体行业门槛低,社会公众极易接触各类来源不明的信息,结果导致个人信任建构出现冲突和矛盾,从而使得整个社会的诚信体系遭到侵害和腐蚀。

三、后真相时代深度伪造技术的信任重构

深度伪造技术在后真相时代快速发展和广泛应用,给社会信任带来了很大的冲击。为应对深度伪造技术带来的社会信任问题,必须重构技术信任,加快社会信用体系建设,以减轻后真相时代深度伪造技术的信任影响。

(一)建立道德共识,塑造行业自律能力

首先,治理机构是网络谣言治理的组织基础,要提升我国的社会信任水平,从政府角度来讲,需要加强社会制度规范建设,提升政府管理水平,设立权威治理机构,实现网络法律治理;从社会角度来讲,需要加强公民道德教育,提升公民的个人素质(11)张云武:《重建社会信任》,浙江大学出版社, 2015年,第40页。。诚信是与遵守一定的伦理或道德准则有关的概念,社会诚信则是社会公众对社会伦理准则的遵守。视频制作用户不仅是深度伪造技术的创造者和使用者,更是社会公众的一员,必须严格按照规范性文件制作视频,不得在视频制作过程中为了谋取个人利益进而侵犯他人合法权益,更不得使用深度伪造技术来歪曲事实、传播非真实信息、违法乱纪等。

其次,要明确深度伪造技术的应用范围。科学技术是一把双刃剑,虽然新颖的数字技术让人们享受到更多的数字成果,但是也使得人们越来越难以辨别数字信息的真实性(12)Xia J , Hua M . Numerical Analysis and Optimization Application Trend of Deepfake Video Inspection Technology,Journal of Physics: Conference Series, 2021, 1746(01),pp.12-68.。因此,对于深度伪造技术的应用,我们要采取辩证的眼光看问题,既要正视技术的经济价值,也不能忽视技术给社会带来的负面影响,要在一定程度上提高技术应用的门槛,对深度伪造技术的使用范围进行限定。目前虽然我国没有针对深度伪造技术进行明确的单独立法,但早前的一些软件被要求强制下架,从侧面说明了监管者对于深度伪造技术的应用是一直持有怀疑态度的。因此,视频制作者需要时刻警醒自己,不能抱有侥幸心理,不仅要明确深度伪造技术的应用范围,更要自觉遵守相关技术的合理应用范围,进而营造良好行业氛围。

最后,通过事前预防的手段,譬如对“深度伪造”视频进行标记并设置转载权限、在传播信息的末尾备注“合成视频”等,利用标记或备注的方式来提醒社会公众视频信息非真实信息,需加以求证才能相信和传播,以免造成不必要的误解。一般来说,“深度伪造”视频的仿真性较高,且观看视频的潜在用户群体庞大,随着时代的发展,未来的“深度伪造”视频可能会呈现出更强的迷惑性、欺骗性、随机性以及毁坏性等特征,监管难度将会变得愈来愈大。因此,视频制作者利用深度伪造技术合成视频时一定要注意在视频明显位置添加水印或备注对合成视频进行标记,以便于社会公众不被合成视频中的非真实信息所误导,同时了解视频的来源和区分视频的真伪。

(二)完善社交媒体的监督措施,提高政府的公信力

首先,目前我国对于社交媒体监管方面的法律法规尚未完善,没有明确规定各个监管机构的相应责任,导致监管机构缺乏主动性。在对社交媒体进行监管时比较消极被动,且“深度伪造”视频的观看者数量较大,一旦视频被发布便能在社交媒体迅速传播,这时监管机构意识到问题出现再对“深度伪造”视频进行监管实属亡羊补牢,监管的作用与意义难以发挥到实处。因此,要提升我国的社会信任水平,当前必须建立维持信任的制度约束机制,将各类经济活动参与者放置在相互权力监督的关系中。另外,相关法律法规的制定不仅要明确监管主体,还要明确规定各个监管机构的相应责任,以便于日后由于消极监管或监管不严造成虚假视频的泛滥,来对特定的监管机构予以追责,确保其积极主动履行职责,维护社会秩序。

其次,政府要改变自身态度,积极接受网络诚信监督。在日常生活中,人们大多是通过社交媒体来获取有关政府的信息,但由于深度伪造视频泛滥且通过网络不断传播,引发了人们对社交媒体在现代社会中如何有效发挥作用的担忧(13)Fraga-Lamas P , Fernandez-Carames T M . Fake News, Disinformation, and Deepfakes: Leveraging Distributed Ledger Technologies and Blockchain to Combat Digital Deception and Counterfeit Reality,IT Professional, 2020, 22(02),pp.53-59.,即便是社交媒体上有关政府的真实内容也难以让社会公众信服,这已经对现实的中国社会产生了深刻的影响。因此,政府部门要利用好网络时代带来的历史机遇,增强政府公信力,正确对待网络社会对现实社会的监督,以积极的态度应对网络,充分利用网络带来的有利条件,积极和网民互动,参与网络的共建和管理(14)傅思明,钱刚:《诚信政府与领导干部公信力提升》,东方出版社,2013年,第199-200页。。只有这样,才能切实提高政府部门的公信力。

最后,在后真相时代,人们对事实真相更容易感到不确定,虽不一定完全是被“深度伪造”视频误导,但由此产生的不确定性却大大降低了人们对“深度伪造”视频的传播媒介——社交媒体的信任(15)Vaccari C , Chadwick A . Deepfakes and Disinformation: Exploring the Impact of Synthetic Political Video on Deception, Uncertainty, and Trust in News,Social Media,2020, 6(01),pp.1-13.。在其他国家,将利用社交媒体和基于人工智能的应用程序来获取包含复仇、色情和假冒伪劣等新奇内容的有关现象定为犯罪的监管讨论已经逐渐展开(16)Sorbán K. A bosszúpornó és deepfake pornográfia büntetjogi fenyegetettségének szükségességérl,Belügyi Szemle, 2020, 68(10),pp.81-104.。而就目前来说,我国现有的法律存在监管主体不明、监管机构责任不确定等问题,很难实现有效的监管。因此,对于深度伪造视频引发的一系列信任问题,我们应该有目的、有计划、分步骤地完善相关立法,降低立法等级,先在地方进行试行,观察地方试行情况,在地方试行稳定后提高立法等级,在全国范围内试行,进而做好社交媒体的法律监管。

(三)培育社会公众的信息素养,提高自身鉴别能力

首先,在后真相时代,做好信息素养教育是预防虚假视频给社会带来消极影响的重要途径之一。“信息素养”是人们在后真相时代面对深度伪造视频泛滥必须具备的一种基本能力,同时也是面对多种多样的信息时所表现出来的心理状态(17)康桂英:《大数据时代大学生信息素养与科研创新》,北京理工大学出版社,2019年,第1-2页。。当今社会,人们对深度伪造的认知因社交媒体使用的强度和类型而异,虽然人们对深度伪造的担忧显而易见,认为深度伪造技术会给社会带来一定的消极影响,对技术解决深度伪造视频问题的能力信心不足,但这并没有磨灭社会公众想要拥有识别深度伪造视频技术的愿望(18)Cochran J D,Napshin S A. Deepfakes: Awareness,Concerns,and Platform Accountability.Cyberpsychology,Behavior,and Social Networking,2021,24(03),pp.164-172.。因此,我们应该转变观念,重视对社会公众信息素养的教育与培养,提高社会公众辨别视频真假的能力。

其次,从整体而言,现实中社会公众对于自身信息素养的教育与培养缺乏必要的关注与重视。随着互联网技术的迅速发展,数据收集系统不断普及与革新,数据的集中涌现催生了大数据时代。信息素养的内涵随着大数据时代的到来得到了更新和丰富,开启了信息素养的新篇章(19)陈晓红:《大数据时代的信息素养教育理论与实践》,西南交通大学出版社,2017年,第25页。。因此,如何培养社会公众在接收信息之前主动具有批判性的意识,是我们面临的巨大挑战。一般而言,培养社会公众的信息素养可以从以下两个方面入手:第一,采取有效措施帮助社会公众养成在接受信息之前进行批判性的检查习惯,潜意识里形成“眼见不为实”的观念。第二,帮助社会公众提高对视频来源和视频制作者身份识别的能力,进而提高社会公众对视频内容进行真假判断的能力。

最后,社会公众要主动接受信息素养教育,提升自身鉴别能力。从某种程度上讲,社会公众在信息传播过程中扮演着双重角色,既是信任主体,是信息的主要受众,会因“深度伪造”视频的非真实信息而产生对社交媒体的不信任;同时又是信任客体,在信息传播过程中起着十分重要的作用。信息素养教育是一项大工程,它绝不是某个部门单独完成的工作,而是需要多个单位和部门,如图书馆、信息中心及教务管理部门等合作完成的工作,只有团队协作共同努力才能取得较好的效果(20)唐伦刚,储冬红:《大学生信息素养教育》,华中科技大学出版社,2015年,第19页。。因此,在信息素养教育问题上,不仅是教育部门,其他部门和单位也要加强团队合作,配合教育部门工作一起共同努力来帮助社会公众提升自身信息素养。与此同时,社会公众也要主动接受相关教育来提升自身的信息素养,不断提高对“深度伪造”视频的鉴别能力,避免盲目传播非真实信息而成为虚假视频肆意泛滥的帮手。只有这样,才能减少后真相时代深度伪造技术给社会带来的信任问题,促进社会更好地发展。

(四)规范技术自身的发展方向,加大协同共治力度

首先,规范发展方向,实现技术“良芯”。在后真相时代,人工智能的飞速发展为短视频的发展提供了契机,但一些制作者巧妙利用这一契机,违背社会道德,将深度伪造技术打造成获取利益的工具。这不仅会让社会公众对深度伪造技术产生怀疑,还会给社会带来一系列信任问题,不断侵蚀社会诚信体系。目前,针对深度伪造所引起的技术信任问题,学界提出很多观点和看法,但大多数都是建立在对技术不信任的基础之上,要求从外部对技术进行管控,从而使技术向善发展。与此同时,也决不能忽视内部因素的影响,深度伪造技术借助后真相时代发展变化之势引发的信任问题,自然还是需要技术的内部发展来解决。“机体算法”是人工智能的道德算法的内容之一,“机体算法”的现实操作性是道德人工智能健康发展的前提(21)何江新,张萍萍:《从“算法信任”到“人机信任”路径研究》,《自然辩证法研究》,2020年第11期。,作为人工智能的一个分支技术,深度伪造技术的管控必须从人工智能的“机体算法”入手,在设计人工智能的“机体算法”时,要对“机体算法”的设计者进行人品上的监督,严格入职管理机制,让思想道德品质良好的设计者去设定“机体算法”;在短视频运营者利用深度伪造技术来制作短视频时,要对其资格进行审查,排除品行不好的利益相关者,对其制作过程进行监督,防止其将深度伪造技术作为谋取个人利益的工具,从而实现真正意义上的技术“良芯”。

其次,引进新型技术,夯实信任基础。以往,政府组织将社会上的一些信息经过严格筛选和确认,最后甄选出有用的信息投放给社会公众,这些信息成为社会公众与政府之间互动互信的基础,是社会公众行动的依据。在后真相时代,信息的筛选与确认需要花费更多人力、物力和财力,依靠政府等机构组织来获取信息的方式已经不能满足社会发展的现状。深度伪造短视频借助后真相时代信息真假难辨之势广泛传播虚假信息,蒙骗社会公众,长此以往,一旦社会公众发现自己日常生活中所接触到的信息是虚假的,便会对政府部门产生怀疑,政府公信力受到了考验。中国特色社会主义进入新时代,“区块链+社会治理”的发展思路应运而生(22)季乃礼,兰金奕:《三元悖论视角下的区块链信任与社会治理研究》,《山东科技大学学报》(社会科学版),2020年第5期。。区块链是人们第一次采用技术手段来解决信任问题,具有透明度高、数据可溯、去信任等特征(23)Wattana V,Tharwon A ,Danupol H．When blockchain meets Internet of Things: Characteristics,challenges,and business opportunities,Journal of Industrial Information Integration,2019,15(C),pp.21-28．,其去信任的特征尤为值得关注。在后真相时代下,如何夯实政府公信力的问题,一直都是让我们纠结的难题,沿着区块链解决信任问题的思路,可以将区块链技术引进信息处理中,对社会公众所面临的大量信息进行筛选与确认,为社会公众提供真实的信息,重塑其对政府的信任,从而夯实信任基础。

最后,改变传统观念,重视反向治理研究。目前,深度伪造技术被短视频运营者利用,成为吸引用户、增加客流量、获取高额利润的手段。对于这种局面,很多研究人员已经意识到,虽然我们对技术领域的成功追求可能给社会带来前所未有的利益,但也要注意有意识地减少或避免其潜藏的危害。2014年,生命未来研究所在美国波士顿成立,专门致力于保卫生命与促进未来发展的研究,协助人类在探索科技创新的道路上不断前进。针对很多企业对人工智能技术进行大幅度投资的状况,生命未来研究所提出“对于技术方面的有关研究不仅要从计算机科学的角度开展,还要从信息安全、经济以及法律的角度进行”的建议。传统权力观把公共治理活动视为自上而下的选择、发布和执行治理命令的单向过程,忽视了自下而上的反向治理问题。因此,在面对技术研究时,我们要改变传统观念,重视反向治理,充分发挥多主体、多手段协同共治的重要作用。同时应保持开放包容的心态,主动学习和借鉴一切有利于深度伪造技术发展的有益经验,从多方面多角度对深度伪造技术开展研究,以此来突破深度伪造技术带来的信任问题,确保深度伪造技术在发展中的可信任、可预期和可管控。