警惕和防范深度伪造技术危害军队政治安全

赵 阳 李京旭 廉 蔺

内容提要：深度伪造技术，是具有极高欺骗性的人工智能技术。值得警惕的是，这种技术可能被某些敌对势力所利用，威胁我军政治安全。警惕和防范深度伪造技术威胁，必须加强人员、设施和装备信息保护，抓紧伪造信息识别技术研发，严格网络平台涉军视频图像管理，强化信息发布的统一和权威性，完善网络信息安全保障法规。

人工智能技术的强大和普及，无疑将促进相关领域科研及社会经济的发展，但人工智能技术发展带来的负面影响也不容忽视。近期，美欧多国开发出多种基于人工智能的深度伪造技术，伪装性强、欺骗性高、难以监管，极有可能成为敌对势力在意识形态和思想政治领域对我军发动攻击的重要工具，对此须格外警惕、做好防范。

一、深度伪造技术可以假乱真

“深度伪造”（DeepFake）技术，是基于生成对抗网络，借助机器学习系统、神经网络技术和海量数据，将图片或视频合并叠加逼真换脸植入源图片或视频上，把个人的声音、表情及动作拼接合成肉眼难以辨识的虚假内容的人工智能技术。此项技术的出现，彻底颠覆了人们“眼见为实”的传统认知。从理论层面看，“深度伪造”技术采用了深度神经网络生成虚假图像，由于深度学习的不可解释性，我们对于虚假图像的生成过程的本质机理无法完全进行解析，只能通过生成结果存在的“瑕疵”进行识别（例如：色彩分布、线条特征、细节表情、视觉区域的光影关系、像素尺度上过度不连续、伪造区域与真实区域清晰度不匹配）。这些“瑕疵”，一是通过视觉特征统计得到，二是通过机器自主学习得到，但有效性相对有限。从工程实践层面看，一方面，由于深度学习方法不断发展，“深度伪造”技术也在不断改进，呈现出“道高一尺魔高一丈”的态势，能够用于检测的“瑕疵”，很快就会被改进的“深度伪造”技术克服；另一方面，由于算力成本不断下降，“深度伪造”技术使用门槛不断降低，该项技术不断在应用中优化完善，生成的虚假图像越来越真实，在某种程度上已经超过了人类认知识别能力。这也给识别带来了极大的挑战。

深度伪造技术已经走进大众，并被滥用。从2017年Deepfakes在网络论坛上公布“换脸”代码以来，各种深度伪造技术被广泛开发、传播和利用。由于深度伪造技术充分利用深度学习模型的自主学习能力和计算机算力优势，大大降低了伪造视频图像的制作门槛和成本，使得普通民众也能在短时间内大批量伪造出逼真的视频和图像。目前，从软件开发到数据搜集，到包装制作，到贩卖传播已经形成黑色产业链，因其引发的“深度假象”传播浪潮已经成为一个亟待解决的全球性问题。谷歌开发的人工智能软件促使伪造视频在互联网上成倍增长，大量基于谷歌人工智能库的伪造工具都是公开且免费使用。用户已经在未经人们同意或不被知情的情况下，利用深度仿冒技术将其脸部图像插入色情音像之中，更有不法之徒将众多影星名人的不雅换脸视频在网络上兜售，以获取暴利。许多欧美政要被伪造视频恶搞，特朗普、奥巴马、希拉里、普京、特雷莎·梅、默克尔等均未能幸免。最近走红网络的一种名为DeepNude的新型深度伪造软件，更是可以一键生成裸照，只要输入一张完整的女性图片，就可自动生成相应的全裸照片。非法制作假冒音像内容越来越容易，因而将为敲诈、恐吓和破坏创造大量机会。然而，深度伪造技术最可怕的应用很可能是在政治和国际事务领域。在这些领域，“深度赝品”可能会被用来制造异常有效的谎言，从而煽动暴力活动，令领导人和组织机构名誉扫地，甚至使选举结果发生逆转。

二、深度伪造技术引起世界大国高度警觉

美国是深度伪造技术的发源地，也是最先意识到深度伪造技术具有严重潜在风险的国家之一。2018年9月，美国立法人员要求情报界评估人工智能伪造技术对选举的危害，并表示：“我们非常关注这种人工智能伪造技术是否不久会被恶意外国人员所利用，通过发动虚假宣传活动等手段加剧政治和社会分裂以削弱我们国家的安全。”2019年6月13日，美国众议院情报委员会召开关于人工智能深度伪造的听证会，公开谈论了深度伪造技术对国家、社会和个人的风险及防范和应对措施。这是美国众议院首次举办专门讨论深度伪造及其他类型的AI合成技术的听证会，系统介绍深度伪造技术及解答议员的疑惑，共同探讨深度伪造技术所导致的个体人身损害、企业信誉及经济的损失、国家和公共安全受到威胁、新闻媒体行业的社会信任衰退等4类风险，提出实施深度伪造的主体限制、深度伪造的内容审核、网络平台的法律责任、信息真实性的检测、对外国人实施深度伪造行为的制裁、批判性思维的教育等6条应对之策。

俄罗斯是较早开发使用深度伪造技术的国家。近日一款名为FaceApp的软件在国外掀起热潮，这款由俄罗斯团队开发的软件可以通过你提供的照片，使用AI技术来改变你的头发、性别、年龄等特征并生成新的照片。然而，一些程序开发人员对其隐私条款提出担忧，质疑该软件私自上传用户其他照片，并滥用照片数据，为此引发了英国和美国对隐私安全的恐慌。俄罗斯外交部外交学院国际热点问题研究所主任研究员、莫斯科国立大学教授叶夫根尼·帕申采夫在接受俄罗斯卫星通讯社采访时也直言不讳：“深度伪造技术可以合成一个人的形象和声音。它已经开始用于制作各国领导人的视频图像，包括美国总统唐纳德·特朗普和俄罗斯总统弗拉基米尔·普京的图像。‘深度伪造’视频能够操纵大型目标群体的行为，并可用于信息和心理对抗，以引发金融恐慌或战争。”

中国对深度伪造技术风险的反应十分迅速。2019年4月20日，《民法典人格权编（草案）》二审稿提请十三届全国人大常委会第十次会议审议。此次的草案二审稿针对技术“换脸”侵犯自然人肖像权的问题，专门增加规定：任何组织和个人不得以利用信息技术手段伪造的方式侵害他人的肖像权。同时，将草案第八百零三条修改为：其他人格权的许可使用和自然人声音的保护，参照适用本章的有关规定。也就是说，声音也将纳入公民的法律保护范围。4月28日，中国中央电视台《世界周刊》栏目专门针对“深度伪造”制作了一期节目，全面系统地向公众介绍了深度伪造技术的原理、危害和防护方法，对提高社会防范意识发挥了重要作用。9月3日，工信部网络安全局对AI变脸软件ZAO所属公司负责人进行了问询约谈，要求其开展自查整改，强化网络数据和用户个人信息安全保护，积极防范自有业务平台被利用实施电信网络诈骗等风险隐患。

三、深度伪造技术可能威胁我军政治安全

当前，意识形态领域斗争形势尖锐复杂，特别是各种敌对势力对我军渗透破坏指向愈加明确，活动愈加猖獗。意识形态领域斗争是一场持久战，敌对势力在这个问题上很有耐力，一刻没有放松行动，正在着力研发应用新的技术，寻求突破我思想阵地的新方法、新手段。深度伪造技术极有可能被敌对势力利用，对我军思想政治领域实施攻击。

伪造党和军队高级领导的负面言行，动摇广大官兵对党的信念和对军队的信心。军人理想信念的养成与巩固，除了源自于对党的理论路线方针政策的高度认同，更为直接、更为朴素的来源便是对党的领袖、军队统帅的真挚情感和精神崇拜。以往，敌对势力常以编造故事、修改照片等方式，中伤丑化我们党、国家和军队的领导人，但由于手段拙劣、易于识破，并未在官兵中产生严重影响。然而，如果利用深度伪造技术，恶意伪造党和军队高级领导的所谓“内部讲话”“秘密会晤”以及“不雅视频”等，达到以假乱真、难辨真伪的效果，必将严重损害领导人的个人威信和组织形象，在官兵中引起思想混乱，甚至产生认知颠覆，后果难以估计。

捏造军人和军队负面新闻，挑拨军民矛盾，削弱人民军队的群众基础。人民是我党我军的血脉根基所在，只有和人民站在一起，紧紧依靠人民，我们这支军队才能不断发展壮大，才能无往不胜。近年来，敌对势力编造和炒作涉军负面新闻时有发生，诸如部队冲击政府机关、部队打砸地方娱乐场所、军人骗财骗色骗婚、军人殴打老百姓等，由于相关部门及时澄清，很快得到平息。但是，如果“有图有真相”的假新闻，配以利用深度伪造技术制作的音视频作为“证据”，一般群众可能会对此深信不疑，给辟谣、澄清和解释工作带来极大困难，必将对军人荣誉和军队形象造成极大损害，对军政军民关系构成巨大威胁。

利用敏感涉军事件，制造假场景、假人物、假活动，煽风点火、操控舆情。当前，我国正处于发展关键期和改革攻坚期，同时也是社会环境敏感期和社会矛盾凸显期。近年来，由房屋拆迁、医患纠纷、P2P暴雷以及各种维权所引发的社会群体性事件明显增多，给各地维稳工作带来很大压力。敌对势力一旦利用深度伪造技术制作军人参与事件或是军队暴力维稳的视频图像，并利用互联网进行快速传播，势必将社会舆情的矛头引向党和军队，将普通的群众维权事件演变为恶劣的社会政治事件，甚至产生国际影响。例如，香港“占中”事件中，“学运”分子利用“警察开枪、警察打人”等虚假消息，配上很多血腥暴力的虚假图片，激发观者的负面情绪，加剧了“占中”事件的扩大升级。

在战时对我实施心理战，散布假消息、炮制假文件、鼓吹假战况，以动摇军心、打击士气。心理战历来是军事斗争的重要手段，而深度伪造技术的出现给心理战的实施提供了新的利器。据悉，美军正在抓紧时间为心理战部队研制一批包括无人驾驶心理战宣传飞机在内的智能化设备，并逐步将语言模拟技术、虚拟现实技术、仿形技术和隐形技术引入实战，以提高心理战效果。由此看来，战时敌对势力很可能利用深度伪造技术，伪造我方将领统帅视频，发布假消息、假命令、假战报，扰乱我军心士气，激发民众恐慌，引发社会动荡，以达到瓦解我军意志、摧毁胜利信心的目的。

四、我军应对深度伪造技术威胁的对策提要

敌对势力利用深度伪造技术对我军思想政治领域实施攻击，手段是无所不用其极的，必须采取有效措施，全面加强防范。

加强人员、设施和装备信息保护。伪造对象的真实信息是人工智能伪造技术的基本“原料”。因此，应加大对军队人员、军事设施和武器装备的视频、音频、图像等信息发布的审查力度，降低信息暴露程度，并利用数据水印等信息保护手段，防止相关公开信息被恶意使用、合成或伪造，从数据源上提高其伪造难度。

抓紧伪造信息识别技术研发。要加强数字签名技术研究，对新产生的数据从源头上进行确权，支持数据溯源，拒绝流通环节的篡改；要加强信息鉴伪技术研究，在音调、表情、频率等技术细节上发现深度伪造信息存在的破绽；要大规模开发和共享检测工具，互换共享技术信息；要增加对检测技术研发资金的投入，激发技术创新；要发展伪造信息危害评估和测量业务，通过研究相关科学文献和发展知识储备库，决定对伪造信息的人应采取的行动。

严格网络平台涉军视频图像管理。网络服务平台应针对合成内容进行标记和分类，标记的事件和内容类别应跨平台达成行业共识。视频网站要承担起检查用户视频内容职责，对涉军视频内容的真伪及合法性进行审核，把好伪造涉军信息进入网络的第一入口；网络社交平台要能及时发现网络信息传播异常，并对相关信息进行内容审核，迅速阻断伪造涉军信息传播途径，防止涉军虚假有害信息快速扩散。

强化信息发布的统一和权威性。要建立军队信息发布的统一出口，树立军队信息发布机构的权威性，禁止任何其他媒体非法制作和发布涉军信息。有限授权资质背景较好的媒体开展涉军信息传播业务，管控好军队信息源头和传播途径，严防涉军虚假信息进入官方“主渠道”。以路径规制来识别和破除各种伪造信息，牢牢掌握判定信息真伪的公信力和决定权。

完善网络信息安全保障法规。完善《互联网新闻信息服务管理规定》相关条款，明确将涉军信息伪造及传播行为纳入网络安全法规体系重点打击对象，细化违规违法惩处措施；研究制定《军队信息安全保护条例》，规范军队人员正确使用带有拍照、录音、录像等信息采集功能的网络终端设备，重视军事信息保护；加强相关技术科普教育，使广大官兵增强伪造信息识别能力、提高伪造信息防范意识，做到不看不信不传。