基于深度学习的互联网虚假信息识别研究

刘建强 卢为党 黄国兴 马宁

1. 军事科学院战争研究院 北京 100091；

2. 浙江工业大学信息工程学院 杭州 310023

引言

互联网虚假信息是近年来在高新技术领域凸显出的网络舆情样式[1]，主要以国外机构和研究人员夸大、伪造研究成果的影响力，质疑、诋毁国内科研成果和专家等形式呈现，也包括国内相关专家学者编造夸大本人及团队研究效用，误导国家科技管理部门在立项、评奖、人才培养等方面产生决策误差，进而产生了巨大损失。近年来互联网虚假信息成为学术界研究的热点，Hindman等[2]以推特为例，对互联网虚假信息在社交媒体中的成因和影响进行了介绍，详细阐述了互联网虚假信息可能造成的严重后果。Bradshaw[3]针对互联网虚假信息对于国家安全的危害进行了分析，文中表明许多国家都成立了专门从事舆论干涉的网军，用以掌握国际媒体言论，从而误导他国国家战略的目的。文献[4-6]针对互联网虚假信息的概念和诱导决策方法进行了梳理。互联网虚假信息的主要迷惑对象是国家情报部门和领导决策层，随着大数据分析、推荐算法等技术的快速发展，互联网虚假信息的迷惑性得到极大增强，并且可以精准定位受众目标。同时由于自媒体、短视频等传媒方式的兴起，舆论的发布愈加轻量化。这些因素都无形间增加了预防互联网虚假信息的成本。

当前，网络虚假信息的检测手段主要是使用特征工程的手段，即根据专家或者经验总结设计的虚假信息特征，如语言特征、传播特征等，再采用支持向量机、随机森林等机器学习方法对信息进行真假分类。这种基于特征提取的方法可以充分地利用专家总结的经验和知识，但缺点在于这种方法需要人工手动提取特征，无法自动从大规模互联网数据中自动挖掘特征。而网络虚假信息与垃圾邮件或广告类似，其技术、手段和形式也在不断更新换代，而这些专家总结的特征很难做到与时俱进，应对新出现的虚假信息形式。另一方面，随着近年来深度学习的迅猛发展，使用自然语言处理利用分布式架构学习大规模数据集合信息的低维特征向量表示。低维向量空间中的位置信息，以及学习到向量之间的相对距离反映了原始对象（如词、句子、文档）的语义相关度。通过聚类分析等方法对信息中潜在的威胁进行分析预警。但此种方法存在以下几个缺陷，首先对于同样使用神经网络进行的深度伪造（Deep Fake）信息识别准确度低，其次，只能检测数据库已收录的虚假信息种类，尚未收录的新种类仍然需要通过人工检测。另外，人工智能模型潜在的算法偏见、缺乏算法透明度和可解释性的缺陷可能导致识别出错。

当前国内外针对网络虚假信息的识别方法，主要集中在建立用户画像以及针对基于网络评论的信息识别。马超[7]使用Facebook数据集，利用随机游走算法，基于主题模型对社交网络中的用户画像分析方法进行研究，实现了对于重点用户的特征构建。李雅坤[8]基于微博平台和用户数据，利用大数据技术建立用户画像模型，构建群体特征，可以对敏感用户群体进行定位，同时生成特定的用户标签，方便对于用户的精准把控。特征画像的问题在于，需要为重点人群、群体提供多方位、全面的用户数据，数据收集成本较高。同时该方法对于长期保有用户的账号效果较好，对于网络水军短期快速注册的机器人新账号，效果较差。

相比之下，基于评论的信息识别，对于网络水军账号的信息识别，普适性更强。基于评论的网络虚假信息识别，可分为基于评论内容的信息识别、基于评论行为的信息识别、基于评论关系的信息识别。基于评论内同的信息识别，主要侧重于评论文本挖掘，由于评论文本为用户伪造，所以在语言细节上会有破绽，例如文字重复率高、语言模型异常，协作风格单一等。Jindal等[9]以亚马逊580万条评论为研究对象，针对相似度进行逻辑回归模型构建，实现了虚假评论的识别。Ott等[10]构建了负向情感词库，一次对虚假评论文本进行分析，取得了高于人工识别的效果。Fusilier等[11]提出利用PU-learning结合n-gram词袋特征进行虚假意见检测的方法，对1600余条评论进行分析，实验结果表明，该方法在正面和负面欺骗意见的检测上具有较好的学习效果。Yun 等[12]采用语体分析方法，对真实和虚假评论进行对比分析，构建贝叶斯和支持向量机模型，达到了90%准确率。针对评论行为的识别，由于虚假评论发表者的行为不同于正常用户，会在短时间写出大量的评论，并在评分上与正常用户产生偏离，所以可针对以上特征进行检测。Lim等[13]提出两种虚假评论行为模型，即基于目标的虚假评论模型和基于偏差的虚假评论模型，通过结合两个模型，提升了虚假评论信息识别的准确率。Mukherjee等[14]提出了虚假评论团体的概念，并针对团体行为等方面特征对虚假信息评论进行建模和识别。针对评论关系的虚假信息识别，主要着眼于评论发表者所存在的异常关系，可通过建立评论发表者、评论、时间之间的关系网络图模型，对此进行识别。Wang等[15]提出一种异构评论图模型，将虚假评论识别问题转化为异常关联模式挖掘，补充了先用方法的不足。基于评论信息的虚假信息识别缺陷在于只能针对文本评论进行分析，当前虚假信息已不局限于文本，在视频音频以及其他复合格式文件，都存在虚假信息。

综上所述，当前国内外互联网虚假信息的识别，对于网络水军机器人账号，以及除文本外的虚假数据类型还有待进一步研究。虚假信息识别需要综合数据采集、数据分析、特征工程、神经网络拟合、专家系统预警等多种关键技术的组合支撑，是一个系统性的工程。为了解决上述问题，本文提出一种基于深度学习的互联网虚假信息平台设计，以及一种基于生成对抗网络的数据筛选算法。本文的主要共献有以下几点：

（1）提出了一种基于深度学习的互联网虚假信息平台设计。该平台设计有效的解决了当前多源异构数据无法有效进行特征提取的信息识别的问题；并且要素齐全，包含了数据收集、数据预处理，以及数据分析预警等多个功能模块，减少了人工数据收集和标定的工作量，同时构建自然语言处理架构，可对各类信息进行文本分类、语法分析、语义分析。

（2）针对收集到的各类异构信息，平台集成了综合预警模块和信息挖掘模块，可对可以信息进行持续的深度、迭代挖掘，对其关联的话题和历史信息进行热点分析、观点倾向分析。高效可靠的实现了虚假信息识别和溯源。

（3）为提升平台在处理海量数据时，识别精准度较低、预处理算法收敛困难，且针对Deep Fake消息识别效果差的问题，本文提出一种基于生成对抗网络的改进虚假信息初筛方法，用于提升虚假信息识别平台在数据分析、预警上的效能。

1 互联网虚假信息基本概念

苏鹏等[16]将互联网虚假信息分为5类，分 别 是Disinformation、Misinformation、Malinformation、Fake News、Deepfakes。Disinformation是专业人士有意构建的假消息，目的在于影响目标人群的行为，进而达到自身目的[17,18]。Misinformation是误报的消息，是由于信息接收者在解读信息时出现了误判，导致理解出现偏差[19,20]。Malinformation是被恶意传播的真实消息，包括恶意泄密、卖密等都属于此类[21,22]。Fake News是新闻工作者或自媒体人为了吸引眼球，或能力素质不足导致传播的假新闻[23,24]。Deepfakes则是通过大数据分析、深度学习等智能方法制造的假消息，利用推荐算法可以对目标人群进行精准的误导[25-27]。互联网虚假信息，目的性强，构造逻辑严密，是一种为了特定利益，利用传统和智能手段构造虚假信息，并通过多种形式媒体进行主动宣传的手段。它的主要特点是蓄意性、虚假性、传播性、误导性。

互联网虚假信息的传播媒介可分为以下几类：

(1) 传统媒体。主流的媒体如各国的权威报纸、官方媒体网站、新闻电视台等，在信息传播上扮演着权威、官方的角色。目标群体在潜意识中对传统媒体具有更高的信赖度，所以在传统媒体上发布的虚假信息，更容易对公众和目标群体产生干扰。但另一方面，传统媒体对于虚假信息审核较为严格，所以不易发布。

(2) 社交媒体。社交媒体如国内的微博、国外的Facebook等是当前互联网虚假信息的重灾区。由于社交媒体用户注册门槛低，用户构成复杂，审核力度不足等原因，极易形成虚假信息。并且由于当前社会人们更趋向于利用短频快的方式获取信息，所以社交媒体上的虚假信息会对大量人群造成影响。

(3) 网络水军。网络水军指的是由国家或特定组织，利用僵尸网络或隐蔽身份小号组成的虚假信息构建团体。网络水军可能是真实的人，也有可能是被控制的自动机器人，主要用途就是在网络上针对特定话题，以极高频率散播谣言，迫使民众和目标群体无法获取准确信息源，从而出现信息和形势的误判。

(4) Deepfakes。Deepfakes是指利用深度学习等人工智能算法作为互联网虚假信息生成工具，利用大数据分析、推荐算法等手段对目标受众进行精准定位，并高效推送虚假信息的手段。由于当前信息泄露严重，每个人的身份信息和偏好极易被特定群体所掌握分析，结合智能算法和大数据手段，Deepfakes成为了当前最高效的虚假信息生成方法。

互联网虚假信息的传播模型揭示了虚假信息从产生到扩散的方式，准确的掌握传播模型对于设计算法识别虚假信息，进而阻断虚假信息的扩散有重要的意义[28,29]。当前大多数研究集中于信息传播机制和信息传播规律演化的预测[30]，主要的模型包括线性阈值模型[31]、传染病行为动力学模型[32]和基于博弈论的复杂网络模型[33]等。传染病模型是信息传播领域的重要模型，研究人员基于此衍生开发了多种算法。文献[34]提出了SLIR模型，通过引入潜在的用户节点，结合平均场理论针对传播网络中的重要性进行了评估。文献[35]基于博弈论的方法，构建动力学传播模型，在不仅可以准确描述网络中信息传播趋势，同时可以揭示不同影响因素对信息传播的影响。但问题在于，算法面向的场景都是单消息场景，针对多消息场景的效果不佳。基于此，文献[36]利用演化博弈理论，将信息传播的方式类比为生态系统中病毒传播方式，对演化动力和进化策略进行分析，揭示了传播过程中信息之间的促进和抑制关系。

2 基于深度学习的互联网虚假信息识别平台架构

为了能够有效识别互联网虚假信息，需要结合数据收集、数据处理、数据分析预警等多重手段，综合构建一套互联网虚假信息识别平台，用以高效处理多源异构的互联网信息，准确识别虚假信息并做出及时的预警。本节对基于深度学习的互联网虚假信息识别平台的架构进行介绍，该平台利用爬虫工具对重要信息进行采集抓取。利用数据融合、自然语言处理等方法对多源异构的信息数据进行预处理，最后通过情感分析、聚类、数据分析等手段分析数据，并对异常数据进行报警。图1是上述三个流程的关系图。

图 1 基于深度学习的互联网虚假信息识别平台架构图

2.1 基于网络爬虫的信息实时采集模块

网络爬虫[29]是一种高效的信息抓取工具，它集成了搜索引擎技术，并通过技术手段进行优化，用以从互联网搜索、抓取并保存任何通过超文本标记语言进行标准化的网页信息，其流程如图2所示。

目前动态网页（例如AJAX等技术所实现）的流行，在实际中还需要基于事件驱动技术来获取动态网页的信息，这需要解决三项技术：（1）JavaScript的交互分析和解释；（2）DOM事件的处理和解释分发；（3）动态DOM内容语义的抽取。考虑到信息爬取效率，可以使用分布式爬虫系统，协同多台计算机终端来进行协同爬取网页信息[37]。

通过网络爬虫采集技术，可以获得丰富的用于分析的数据，并构建高质量的数据特征，具体包括：基础属性特征集、行为特征集、场景特征集、关联特征集。

基础属性特征集包括身份属性、经济属性、文化属性、社群属性等。为了获取到更精准的目标用户特征，对每类属性进行细化，得到通用属性下的二级属性，具体如下。（1）基础属性：性别，年龄，文化程度，人种，语种，国家，民族，职业，地域，行业；（2）经济属性：经济收入，可支配收入，付费方式；（3）文化属性：所处文化圈，文化喜好，个性化需求；（4）社群属性：交友需求，异性交往需求，归属需求，领导需求，合作需求等。

行为特征集是基于用户点击流、操作行为轨迹等数据等提炼加工的用户行为特征集，包括：（1）用户资料输入时长，如：联系人输入时长、工作单位输入时长；（2）操作频次，如：最近一月登录次数，最近一月提现次数等；（3）间隔时长，如：注册到申请的时长，两次操作之间的最大间隔时间；（4）用户生物探针特征，如：手机陀螺仪位置偏好、用户点击屏幕位置偏好、屏幕点击速度、屏幕点击强度偏好等；（5）用户影像拍摄偏好，如大头照拍摄次数、是否使用美颜、是否裁减等。

场景特征集主要指用户习惯操作的场景，包括：（1）用户设备信息，如：设备型号、设备语言设置、设备APP列表及类型等；（2）用户操作时点场景，如：工作日或节假日操作，早中晚操作；（3）操作空间场景，即用户操作的地理位置信息，如：公司或家庭，商场场或旅游区等；（4） IP环境，如：网络类型，WIFI 或4G等；（5）运营商情况，如：运营商类型、在网时长、消费套餐等。

关联特征集主要指用户核心属性关联的情况，包括一级关联和多级关联。核心属性包括：手机号、账号、身份证号、设备号、IP、GPS地址、微信号、第一联系人电话、第二联系人电话、公司名称、家庭地址等。其中一级关联指的是，主维度属性关联另一个维度的个数，如：最近一年设备关联的手机号个数、1天内IP关联的手机号个数等；而多级关联指的是多个核心属性之间的关联情况，如二级关联：同IP关联的设备，这些设备关联的手机号个数。

2.2 基于自然语言文本处理方法的数据预处理模块

互联网虚假信息识别过程中，对互联网虚假信息的关键词提取是决定识别率的主要因素。因此通过自然语言处理手段主要完成分词的处理。首先分词模型将输入的语句进行词语分隔，然后把分隔的结果进行词性标注和命名实体，其目的在于提取本文中的有意义的词语并对其语义进行分析。在完成基础处理之后，可以构建更深入的自然语言处理，如文本分类、信息热度分析、观点倾向分析等。网络数据预处理流程图3所示。

图3 网络数据预处理流程图

用于分词的机器学习模型和方法主要分为两大类：一类是基于字符标记的，也就是对每一个字单独进行分段信息的标注；还有一类就是基于词的，也就是对词进行整体的标注和建模。基于单个字符标记方法的核心就是对每一个字所属词中的位置进行一个标注。对于任何一个字来说，它可以是一个词的开始、一个词的中间、一个词的结尾，或者本身就是一个单字的词，这也就是在序列标注中常用的分类。这类方法比较典型的是最大熵马尔科夫模型[38]和条件随机场[39]。

虽然基于单个字符的模型对于抽取字具有较好的效果，但该模型无法直接建立相邻词之间的相关性，也无法直接看到当前整个词所对应的字符串。而基于词的模型能够很好的解决这个问题，这种模型用类似基于转换的句法分析去解决分词的问题。基于词的模型是一种渐进式、自下而上的语法分析办法，一般以从左向右的方式处理逐字处理文本的输入，并在运行过程中通过一个堆栈去保存到当前为止得到的不完整的分词结果，并且通过机器学习的方法去决定如何整合当前的分析结果，或是接收下一个输入去拓展当前的分析结果。基于词的算法存在的问题是堆栈上保存的到当前位置的分析结果的数量会非常大，需要进行修剪来控制搜索空间的范围。

2.3 互联网虚假信息数据分析与预警模块

虚假信息分析模块是系统中最为关键的处理模块，主要利用文本分类和聚类等方法对预处理后的虚假素材信息进行分析挖掘，实现虚假信息的热点发现和跟踪。

（1）热点分析

热点发现算法从本质上来说是属于数据挖掘中的文本聚类算法。算法的实现过程如下：将预处理后的文本信息归入不同的话题，并在需要的时候建立新的话题，热点发现的目的就是要按照话题将文档进行聚类，从一组文档集中发现新热点，由于没有关于新热点的先验知识，需要建立新的主题簇。热点事件跟踪是为了用户能够跟踪自己所关心的类型事件而进行的操作，用户可以将已获得的事件的样本信息通过系统学习的方式交给系统，然后系统通过文本挖掘技术对不断到来的信息进行分类，判断是否为用户感兴趣的内容，将判断为是的信息交给用户。同时系统可以通过用户对获得的信息的反馈，不断地修正系统的学习结果，使得系统可以获得越来越接近用户所希望的信息。 因此，热点事件跟踪是一种特殊的二元分类问题。

（2）观点倾向分析

敏感信息检测是在海量的互联网信息中，识别出虚假信息。在进行敏感信息识别时需要考虑规模和正负面程度两方面，需要找出在一段时间内的上升较快，或参与规模较大的虚假信息。规模可以通过聚类后的相关网页数判断，负面程度通过中文情感分析技术识别。中文情感分析技术旨在发现用户对热点事件的观点和态度。传统的实现方式是使用SVM[40]、条件随机场等传统机器学习算法根据手工标注情感特征对文本情感进行分析。最新的实现方式则利用深度学习实现。采用递归神经网络来发现与任务相关的特征，避免依赖于具体任务的人工特征设计，并根据句子词语间前后的关联性引入情感极性转移模型加强对文本关联性的捕获。基于深度学习的方法在性能上与当前采用手工标注情感特征的方法相当，但节省了大量人工标注的工作量。目前，情感分析的主要研究方法还是一些基于机器学习的传统算法，如SVM、信息熵[41]、条件随机场等。这些方法归纳起来有三类：有监督学习、无监督学习和半监督学习。当前大多数基于有监督学习的研究都取得了不错的成绩，但是由于有监督学习依赖于大量人工标注的数据，使得基于有监督学习的系统需要付出很高的标注代价。半监督学习则是采取综合利用少量已标注样本和大量未标注样本来提高学习性能的机器学习方法，它兼顾了人工标注成本和学习效果，被视为一种折中方案。无监督学习不需要人工标注数据训练模型，是降低标注代价的解决方案。基于深度学习的方法在性能上与当前采用手工标注情感特征的方法相当，节省了大量人工标注的工作量。

（3）综合预警

网络综合虚假信息预警模块的研发主要包括以下三方面：（1）建立预警指标体系。有学者认为网络虚假信息的产生、发展过程会通过一系列关键指标体现，并将这些指标按照一定的科学方法确定关键指标构成、指标维度、指标层次、指标量化方法等，从而建立预警指标体系。（2）基于网络的数据挖掘的预警。这种方法就是从网络中提取与目标相关的数据，构成目标数据集。其任务是对网络数据进行网页特征提取、基于内容的网页聚类[42]、网络间内容关联规则的发现等，从其中得到与网络的挖掘目的相关的数据。利用相应的工具和技术对挖掘出的数据进行分析、解释，并通过分析结果对网络虚假信息进行预警。（3）基于观点倾向性观点分析技术的预警。采用这种方式进行预警的学者认为网络虚假信息预警能力主要体现在是否能够从海量的网络言论中，发现潜在危机的隐患。到目前为止，对观点倾向性分析主要包括“赞同”“反对”“中立”三种态度。

3 基于深度神经网络的增强互联网虚假信息初筛方法

在第三节介绍的互联网虚假信息识别平台中，数据分析与预警模块通过热点分析和观点倾向分析对海量的互联网信息进行虚假信息筛选。而当前在热点分析和观点分析中大多使用基于大数据的无监督学习方法，如文本聚类、降维分割等，或是使用基于传统机器学习，如支持向量机、条件随机场等方法。这类算法在处理海量数据时，识别精准度较低、预处理算法收敛困难，且针对Deep Fake消息识别效果差。因此，本文提出一种基于生成对抗网络的改进虚假信息初筛方法，用于提升虚假信息识别平台在数据分析、预警上的效能。

互联网虚假信息传播存在多种不同类型的信息，包括不同的源（微博、知乎等）、不同的表现形式（不同格式的文本等），为了准确分析并研判可能的虚假信息，在互联网虚假信息传播模型中，对不同的信息来源可定义不同的网络节点，例如对新浪微博、知乎、论坛等，网络用户可设为复杂网络中的节点，其输入经处理后，表示为传播信息的语义向量X。

基于生成对抗网络(GAN)的多层耦合网络构建

对输入矩阵X=Xn×t，n表示节点数量，t表示采样时间，训练采用无监督学习，如图4所示。

图 4 构建多层耦合网络框架

该框架第一层是词向量表示层，输入句子矩阵的列和行分别是词向量的维度和序列长度；第二层是卷积层，主要通过卷积操作来提取句子的局部特征；第三层进行最大池化操作，提取关键特征，舍弃冗余特征，生成固定维度的特征向量，最后将池化层学习到的特征与注意力文本连接并作为全连接层输入特征的一部分，经过全连接层后得到特征表示结果。CNN特征提取具体过程如下：将词W(i)利用word2vec转化为对应的词向量E(W(i))，其中E(W(i))∈Rk代表句子中第i个词，词向量为K维，文本矩阵表示为

用h×k的滤波器对文本矩阵执行卷积操作，得到局部特征为

式中：F代表h×k滤波器，b代表偏置量，f代表通过RELU进行非线性操作的函数，E(W(i:i+h-1))为从i到i+h-1共h行向量，ci为通过卷积操作得到的局部特征。随着滤波器依靠为1的步长从上往下进行滑动，走过整个句子，得到局部特征向量集合Ci∈Rt。采用n个不同的滤波器对短文本中连续单词的h个窗口重复卷积运算，得到C1:m-h+1∈R(m-h+1)×n，采用VALID方式进行padding操作，获得与原输入相同长度的特征向量C1:m∈Rm×n。

在生成器和判别器内部，使用堆叠式自编码机，其目的在于构建多层耦合网络，最后生成的复杂网络如图5所示。其中，ci,t,n是得到的自编码，i表示第i个网络节点，t表示时刻，n表示第n个隐藏层。定义顶点之间的欧氏距离（也可用余弦距离）

图5 SAE生成框架

（1）当n1=n2=const时，构建的是时间上的耦合网络。

（2）当t1=t2=const时，构建的空间粒度上的耦合网络。SAE的输出编码是期望能够恢复源输入，不同隐藏层的维数为设定为不同，如果从第1层到第层中的节点逐渐减小，可以视为空间的粒度从细到粗的过程。因此，隐藏层的物理意义表示了空间粒度的不同，同时，SAE的使用也相当于对复杂网络数据抽取进行了节点降维，通过使用GAN来生成虚假信息传播网络，其中生成器G试图生成顶点对，而鉴别器D试图区分生成的顶点对与网络实际连接的顶点对，采用Wasserstein GAN网络来训练，其目标函数为：

对于各个节点，可以沿用一般SIR模型对节点状态的定义，可将网络中的节点划分为以下四种状态，即节点标签可为节点标签Y={S,E,I,R}，其中易感状态S、接收状态E、传播状态I、免疫状态R。易感状态是指节点从未接收过网络中传播的虚假信息，即对该虚假信息处于未知时的状态；接收状态表示节点已经接收到网络中传播的虚假信息，但还未将该信息传播出去时所处的状态；传播状态是指节点已将网络中传播的虚假信息传播出去后所处的状态；免疫状态是指节点完全不再接收网络中传播的虚假信息，并将不会再对其进行传播时所处的状态。通过对互联网传播信息的初筛，可以有效筛选出互联网信息的统计信息特征，为精准互联网虚假信息识别提供先验支撑信息。

4 实验仿真分析

本节针对提出的基于深度学习的互联网虚假信息识别平台进行实验验证，并对比提出的基于生成对抗网络的虚假信息筛选方法与传统方法的效能。近期由于国内外重大事件频发，各大互联网平台都出现了严重的舆论引导和虚假信息，致使官方频繁进行辟谣，并出台显示IP归属地的策略。实验验证以微博、微信朋友圈、知乎等平台作为主要信息源收集数据，并利用专家系统、基于自然语言处理的方法以及本文提出的基于深度学习的互联网虚假信息识别平台分别对数据进行识别。本文提出的系统基于Windows10系统，使用python3.8及C等语言进行开发。数据采用爬虫的方式获取，并根据网络信息对虚假信息进行人工标注。

表1展示了不同识别方法对不同数据类型虚假信息的识别准确率。当前的虚假信息可大致分为单一文本数据、单一视频数据、混合文本视频数据。所谓单一文本数据，即通过文章、评论、留言等方式在社交平台进行虚假信息传播的方式。所谓单一视频数据，即通过短视频、或AI换脸等智能手段篡改真实视频源的方法进行虚假信息传播的方式。所谓混合文本视频数据，即通过DeepFake等方法，通过文本和视频的方式，相互印证、传播，这类数据造成的危害相较于前两种更大。

表1 识别方法准确性比较分析 (%)

实验结果表明，基于专家经验的识别方法，对于传统的文本数据有着较高的识别准确率，但由于专家信息库更新速度较慢，对于伪造的视频数据识别率较低。而对于多源异构的伪造数据，由于人工特征提取效率较低，所以识别准确度低，不能满足要求。而基于NLP的方法，利用深度神经网络提取文本和视频中的语音特征，可以较好的对单一来源的文本和视频数据中的虚假信息进行识别。但对于精心构造的DeepFake数据，由于算法缺少逻辑判断和基于经验的信息比对能力，效果也不理想。相比之下，本文提出的基于深度学习的虚假信息识别平台，在系统化的设计下，会对收集得到的数据先进行语义分析、预处理，再利用深度学习的方法进行信息聚类、识别。所以针对单一来源数据和多源异构数据都有较高的识别准确率。

图6展示了不同方法针对不同数据类型，在单位时间可以处理的数据量对比。可以看到由于专家系统依靠写定的规则进行判断，所以可对单一文本数据进行高速处理，但其对于视频数据特征提取效率低，并且由于专家信息库更新迭代慢，所以对于视频数据和混合数据的处理速度都较慢。基于NLP的方法，需要通过神经网络对数据进行处理，在进行判定前需要对特征进行提取并进行语义分割、聚类等操作，所以对于三类信息的处理速度都较慢。而本文提出的架构，由于对采集得到的数据会进行渐进式、自下而上的语法分析，同时在运行过程中通过堆栈去保存有效数据，并根据语义分析的结果对搜索空间进行修剪。所以可以极大的提升信息特征提取和识别的速率，对于三类数据均有较高的处理速度。

图6 单位时间处理虚假数据量对比图

为了验证本文提出的基于生成对抗网络的信息筛选算法与传统的使用基于大数据的机器学习方法的性能对比。本文选取不同网络平台的数据，在经过相同的预处理操作后，分别用传统的方法和本文提出的方法进行虚假信息识别，结果如表2所示。改进后的算法在利用各网络平台采集得到的数据进行预筛选、倾向分析和虚假信息预警方面，相较于原算法，准确率都得到了较大的提升。原因在于基于生成对抗网络的利用多层耦合网络的架构，极大的提升了针对陌生虚假数据的识别的鲁棒性。同时基于SIR模型的判定模式，也使得算法可以有效生成对于信息特征的统计表示，为识别虚假信息提供先验经验。

表2 筛选算法准确性比较分析 (%)

5 结论

本文针对互联网虚假信息的基本概念、传输媒介、传播模型进行梳理和总结。结合近年研究工作，提出了基于深度学习的互联网虚假信息识别平台的架构，从样本采集、预处理、信息识别和预警三个方面对该架构进行介绍。为了改进传统算法在信息识别上收敛速度慢、准确率较低的问题，本文提出一种基于生成对抗网络的虚假信息识别方法，并应用于虚假信息识别平台。实验表明本文提出的虚假信息识别平台相较于传统的专家系统和基于NLP的方法，在准确率和处理效率上都有较大的提升。而基于生成对抗网络的信息识别方法，相较于传统的基于大数据的机器学习方法，在预筛选、倾向分析、虚假信息预警上也取得了更好的表现。