域外势力操控社交媒体的手段路径及应对策略*

邵 雷 石 峰

(四川警察学院 泸州 646000)

0 引 言

当前，信息技术的发展改变了获取信息、表达观点或相互交流的方式。社交媒体的廉价、易用和受欢迎的特性使其成为一种强大的工具，但是也容易被域外势力用来传播错误信息或者进行虚假宣传活动[1]，通过使用算法、深度学习和人工智能等技术手段，扩大虚假信息在网络中的传播范围，提升传播速度，以实现政治战略和目标，影响大众思维，引导人们对事件的行为和观点[2]。因此，网络社交媒体被一些国家、政客和域外势力所利用，通过操控政治机器人，传播诱导性虚假信息，实现在政治范畴对公众意识形态的误导宣传，达到影响他国政治生态，扰乱甚至颠覆他国政局的险恶目的。境内网络社交媒体平台上也存在着大量虚假信息，严重影响我国国家形象和国家安全。

心理学家模拟利用网络社交媒体开展虚假宣传的实验，实验结束后告知被测试人员：刚才的事件是假的，以便帮被测试者从错误印象中摆脱出来。但事实却显示，这点极难完成。被测试者一旦确立了一个认知，哪怕稍晚些时候就被证伪了，其影响仍会继续存在。这种现象是几种认知过程共同作用的结果，人类的思维倾向于把新的信息放在既有印象的背景中去理解[3]。因此，即使把真相告诉了人们，但依旧抹不去既有印象。一些政府和非政府组织正是利用了人类思维定势的这个特点，使用人工智能技术操纵聊天机器人和聊天软件，广泛传播对其有利的视频、图片和文章，从而达到特定目的。因此，网络社交媒体也被称为“另一种大规模杀伤性武器”[4]，不仅成为传播信息的有效路径，也成为各国政府和社会组织争相利用和争夺的舆论宣传阵地和思想意识战场。

经过查阅大量文献资料发现，目前，学者在社交媒体舆论宣传领域的研究主要集中在三个方面：一是分析社交媒体中虚假新闻产生和造成影响的原因。陶青[5]从产业链利益驱动、惩罚机制缺位、社交媒体平台责任缺失角度分析虚假新闻的产生机理。赵鹏菲[6]从网络媒介赋予普通人参与权、虚假新闻的高迷惑性和迎合性等五个方面，分析了虚假新闻广泛传播的原因。二是对社交媒体治理机制的研究。唐远清等[7]较为全面地论述了Facebook治理虚假新闻的创新举措及对中国社交媒体虚假新闻治理的启示。洪晓梅[8]提出实行网络信息分类分级监管,建立网络信息监管多方共治的依法依规的动态机制。三是研究人工智能技术在社交媒体中的应用和治理方法。张洪忠等[9]从传播学视角出发分析了应如何认识政治机器人对舆论的影响，并且提出需要引入跨学科的机器行为学新范式推动该领域的深度研究。樊嘉等[10]从社交机器人行为机制出发探讨其与网络治理的关系,提出人机交互下的社交机器人网络治理方法。但是，基于开源情报对域外势力操控社交媒体进行虚假舆论宣传方面的实证研究较少。本文利用开源情报搜集社交媒体数据信息，结合舆情事件发展过程进行深度剖析，挖掘域外势力实施虚假宣传的方法和路径，进而有针对性地从人工智能、大数据建模等技术角度提出应对策略。

1 域外势力操控网络社交媒体的表现形式

社交媒体，如博客、微信、Twitter、Facebook、GooglePlus、Instagram等，都是丰富的信息来源。由于全球有数十亿社交网络用户，通过提取网络社交媒体账号注册信息、发帖时间、发帖地点、发帖设备以及转发、关注、点赞、回复、提及、超链接等元数据，能够挖掘出重点账号以及幕后的操纵者。例如，近期在某些地区发生的游行示威，这些游行示威甚至逐渐最终发展为暴乱活动[11]。仔细观察分析此类事件能够发现在多个国家和地区发生的示威场景都有着共同的特点：所有人员都有统一的服装，免费的防护用品和饮水、食品等，还有统一的手势和招牌动作。利用开源情报工具分析后还发现：这些参与游行示威的人，表面上看起来似乎是无组织的自由组合，但都离不开网络社交媒体和即时通讯工具，甚至是使用网络加密通讯工具进行联系与组织的，重点人员还参加了相关培训。

华盛顿大学的通讯教授 Katy Pearce研究了Facebook 在阿塞拜疆的使用情况，认为Facebook 恰恰是政府控制社会最有效的工具。Facebook和 Twitter 等社交媒体也正在“努力应对”国家政府和其他组织对其平台上重要资源的利用[12]。数以百万计的假帐户利用算法操纵用户可以看到的东西，而位置欺骗等技术可以使集中控制的帐户看起来像是位于不同地区的真人形成的网络舆论大军[13]。世界各国正在利用互联网将信息技术作为权力整合和社会控制的手段，推动虚假信息操作，并且传播和宣传规模比以往更大。

为了应对 Twitter 和 Facebook 上发起的各类革命和社会运动，各国政府大多采取的是审查内容、阻止访问社交媒体、监控等手段。但事实上，通过大量的虚假信息和匿名威胁来淹没平台反而更加“有效”，被称为“信息污染”战略，这是由网络社交媒体迅速传播的特性所导致的。牛津大学牛津因特网研究所进行的一项“计算宣传”研究项目，通过对七个不同社交媒体平台上的数千万个帖子的研究后发现，计算宣传中有几个明显的全球性特征，比如，社交媒体是政治参与的重要平台，也是传播新闻内容的重要渠道，成为年轻人发展其政治身份的主要媒体，而且被积极地用作操纵公众舆论的工具[14]。

2 域外势力操控网络社交媒体的手段路径

2.1利用虚假公司注册网络社交媒体账号域外势力除了使用Twitter、Facebook、Telegram等社交媒体在中国境内开展反政府宣传以外，中国境内网络社交媒体也被广泛利用，传播社会负面新闻，貌似支持某些弱势群体，实则培养民众消极情绪，进行虚假宣传。

经开源情报分析发现，在国内影响力非常高的某社交媒体平台也常常被域外势力利用。虽然，网络社交媒体公司利用人工智能技术对发帖内容进行了审核，一些明显的涉恐涉爆、违反法律法规的文章可以被机器算法屏蔽或删除。但是，一些账号采用了关键词规避技术后仍然可以顺利通过审核，围绕社会负面新闻热点，深挖和放大负面新闻。比如2020年7月，笔者发现某社交媒体群里曾有人大量转发抨击社会负面视频，经分析后发现，这是一个在2020年5月30日新注册的某网络社交媒体账号，其使用“某某百货商行”工商信息注册账号“****”，该账号内几乎没有原创文章，都是转载的各类传递社会负面消息的视频。通过企查查等开源情报工具查询以现，“某某百货商行”是2020年5月24日新注册的公司，除了有注册地址和法人名字外，无其他任何信息。进一步检索发现，从公司注册后的短短5天时间，该公司地址上就注册了十多家同类型的百货商行，而且全部都是除了注册地址和法人名字外，无其他任何登记信息。

类似利用购买“皮包公司”的注册信息开设网络社交媒体账号的情况在境内社交媒体上比比皆是。这种利用工商注册信息开设网络社交媒体账号的手法，和电信网络诈骗团伙利用购买工商注册信息开设对公银行账户用于实施诈骗完全相同。

2.2利用AI技术操控政治机器人参与网络传播域外势力为了提高虚假信息的传播速度，快速提升社交媒体账号的影响力，利用人工智能技术代替真人操作。社交机器人是在社交网络中扮演人的身份，拥有不同程度人格属性且与人进行互动的虚拟AI形象[15]。其中，被域外势力操控并在社交媒体中广泛参与政治讨论的机器人程序，被称为“政治机器人”。在政治危机期间，政治机器人作为强有力的宣传工具与人类行为者一同参与宣传工作，并且政治机器人可以用来推动某些政治事件的发展，传播带有放大或者误导性的消息和扭曲的政治言论[16]。政治机器人可以被反复使用，散布虚假信息干预选举结果[17]，存在着可重复使用的政治机器人网络黑市。

从全球范围来看，政治机器人主要被用在政治选举、社会动员、政治干扰三种应用场景中。使用政治机器人可以将政治信息在短时间内大范围进行广泛传播，对民众的政治参与意愿也有一定的促进意义。同时，政治机器人对网络舆论的干预也会影响公众正常的舆论表达。域外势力通过利用政治机器人模仿人类用户以混淆舆论视听，对公民信息进行自动化抓取和分析，操纵公共舆论，扰乱正常的组织信息交流。域外势力通过将具有社交属性、看似没有宏大叙事、“人畜无害”的符号或图案作为自己的标签，在社交媒体上利用话题标签带节奏，建立有利于域外势力特定政治意图传播的标签，污染别人的标签、甚至改写热门标签的成分，这其实跟当年的“郁金香”一样，是发动颜色革命[18]的新形态。

2.3操控网络社交媒体的实施路径和重点对象域外势力操纵网络社交媒体已经有很成熟的套路。首先，为了规避国内网络社交媒体账号需要实名注册的问题，域外势力通过灰黑产市场大量购买工商注册信息或者个人身份信息，再用买来的信息注册大量社交媒体账号，有的是直接大量购买凭借他人信息注册的社交媒体账号，储备待用。其次，在需要利用热点新闻炒作某个事件时，域外势力通过网络水军团队或者政治机器人团队，操控这些买来的以及新注册的社交媒体账号，大量集中转发包含社会负面评价信息的文章、图像、视频。最后，再利用其运营和掌控的非常有影响力的大号或者域外势力所掌控的媒体和公知大V转发这些文章、图像、视频或者消息，从而达到快速传播、扩大影响力，进而煽动群体性事件发生，甚至演变成街头暴力活动，引发社会动荡。域外势力操控网络社交媒体的实施路径如图1所示。

图1 域外势力操控网络社交媒体的实施路径

此外，域外势力还利用互联网和青年亚文化对青少年进行误导和诱导，其采用的方式和手段主要有：a.选取青少年普遍感兴趣的饮食、漫画等作为切入点，进行大量“二次元”式卡通漫画风格的宣传创作，恶意迎合青少年群体的趣味和喜好。b.以符号化图案在社交媒体中晒图打卡，利用当下众多青少年文化圈层的基本心理，设计大量海报和插画，以引诱大量不明真相的青少年关注并且参与到非法游行示威等政治活动中。c.利用全职专业摄影师，日夜捕捉堪比好莱坞大片式构图和光影的示威游行照片，美化暴力、破坏行为，进一步误导青少年。d.以跨媒介的方式，在动漫、游戏和网络歌曲、网络电台等青少年聚集的媒介形态中进行扩散，并附带支持同性恋等特殊圈层的青年亚文化[19]议题，以障眼法的方式浑水摸鱼的同时进一步绑架舆论。

3 网络社交媒体中政治机器人的行为策略与识别

3.1政治机器人的行为策略政治机器人是一个自动账户，被编程为像用户那样交互，特别是在社交媒体上，机器人的运营商借助算法注册或者购买的形式掌控着大量社交媒体账号，凭借虚假的个人身份向尽可能多的目标群体传播具有特定目的的政治诉求，在短时间内引起广泛的具有较大影响力的社会舆论[20]。政治机器人可以分为核心机器人和外围机器人两大类，核心机器人又被细分为三个类别：短命机器人，长存机器人和文章生成机器人。每类机器人的工作任务又有所不同，短命机器人主要用来大量转发其他账户的文章，却很少发布自己账户的推文，工作时间较短，一般持续5周左右的时间；长存机器人由于使用了规避网络监管的策略，账号在线持续时间较长，一般在数十周以上，然后才被暂停账号；文章生成机器人主要用来生成并发送推文，但很少转发其他账号的文章。外围机器人是指参与传播过程的机器账户，他们的任务是转发核心机器人生成的一条或多条推文。

由于域外势力的政治意图不同，机器人的行为策略也不尽相同。因此，可以通过机器人的行为表现，分析其背后域外势力的行动目的。政治机器人的行为策略主要有以下四种：a.制造虚假人气。政治机器人冒充为政治领袖的支持者，营造粉丝数和点赞数飙升的假象，表面上制造政治人物在社交媒体上广受欢迎的情景[21]，这是政治机器人的一项基本行为策略。b.推送大量政治消息。在西方国家常被用于大选和化解政治危机，机器人向潜在选民推送政治新闻资讯，鼓励用户将支持候选人的信息转发给好友并完成投票[22]。c.传播虚假或垃圾政治信息。政治机器人扩散大量垃圾信息或虚假信息，对敏感的政治话题大肆夸张传播，煽动线上网民和线下群众参与其中[23]。同时，也发布大量无关政治的垃圾信息以持续提升人气，吸引更多的人群关注。d.制造烟雾，混淆视听。魔术师在表演时会使用的一种技巧，让观众在观看表演魔术时看向别处。政治机器人也会在网络社交媒体上使用类似的策略，发布无关新闻，但这些垃圾新闻信息是与特定的政治话题标签绑定的，通过发布大量替代性的垃圾话题标签来扼杀和掩盖现实讨论，从而模糊舆论空间，干扰政治讨论[24]。

3.2政治机器人的识别判断近年来，某些域外势力利用网络社交媒体平台发布大量虚假信息，编造政治事件，抹黑、造谣以扰乱他国国内政局和邻国间的政治交往关系，对他国国内民众政治舆论造成误导，制造国家间紧张态势。通过查阅相关新闻、网站、百科等信息，收集整理了与此类域外势力有关的6个相关重点话题，利用爬虫技术爬取了相关话题涉及的网络社交媒体账号，再利用可视化分析工具对搜集到的网络社交媒体账号数据进行网络拓扑分析、层级分析、中心性分析、交叉节点分析和聚类分析，挖掘出在相关事件中处于关键传播节点的数十个网络社交媒体账号，再对这些账号的注册时间、注册地点、第一关注者、与其他账号的点赞、留言、转发和互动情况等内容进行结构化特征分析，最终分析出这些网络社交媒体账号之间的关联关系。通过对关键的26个个人网络社交账号和47个组织网络社交媒体账号进行追踪和梳理分析，发现一些共性特征：

a.有组织有预谋进行周密策划。如，某重点关注账号2020年1月注册，直到4月才发布第1条推文，即账号注册时间比启动该账号发布虚假信息推文的时间要早3个月，这一特征充分表明域外势力是早有预谋和计划的，在相关话题事件发酵前就提前注册和话题密切相关的社交网络账号。而且，转发该账号推文最多的是一些经常发布反政府言论的个人和非政府组织，甚至是某些极端思想政治组织和人物的活跃账号，各种域外势力间有着频繁且密切的联系。

b.统一操控网络社交媒体账号。首先，按照预谋计划在关键时间节点由某一个网络社交媒体账号率先发帖，编造虚假信息，假借正义之名，号召成立一个同盟组织；然后，其中的另一个账号表示积极响应，给予支持并且大量转发推文来扩大宣传；接下来，随着同盟组织的影响力不断提升，吸引更多不明真相的账号加入并且大量转发推文；最终，发展成为网络社交媒体反政府同盟组织。通过对是否为同时期注册账号、是否长期停用后突然启用、发帖时间是否有规律可循、是否只在电脑网页端发帖、是否为多个账号同时发送相同内容、是否只发帖无互动等情况进行深度分析后，发现其网络行为具有明显的规律性和一致性，表现出明显的有组织、有计划被统一操控的行为。

c.大量利用政治机器人账号。通过对网络社交媒体上大量账号和发帖进行机器自动扫描，能够发现如下政治机器人特征(如表1所示)。

表1 重点账号政治机器人操纵的特征表现及判断

除此之外，政治机器人操纵的账号还表现出一些明显特征。如，有的账号转推和点赞很有规律；有的账号会用多种语言发送推文，甚至包含人类用户通常不会发布的字符；有的账号没有头像、冒用他人头像或者使用卡通、风景、名人头像，具有匿名化特征；还有的账号使用的ID(指带有@的名字)是由算法生成的数字字母组合等。

通过对上述网络社交媒体账号的分析可以发现，域外势力通过网络社交媒体平台将各国“民主运动人员”组群，利用政治机器人等科技手段，采用团队操控注册新的网络社交媒体账号和启用历史僵尸账号的方式，大量发送虚假造谣网帖，并通过其掌控的新闻媒体及有影响力的个人账号进行大量转发，从而在互联网上快速传播，达到其特殊目的。

4 应对域外势力操控网络社交媒体的技术策略

随着计算机建模能力、仿真能力和推演能力的增强，以及人工智能技术的广泛应用，未来基于全域战、多域战的智能舆论战将会成为常态。舆论战行动和舆论战力量不仅将突破人类体力、脑力和智力的生理极限，克服人类容易疲劳、无法持久作战的弱点，并可以针对特定群体随时开展舆论博弈[25]。针对域外势力操控网络社交媒体的方法和路径，从技术角度提出两点应对策略。

4.1建立关键信息数据库监测管控高危账号对域外势力操控高危账号的治理和管控可以通过建立关键信息数据库，应用数据碰撞、比对分析的方法，全面掌控域外势力操控的社交账号信息以及易被迷惑群体的社交账号信息，有针对性地开展治理管控和教育宣传工作。一是要求国内网络社交媒体和应用软件建立平台举报功能，政府职能部门根据举报线索收集与域外势力反政府宣传相关的账号信息，并且对账号注册信息开展大数据建模分析，挖掘同类可疑账号，建立可疑网络社交媒体账号数据库。二是分析可疑网络社交媒体账号的人员注册信息及工商注册信息中的注册时间、注册地址、实缴注册资金、联系电话、网址、邮箱等重要内容，再利用大数据建模技术挖掘同类工商注册信息，形成高危工商注册数据库。这种方法和打击电信网络诈骗案件中针对涉案对公账户的数据建模分析模式基本相同，并且已有较成功的案例。三是利用可疑网络社交账号数据库和高危工商注册数据库开展数据交叉比对分析，形成高危网络社交数据库。同时，分析相关高危网络社交账号的资金流转、注册使用地址、关联设备、关系人员和关联社交账号等信息，挖掘背后的操控势力，形成域外势力操控高危网络社交账号数据库。同时，对关注和转发高危网络社交账号信息的社交账号进行分析比对，建立易被迷惑群体社交账号数据库。针对易被迷惑群体编辑和制作符合其思维和文化水平及其感兴趣的视频、图像、文章，有针对性开展正面宣传和思想教育宣传。

4.2利用人工智能技术有效识别和应对政治机器人政治机器人通过大量转发推文、参与话题进行广告发布或实现舆论影响，体现形式主要是虚假信息的传播。对于僵尸机器人按照共性特征可以将其推文内容细分为新闻、意见、垃圾邮件或者钓鱼邮件、证词、对话、突发新闻、动员抵抗或者支持、动员援助、征求信息、信息提供、流行文化等12类，再根据这些特征就可以对僵尸机器人账号与人类账号进行区分和识别。

网络社交媒体中对政治机器人的检测识别和治理管控主要包括两项：

一是运用人工智能和机器学习算法对共性特征集分析后，能够精准地对政治机器人进行有效识别，然后将机器人账号进行封禁或者从网络社交媒体平台中移除。同时，平台提供封禁账号的申诉功能，支持被移除账号提交恢复账号使用权的申请。基于社交图的检测法、人工众包检测法、基于活动特征的检测法是三类主要利用计算机学对机器人进行检测的方法[26]，再结合网络取证和社会网络分析技术能够对政治机器人进行更加准确的识别。其中，基于活动特征检测法通过应用社交机器人探测分类器能够发现机器人和人类在网络社交媒体上发文内容以及行为上的差异，探测分类器主要由四个部分组成：熵组件用于检测用户推文的规律性和周期；机器学习组件用于检测垃圾推文等机器人常用发文类型；账户属性组件通过检查推文中的外部URL比率或检查发文设备(web、移动端或API)以帮助检测和判断机器人；决策生成器组件用来决定被识别为机器人账户的管控行为。

二是政府和社交媒体平台共同建立服务于平台治理的机器人管理员团队。但要注意的是，需要将管理员团队中的机器人账号列为白名单，以免被人工智能检测算法识别后误移除网络社交媒体平台。该团队定期向网络社交媒体账户群发平台管理规范和约束性措施具体实施办法等规章制度和相关宣传资料，保证媒体平台监督部门与社交账户的强交互性以及媒体平台发布信息及时有效的传递性；机器人管理员团队通过神经网络等机器自主学习方法，不断迭代对政治机器人账号的检测识别算法，同时持续积累不同亚文化群体的语言形成语料知识库，全面提高对虚假信息识别的准确度；机器人管理员团队还能够完成话题分类和内容验证，对社交网络平台实时监督，在发现平台中存在虚假信息传播时，可以以相互关注、转发、点赞和评论等群体性行为与域外势力操控的政治机器人形成对抗；由于机器人管理员团队具有群体性进化演变能力，因此可以培养团队核心领袖机器人，吸引大量真人粉丝与其建立相互信任的关系，在处理突发性事件时第一时间利用领袖机器人的影响力传递正能量信息，从而实现揭穿虚假事件，还原事件真相，引导网民理性立场和站位，提升应对舆情事件的能力。

5 结 语

应对域外势力操纵网络社交媒体进行危害国家安全的行为，不是靠技术手段就能解决的，而是一个系统工程，涉及社会治理的诸多要素，受到方方面面的影响，不仅要强化对域外势力操控的社交媒体账号管控，全面治理网络社交媒体平台中利用政治机器人传播反政府虚假舆论宣传的行为；还要利用大数据建模和人工智能等技术坚决遏制境内外各种域外势力的反政府宣传活动；不断健全和完善法律体系，通过立法强化对网络违法信息言论的法律监管，寻求“网络自由”和“法治监管”之间的动态平衡。在总体国家安全观的指导下，各利益相关者需协同一致，积极构建政府、网络媒体平台和社会民众共同参与、共同监督、共同治理的多元共治新范式。