“网络水军”违法犯罪治理路径研究

丁 勇,赵岐智

(中国刑事警察学院,辽宁沈阳110854)

网络普及加速了网络技术的快速发展,大数据、云计算等新型网络技术的广泛应用极大便利了民众的生活。但与此同时,一大批由网络公关公司所雇佣、通过互联网平台引导话题热点以获取经济利益为目的的网络人员不断涌现,“网络水军”应时而生。经济利益的追逐、公民信息素养的缺失、监管体系的不健全等因素成为“网络水军”乱象丛生的诱因。由于网络空间信息良莠不齐,网民分辨能力水平参差不齐等原因,部分网民无法分辨网络信息的优劣,并在自我表现意识的驱动下参与社会热点话题的讨论,成为“网络水军”。他们借助自主建设的网络基站,实施大规模的有偿发帖、删帖、公关、操控舆论等行为,甚至实施非法经营、寻衅滋事、侮辱诽谤、敲诈勒索等违法犯罪,扰乱网络社会秩序,严重违反公序良俗和威胁经济社会的和谐发展。因此,“网络水军”的违法犯罪活动具有严重的社会危害性,与网络强国建设的初心背道而驰,值得高度关注。

信息资源的海量共享使得网络信息能够在短时间内形成爆发传播态势。对舆论场影响力的积极利用是推动社会进步的重要力量,反之,消极滥用将带来不可估量的损失。[1]公安机关网络安全保卫部门肩负着维护网络安全的任务,依据法律法规加强网络空间监管,保护网民利益不受侵害。2021年,公安机关发起严打“网络水军”专项会战,当年共侦办相关案件200余起,抓获犯罪嫌疑人2000余名,依法关停“网络水军”账号620万余个、网站1200余个,解散网络群组17万余个,查获大量伪造的记者证、单位公章、营业执照等作案工具。[2]在取得阶段性成果的同时,需要认真总结网络综合治理体系建设成效,清醒认识面临的挑战和问题,探索“网络水军”违法犯罪更有效的治理路径。2019年7月,中央全面深化改革委员会第九次会议审议通过了《关于加快建立网络综合治理体系的意见》。党的十九届四中全会强调,要建立健全网络综合治理体系,全面提高网络治理能力；要充分发挥网络综合治理体系建设在治网管网中的牵头抓总作用,为营造良好生态、构建清朗空间、建设网络强国提供有力服务、支撑和保障。[3]

一、“网络水军”违法犯罪概述

(一)“网络水军”及相关概念辨析

“网络水军”一词的出现最早可追溯至2005年,彼时“网络水军”代指网民用户自主推出的网络推手。网络推手以传媒论坛为载体,借助口碑营销、社区营销等营销方式在网络公关的发展过程中不断壮大,并成为独立分支。[4]随着网络推手人数的逐渐增多,相继成立了各类网络公关公司。当前,“网络水军”则是指由网络公关公司所招募,依据任务委托者的要求,借助互联网平台引导或炒作某个热点话题、人物,以获取经济报酬和利益为目的的网络人员。[5]“网络水军”通过互联网勾连聚合、共享资源、相互吹捧,大量收集网上负面、有害的信息形成“资料库”;开发出售专门用于网络“灌水”活动的快速发帖机器人;利用“网络水军”文章参与网上评奖活动;形成特定的“网络水军”品牌,导致互联网上充斥着被设计、被杜撰、被编造的不实有害信息。综上，“网络水军”实施了一系列违法犯罪活动,扰乱了网络社会和现实社会的秩序。

(二)“网络水军”违法犯罪的典型特征

1.“网络水军”成员在互联网上操作灵活、分布零散。任务委托者往往要求“网络水军”引导舆论话题或者发帖、删帖、制造声势,而发布网络信息是其完成委托者交办任务的主要手段。在此过程中,“网络水军”仅需进行信息输入并发送,相关操作十分灵活,一台电脑或者移动设备即可完成。“网络水军”成员通过互联网络接受上级网络公关公司或“网络水军”组织者发布信息的任务,并最终通过网络平台获取相应报酬,其中，“在线办公”是其主要工作方式。因此,“网络水军”成员具有明显的零散性分布特征。

2.“网络水军”成员具有多元化特点。“网络水军”的网络行为操作简便,因此,其成员的入行门槛低。相关调查结果表明,水军成员往往被“网络水军”活动的经济报酬所吸引。部分网络用户在经济的利益驱动下成为“网络水军”,其主体成员遍布于多个阶层和职业,包括学生、上班族等。“网络水军”多元化成员素质良莠不齐,从事网络水军违法犯罪活动不需要高深的文化理论和熟练的计算机操作能力,仅需具备一定的上网能力即可。[6]“网络水军”成员的多元化特点决定其成员的行为往往缺失理性,一定强度上增大了“网络水军”的治理难度。

3.“网络水军”违法犯罪具有较强的隐蔽性。这主要表现为水军身份与水军行为的隐蔽性。“网络水军”群体隐蔽在互联网络中,互联网络匿名属性使得水军网络用户隐藏自我身份成为易事。同时,其违法行为的隐蔽性还表现在水军用户通过发帖、删帖的方式为他人造势。普通网民发布对于相应事件的看法后,水军随之与普通网民进行信息互动,并建立关于热点话题的网络空间域场。水军藏匿于网络空间域场的普通网民之中,增加了公安机关网安部门以及网络监督平台的识别难度。

(三)“网络水军”违法犯罪的社会危害性

1.“网络水军”违法犯罪危害国家安全,损害国家利益。网络安全是国家公共安全的重要组成部分,因此,全社会必须切实承担起维护网络安全的公共责任。“网络水军”对利益的追逐使自身失去辨别信息真实性的能力。一些不法组织甚至趁机对“网络水军”进行渗透,利用“网络水军”实施煽动分裂国家、破坏国家统一的活动,对国家安全造成严重威胁。

2.“网络水军”违法犯罪破坏市场经济秩序。数字经济的发展,使各类企业之间的竞争关系转移至网络空间中。部分行为人为赢得垄断地位而在网上发表不当言论损害其他企业形象与声誉,实施虚假宣传行为,给他人造成重大损失、为雇主带来明显的经济效益。随着“网络水军”的深度介入,一条黑灰产业链逐渐形成。“网络水军”的运作以产业化流程呈现,“网络水军”团队接收相关订单,依据客户需求设计营销内容,并根据网民用户可能出现的心理反应实行心理控制机制。随后,雇佣水军展开周期性的密集发帖、转贴、评论等,形成集束效应。通过一系列的信息发布、制造热点话题等方式达到宣传或抹黑某一事物或人物的效果,甚至操纵网络舆论,并根据网络空间的话题占领程度和目的要求由客服支付相应报酬,按照“网络水军”内层级分工分发金额不等的报酬。产业链的形成一方面严重影响网络空间秩序维护,另一方面严重干扰金融管理秩序与生产过程。[7]

3.“网络水军”违法犯罪堵塞网络空间,架空网络民意,影响社会稳定。水军成员在话题炮制前,往往先控制熟悉的场域流程,使其成为封闭的舆论场域。此后,“网络水军”在舆论场域的控制程度不断加强,话题热度高的一方在场域的控制下随之变强,而持有相反观点的网民为避免受到舆论场域内强势派的攻击选择保持沉默,从而向着更弱的方向发展,出现“沉默的螺旋”现象。[8]当前,全社会正处于新型冠状病毒防控常态化时期,一些不法分子在网络空间传播虚假信息,借助社会热点事件挑动网民对立,误导公众舆论,破坏政府在民众心中的威信力与信任度,影响社会稳定的发展。

二、“网络水军”违法犯罪的治理困境

“网络水军”违法犯罪的治理工作应以问题为导向,不断提高治理成效。当前,“网络水军”违法犯罪的治理工作取得了一定的成绩,但仍存在不少问题,面临一些困境,主要体现在监管主体单一化、法律法规体系缺失和识别技术落后三个方面。

(一)主体单一,系统性治理体系尚未形成

“网络水军”违法犯罪复杂且隐蔽,仅凭社会自发调节机制，对“网络水军”的治理很难取得明显成效。公安机关代表行政主体承担着“网络水军”违法犯罪的治理与打击工作,单一治理格局的局限性使政府作为治理主体愈发表现出回应能力的不足。目前,网络运营商、社交媒介行业尚未承担起应有的社会责任,部分网络企业缺乏社会诚信,他们只是以盈利为目的。“网络水军”违法犯罪的治理工作亟需转变以政府治理为中心的单一格局,形成由共同目标支撑的多元化主体协同治理模式。[9]

(二)立法滞后,执法依据不足

法律是依法治理“网络水军”的重要保障。近年来,我国针对“网络水军”治理工作已出台一系列相关法律法规,但主要侧重于对网络信息的事前审核,而针对治理和打击方面的立法仍相对薄弱,相关法律法规针对“网络水军”违法犯罪的刑事责任主体、情节严重程度的界定存在模糊之处。现行刑法对“网络水军”背后公关公司的惩处已有明确的规定,但对于“网络水军”行为本身的界定仍存在模糊之处。因此,从事违法犯罪活动的“网络水军”存在侥幸心态,不断试探法与非法的界限。[10]结合“网络水军”的群体特征,需要从两个方面考虑:一是“网络水军”行为的情节严重程度,基于此判定“网络水军”的危害性是否达到刑罚标准;二是我国现行刑法规定的罪名能否含括“网络水军”的行为和“网络水军”群体本身，并依法予以惩治。

当前,司法机关在相关违法犯罪的治理中,大多按照反不正当竞争法及诽谤罪对案件进行定性,造成“网络水军”违法犯罪案件的量刑依据不足与打击效率低下。立法环节的缺失和滞后,使公安机关在治理“网络水军”违法犯罪过程中的执法依据不足。

(三)传统识别技术落后,“网络水军”违法犯罪活动识别效率较低

互联网的匿名性为“网络水军”隐藏于普通网民之中提供了便利,提高了对“网络水军”的甄别难度。要提升对“网络水军”违法犯罪活动的打防效率,必须升级对“网络水军”的识别技术。在现有的研究中,对“网络水军”的识别主要基于内容特征、行为特征和用户关系特征的识别技术。内容特征的识别技术主要使用关键词分类法、文本分析和B-Tree索引。行为特征的识别技术以贝叶斯定律算法、决策树分类、K-Means聚类算法和逻辑回归算法四种方法为基础。运用神经网络分类法和贝叶斯网络模型对“网络水军”成员进行识别,可以减少漏判现象,在一定程度上提高了识别的准确性和实用性,但仍存在诸多缺陷,需进一步深入研究。[11]

总结现有研究,“网络水军”识别技术主要存在以下几个方面问题。第一,相异类别领域内的“网络水军”具有独特的行为和内容特征,其识别研究的要求各不相同,因此,相异类别领域内的识别方法并不同等适用。第二,传统的“网络水军”识别依然采取人工标注的方式。人工标注需要耗费大量的人力资源与时间成本,标记的主观性因素会对“网络水军”用户识别的准确性产生影响。第三,“网络水军”个体成员的去个性化特征使得其在网络组织的遮蔽下“表现正常”。利用评论内容特征或者其他识别个体“网络水军”的行为特征来识别“网络水军”团体较为困难。[12]

三、网络社会综合治理背景下“网络水军”违法犯罪的治理路径

打防“网络水军”违法犯罪活动是网络社会综合治理的组成部分,有利于净化网络环境,解决网络社会治理的问题,确保网络信息安全,积极引导网络社会健康发展,为实现网络强国目标,维护国家和社会的长治久安提供切实保障。因此,在网络社会综合治理背景下,亟需不断总结工作经验,探索完善“网络水军”违法犯罪的治理路径。

(一)多管齐下,发挥公安机关的主导作用

2016年4月,习近平总书记在网络安全和信息化工作座谈会上指出,网络安全为人民,网络安全靠人民,维护网络安全是全社会共同责任,需要政府、企业、社会组织、广大网民共同参与,共筑网络安全防线。面对“网络水军”现象,公安机关必须发挥治理的主导作用。比如，针对相关舆情的监管工作,要充分发挥网安民警的骨干作用，敏锐感知舆情和搜集犯罪线索。要将电子证据的特殊属性转化为侦查优势,分析电子数据的暴露信息,依据证据链条寻找线下证据,达成线上证据和线下证据的一致性。网安部门要依法严格监管网络媒体,参与社交媒介的行业治理,促进主流媒体与传统媒介发挥舆论的引导作用。又如,针对社会影响较大的舆论话题，应当发挥公安机关行政力量,引导民众认知,以主流官方形象从源头上遏制“网络水军”违法犯罪行为的发生。立足治理主体,公安机关应与多方主体统筹协作,共同打击“网络水军”违法犯罪产业链,全链条重点打击“网络水军”违法犯罪的生态系统,全领域铲除“网络水军”违法犯罪的滋生土壤。

互联网行业作为网络环境的主要责任主体,必须主动承担相应的社会责任与法律责任,建立完善的网络文明规范,努力发展积极健康的网络文化,进一步完善网络文明教育机制,引导民众合理使用数字产品和服务。公安机关等职能部门要切实强化行业监管和源头治理,监督互联网行业分环节治理刷分控评、刷单炒信、刷量增粉、刷榜拉票等流量造假问题;要聚焦生活服务、书影音评分、社交、短视频等平台,重点整治雇佣专业写手和“网络水军”虚构“种草笔记”“网红测评”等现象,或通过“养号”、占领前排好评、劝删差评等方式,对影视、歌曲、文学作品以及商品、美食、景点进行刷分控评;紧盯平台旗下的短视频、直播、电商平台等商品营销环节,治理虚假销量、虚假好评等问题;重点关注社交资讯、论坛社区、视频直播、应用商店、小程序等平台环节,整治批量购买粉丝、增加“僵尸粉”“达人粉”,组织水军制造虚假阅读量、评论量、转发量、点赞量、下载量、曝光量等问题;密切关注各类网站平台“热搜榜”“排行榜”“热门推荐”等榜单位置,严肃查处利用人工或技术手段恶意炒作、刷榜拉票等问题。同时,公安机关要强化与互联网行业的合作机制,与互联网行业的主管部门共同实施技术反制,提升预警监测力度,建立健全安全评估、责任追究、信用惩戒等制度,进一步明确互联网行业的监管责任,推动相关行业强化源头治理。

普通民众看到“网络水军”所炮制的话题时,往往无法对其信息的真伪进行辨别,他们选择浏览热点话题的相关网络信息,但信息情感的极端性往往使他们在面对信息冗余时采取从众行为。[13]诸多网民发布相似言论,会进一步加重网络空间域场的舆论倾向性。因此,教育部门要加强公民媒介素养的培养,提高辨别媒介信息的相关能力。媒介素养是指对不同网络信息进行甄辨、筛选、分析与判断的能力。[14]公安机关可以通过联合教育部门共同提升数字社会法治道德规范的教育力度,引导全民依法上网、用网。积极开展网络普法,强化网络空间生态治理,规范网络传播秩序,加强网民自律。

(二)完善立法,厘清公安机关执法边界

在立法领域,应不断完善针对“网络水军”违法犯罪的相关立法。从民事法律来看,“网络水军”所产生的违反民法的行为主要表现在侵犯其他公民的民事权利,如人身权利、财产权等。受雇佣的“网络水军”实施的“人肉搜索”行为对其他网民人身权利造成侵犯，针对上述侵犯民事权利的行为,立法机关应当对“网络水军”的涉案金额标准以及依据违法犯罪类型所侵犯的民事权利作出相应的规定。基于刑事法律立法视角,立法机关应对“网络水军”违法犯罪的刑事责任主体和情节严重程度作出相关规定,为公安机关侦破“网络水军”违法犯罪提供执法依据。立法的不断完善,将改善执法环境,提高公安机关的执法水平,保障公安机关依法有效地行使职权。

在执法领域,针对当前处理相关案件过程中存在的问题,应厘清公安机关执法边界。当前,对涉及侵犯民事权利的相关案件,公安机关可根据民事法律规定,通过要求“网络水军”组织者赔偿损失,“网络水军”源头传播者就虚假信息向受害者公开赔礼道歉、消除影响等救济办法进行综合治理。“网络水军”违法犯罪活动涉嫌违反刑法时,公安机关在执法过程中应依据刑法以及刑事诉讼法,结合现实案件侵犯情况对相关人员进行查处。首先,针对刑事责任主体问题,应根据“网络水军”相关责任主体的评定标准对“网络水军”违法犯罪行为人的主体身份进行判定,提高对“网络水军”打击的针对性。其次,针对侦查过程中情节程度的判定问题,立案侦查中应当考虑以下三个问题。一是对于明知是虚假信息而予以推广和发布的，在将发布虚假信息行为入罪时,需对虚假信息及行为人的主观故意进行判断。二是对于提供有偿删帖服务的,必须考虑“网络水军”的行为是否具备职业犯的类型特征。[15]三是对于为他人销售违禁品设立网站的,在侦查过程中应重点强调信息内容的违法性。执法边界的厘清将为“网络水军”违法犯罪的治理提供法律保障,从而进一步提高“网络水军”违法犯罪的治理效能。

(三)创新治理技术,实现舆情预警

“网络水军”通过多个社交账号在不同网络的社交平台发布恶意信息,严重威胁正常用户的信息安全和社交网络的信用体系。公安机关网安部门应与时俱进,充分利用各种先进的技术手段,提高治理效能。目前,基于机器学习的异常值检测已成为在线网络社交的热点技术,借助机器学习算法实施网络过滤是“网络水军”违法犯罪治理的创新技术。利用机器学习策略实施网络过滤的优势之处主要表现为两个方面。一是在用户特征提取方面,可对互联网平台上用户的注册、网络、行为、文本等方面的显性特征和隐性特征进行综合提取。[16]在提取过程中还可借助融合特征提取方法，这种方法对用户分类标签的描述更为直接,可达到更优的检测效果。二是在分类算法选择方面,将集成迭代算法应用至“网络水军”用户检测中,对包含多维特征的样本进行分类,并在处理大数据中发挥明显的优势。

基于机器学习实施“网络水军”用户检测的原理是将异常用户的检测建模为二元分类问题,在分类过程中采用径向基函数(Radial Basis Function,RBF)和十倍交叉验证法(Cross Validation,CV)等统计分析方法来训练数据并获得分类器,使用支持向量机(Support Vector Machine,SVM)来甄别“网络水军”用户,将异常账号检测视作数据挖掘中的分类问题,利用数据集训分类模型对未标注的数据进行检测。在检测分类过程中,将发布评论的非语义行为特征和语义行为特征分别作为向量集训练SVM分类模型并添加到分类器中,从而实现检测效能的提升。[17]在非语义行为特征方面主要通过回复百分比、平均发帖间隔时间、用户保持活跃的天数和用户评论的新闻报道数量四个方面的统计分析,调查有助于捕捉潜在付费海报特殊行为的客观特征。相较于非语义行为特征,语义特征有效解决甄别发布无意义信息或矛盾信息的“网络水军”用户的问题,其基本思路为搜索各种评论之间的相似性,[18]将用户评论转化为实词列表,设置相似评论对的阈值,并通过共同内容词的数量与较短内容词列表的长度之比确定相似评论概率。如果用户有多对的相似评论,则该用户被认为是潜在的“网络水军”用户。基于此,可根据用户发布信息中的关键字、URL指向、文本内容等方面的特征来判断账号的真伪以及是否为“网络水军”。[19]

在“网络水军”治理过程中,公安机关网安部门要进一步落实网络实名制度的基础设施技术建设,建立重大舆情预警系统。可设立居民身份证网上副本和电子身份标识作为网络身份凭证,确保网络身份的真实性、有效性。[20]与此同时,要严格落实网络实名制,完善网络可信身份体系建设。近年来,我国已经推行网络用户实名制,但尚未完全普及。纵观“网络水军”违法犯罪的治理路径,对网络用户的匿名性发言依法进行监管可以在一定程度上杜绝“网络水军”的产生,[21]因此,要大力发挥互联网实名制度基础设施和技术的优势作用。此外,公安机关要以相关大数据、互联网信息系统为依托,采用人工智能、机器学习等先进技术,实现对于矩阵式数据自动化分析,研判犯罪的可能性比率,生成犯罪预测研判报告。要采取多种网络监管和技术侦查措施,环环相扣,全方位筑牢打防“网络水军”违法犯罪活动的技术防护网。

面对新时期网络社会的复杂形势,要加强互联网内容建设,建立网络综合治理体系,形成党委领导、政府管理、企业履责、社会监督、网民自律等多元参与,经济、法律、行政、技术等多种手段相结合的综合治理格局。同时,要在管网治网上出重拳、亮利剑,从根本上扭转网络空间乱象丛生、被动应对的局面。

四、结语

互联网络的快速发展为“网络水军”的发展壮大提供了载体。在互联网络的“遮蔽”下,“网络水军”的隐蔽性、灵活性与成员的多元化特征为其从事违法犯罪活动提供了便利条件。针对“网络水军”违法犯罪治理工作中存在的诸多问题,公安机关应联合相关部门,多管齐下,打造健康网络空间;完善有关“网络水军”的立法,厘清公安机关执法边界;迭代升级识别技术，提升网络治理水平;鼓励、引导和组织人民群众参与网络社会治理工作,充分发挥群防群治作用。面对信息化变革带来的新机遇和新挑战,必须敏锐抓住信息化发展的历史机遇,加快建立网络综合治理体系,全面提升治网管网能力和水平,自主创新推进网络强国建设,推动我国从网络大国建设向网络强国阔步迈进。