开源环境中网络极端信息特征分析

◆甄晓宇

（新疆互联网信息办公室 新疆 830000）

恐怖主义是网络极端化信息的重要表现形式。英国社会凝聚力研究中心（Centre for Social Cohesion）2008 年的报告指出，网络已成为恐怖分子的“圣战图书馆”，恐怖组织的传教平台，激进分子的交流场地[1]。前“基地”组织阿拉伯半岛分支重要成员安瓦尔·奥拉基（Anwar al-Awlaki）在美国长大并接受大学教育，被称为“邮件上的伊玛目”、“网络中的本·拉登”，利用网站传播“圣战文学”文章，鼓吹网民称为“互联网圣战者”[2-3]。伦敦警方2005 年逮捕网民“伊尔哈比007”，英美情报部门认定其为“基地”组织的网络恐怖活动服务，参与了发布恐怖主义资料、在线招募极端分子、为极端组织筹集资金等网络恐怖活动，并在规避一般网络议题监管、建立可靠的网络通信等网络技术方面起到了关键作用[4]。

极端主义在不同国家或地区的政治斗争、武装冲突、突发事件中，存在通过网络快速传播的现象。2020 年7 月联合国秘书长古特雷斯也指出，疫情凸显了人们在滥用数字技术、网络攻击和生物恐怖主义等极端行为面前的脆弱性[5]。在美国、欧洲等地，党派斗争、反犹主义、白人/反白人主义等社会群体结构性冲突在网络传播中显示出更多的不确定性。

为打击网络恐怖（极端）主义犯罪和管控网络极端意识形态传播，不同国家（组织）和主要互联网公司均采取了相关措施。美国参议院2015 年出台《美国国土安全部社交媒体改进法案》、2019 年欧洲议会通过《关于解决在线传播恐怖主义内容的规则》。2017 年 6 月，Facebook、Microsoft、Twitter 和YouTube 四家公司成立全球网络反恐论坛（GIFCT），旨在共同遏制互联网平台宣传暴力极端主义和恐怖主义。相对于政府行政部门在管控网络极端信息方面的能力，YouTube 公司在2019 年的一季度显示了更全面的能力，公司处理的视频共计140 万个，数量是政府提供问题视频数量的数百倍[2]。

从开源信息的语言（符号）、议题极端导向、主体规避监管的组织架构等方面做特征分析，提出相应的对策建议，可为做好开放网络空间中极端化信息综合治理提供一定参考。

1 极端信息的内容特征

极端信息的网络传播依赖于网络可接入性和信息个体从众程度。在网络可接入性不断提高的环境下，符合个体从众心理的信息，将有更广泛的传播。

1.1 语言的广泛性和精准性

1.1.1 语言的有效传播

网络空间中极端意识形态内容的传播，具有广泛影响力的语言主要包括英语、法语、阿拉伯语等。2015 年11 月13 日巴黎系列恐袭事件发生后，“伊斯兰国”组织在社交网站上用阿拉伯语和法语发表声明，宣称对此事件负责。在恐怖（极端）组织向非洲发展的案例中，“基地”组织北非分支在“提问-回答”的社交式网络互动提供了阿拉伯语、英语、法语等语言服务[6]。

网络极端意识形态内容小语种的传播，具有精准、高效的特征。《反恐秘密战：美国如何打击“基地”组织》中多次提到普什图语极端信息在巴基斯坦和阿富汗交界地区的传播、俄语极端信息在中亚地区以及俄罗斯高加索地区的传播等，而美国网络情报部门也以乌尔都语、波斯语以及其他伊斯兰世界语言进入网络开放论坛聊天室制造“混乱”[7]。

网络中极端化或具有极端化隐喻的符号、图片等具有情感动员的特征。具有一定宗教表达能力的服装在伊斯兰教、犹太教、佛教等宗教中均有体现，而一些服装被用于网络极端宗教传播具有象征意义，比如蒙面宽大的罩袍等。

1.1.2 多语境下的隐秘性

特定群体的语境下理解，具有一定的语境隔离。例如，包含民族主义框架的官方宣传对于威权人格低、意识形态偏右的个体很可能会漠视这些信息，也可能会产生逆反心理[8]。网络信息的监管造成被监管对象规避监管的能力提高，例如拼音、谐音、“黑话”等规避基于敏感词信息过滤的监管。

基于信息利用价值不同而产生的监管冲突，造成信息“不合理存在”。例如针对2005 年伊拉克大选投票前发布在网络上的“投票站清单”信息，执勤的美国军方为了投票站安全希望清理网络信息，而美国情报部门则不希望暴露他们已掌握的信息能力。

1.2 社会结构性冲突的极端化

网络空间中社会相对阶层间冲突的极端化。社会创伤尤其是经济创伤割裂社会，造成“受害人”的极端化倾向。近年来发生在欧洲的暴恐事件导致欧洲社会存在一定的穆斯林恐惧症，加上美国政府的禁穆令等，导致部分穆斯林背景的青年在西方社会中身份认同建构上失败，形成相对经济能力差的底层力量。社会经济底层群体与社会既得利益者之间的矛盾，在不当的社会网络舆论或网络极端主义言论的影响下向极端化方向发展，导致不同阶层的青年激进化或者成为潜在的激进行为支持者。

网络空间中社会群体间冲突的极端化。在同一社会中不同文化背景、种族背景的群体中，有利益冲突的网络渲染地缘政治冲突，如阿以战争、叙利亚内战和伊拉克战争等导致部分激进阿拉伯背景青年群体将美国、以色列视为敌人，并付诸行动。激进主义者利用网络自媒体平台、网络社交话题等，恶意引导和扩大不同群体对现实经济和政策的不满，以此来塑造一个对立的网络世界，继而导致网络外报复社会的极端行为发生[9]。

网络空间中其他社会结构性冲突的极端化。历史遗留问题、多元文化冲突、政治利益诉求冲突等社会结构性矛盾在网络的推波助澜下，社会极端事件多发。美国2020 年总统选举中标志性事件“攻占国会山”，是特朗普Twitter 治国的负面案例，特朗普及其支持者网络鼓动支持者通过暴力影响正常的政治程序，体现了美国所谓民主向民粹的转变，而参与群体的白人特征也表明多元主义急剧增加了社会结构的内在张力，继而导致社会分化事件发生[10]。马里兰大学主持的全球恐怖主义数据库（GTD）中记录了2019 年13 起香港极端事件，其中12 件极端事件无实施者说明（Unknown），1 件实施者标注为极端反政府分子（Anti-Government extremists），社会结构性冲突成为社会极端事件的诱发因素。

1.3 暴力极端

非主观意愿传播暴力极端的新闻镜头或社交媒体镜头，可能在网络上造成更广泛的影响。普利策奖作品《黑旗：ISIS 的崛起》，立场并非极端主义但是书的内容如“屠场主人扎卡维”、“这个国家，由扎卡维奠基”等，显然具有一定的负面鼓动性。暴恐案件经主流媒体报道后，自媒体大众会通过网络再加工后广泛的传播，甚至将不符合事件主流认知的信息大范围传播，造成偏离主流价值观的信息歪曲。而暴恐案件在极端意识形态信息中则被描述成“圣战”，被击毙的暴恐（极端）分子则被描述成将享受“天国的喜悦”。

暴力犯罪、斩首、爆炸物制作等暴力极端内容在网络空间的非法传播。2016 年07 月20 日人民法院报文章《男子“翻墙”下载暴恐视频、图片网上售卖》，被告人非法持有宣扬恐怖主义、极端主义物品，并通过淘宝、百度、微信等网络工具传播。2016 年10 月被广泛报道的文章《职校女孩被网友洗脑 要去参加“圣战”》，受害人网络上与一名自称“阿卜杜拉”的人成为好友，“阿卜杜拉”向其发送宣扬宗教极端思想、恐怖主义、极端主义的音频、电子书等资料。

2 极端信息发布主体的网络能力特征

2.1 网络恢复能力

极端组织或个人基于网络平台的规则通过注册账号、申请账号恢复、储备平台账号等方法，具备恢复使用目标网络平台的能力。“伊斯兰国”组织创建《网络开放式安全平台指南》（ISIS OPSEC Manual）、《支持者的安全》（The Supporter's Security）等刊物，指导极端分子恢复个人的网络平台使用能力。

极端意识形态信息在有限访问账号平台中因为个人隐私权力而获得有限规避监管能力。有限访问的论坛、个人平台账号、平台房间等，基于开源信息搜索的有限规则，无法实现有效监管。例如2015年美国土安全部开展了“If You See Something，Say Something”网络运动，以期在法律范围内通过网民积极参与，合法获取更多可能涉及国家反恐安全的个人信息。

开源网络工具中具有可读信息功能的均具有成为传播极端主义意识形态平台的可能。例如涉及个人隐私的电子邮箱、不具备聊天信息存储能力的游戏房间、Tor 浏览网页等在法律层面、技术层面等规避网络监管。公开报道显示，美国国家安全局在网络战争游戏的监控中遇到了游戏暴力语言和极端分子语言有相似之处的困扰，“他们是在谈论恐怖行动，只不过是在游戏中”[11]。

2.2 网络组织结构能力

极端组织结构有功能化分割的趋势，不同功能结构的网络行为区分以实现规避打击和实现组织目标。付举磊根据境内外“东突”组织活动信息做的“恐怖分子-恐怖组织”网络中部分组织的中心性指标分析显示，某些恐怖分子与恐怖事件的具体执行者联系并不多，但与其他恐怖组织的上层人物联系紧密，起着“领头人”作用[12]。

组织的现实变动导致网络信息的变动，需要网络信息的长期研判和网络信息主体溯源。例如联合国的一份报告认为从属于叙利亚“基地”组织的“东伊运”武装人员因在叙利亚损失严重有迁往阿富汗并投靠“东伊运”阿富汗分支的迹象[13]。极端组织的跨地理位置、跨网络平台的信息主体判断需要数据库比照。

3 网络极端信息管控的建议

3.1 做好特定语言信息管理

针对已发生极端事件区域或具有不稳定动态的对象开展语种或方言的网络信息动态掌握。根据已认定的极端符号、隐喻词语等做重点信息的管控。建立动态管理的特定语言或符号数据库，依据违法违规案例做好网络管控空间内非法语言或符号的存量信息清理和新增信息阻断工作；封堵可管控网络空间外与我国法律法规不相符信息或敌对极端信息的网络“信息倒灌”、“信息入侵”。

3.2 强化网络平台公司责任

强化手机APP 商城的网络产品审核，避免小众APP 成为网络极端信息的传播工具。审核体系应满足法律法规要求尤其是各地方法律法规的要求，避免地方性法律法规在可控网络空间的失效，防止网络空间相对无地域性和地方法律法规地域内执行的现实冲突。

根据已处置违规违法案例，实行网络平台案件指向性管控，提高境内网络存储、网络通讯企业的案件责任。根据各网络平台已发生案例中极端信息的文字、图片、语音等特征做平台自查，并建立比对数据库，杜绝相同极端信息在同一网络平台的反复出现。

规范平台企业内部网络议题设置管理和舆情导向管理，维护议题指向或舆情涉及主体的合法权益。

3.3 建立网络极端信息数据库

建立极端信息内容的数据库。依据已处置极端案件中信息特征建立文字关键词库、符号比对库、图片样本库、语音识别库，在技术识别和人工识别的基础上，创新AI 智能应用、大数据模型应用等，压缩极端主义信息的网络生存空间，提高网络公司用户信息自我审核能力，保障政府监管的可覆盖能力。

建立极端信息主体的数据库。已处理的网络极端信息发布主体在保障公民合法用网的基础上，进行网络标记，并建立预防性网络使用主体案例数据库。已处理网络极端信息未处置的信息发布主体予以关注，已处理网络极端信息无信息发布主体的将极端信息本身做主体特征纳入信息主体数据库，为可能的信息比对做好大数据基础。

3.4 全民监管

宣传网络典型违法违规案件，提高网民对网络违法违规的鉴别能力。鼓励网民参与网络安全建设，对于一些网络有限访问论坛或房间、有限访问个人网络空间的信息，开源技术下不可能完全阅读与审核，而广大网民则有一定的能力发现隐藏其中的极端信息，尤其是论坛或房间的发起人需具备一定的网络安全意识。

4 结语

传统的网络恐怖暴力信息持续存在，而社会结构性冲突信息在网络的传播中出现了相关议题极端化。网络极端信息发布主体在网络监管下开始以社会批评者的伪装出现，并和网络极端组织进行切割，试图逃避监管。建立网络极端信息和信息发布主体的数据库并合理共享，有利于监管机构和网络平台企业清除已有极端信息，阻止极端信息发布，并对极端信息发布主体进行管控。