网络内容治理：基于负面清单的信息质量监管

文／何明升

网络内容治理是互联网管理的重要组成部分。党的十九大报告中提出“要加强互联网内容建设，建立网络综合治理体系，营造清朗的网络空间”后，网络内容治理成为一个热点话题。但是，现有文献对于网络内容治理的概念鲜有论述，对网络内容治理的负面清单以及更深层次的价值选择、体系与制度建设的认识尚有不足。

一 怎样理解网络内容治理

（一）直观意义上的网络内容治理

在直观意义上，可以将网络内容治理看作是国家对互联网信息质量的控制，具体表现为对互联网信息的生产、传播、使用各环节的质量控制，以及对互联网中优质信息和劣质信息的定向扬抑。为什么可以把网络内容治理视为对互联网信息质量的控制？因为它不像“网络治理”“网络文化建设”那样需要全方位推进和正向激励，而仅仅是对发展过程中的“不合格”产品和不良行为进行局部性控制和负向作用，二者之关系与企业中的生产管理与质量控制相类似。弄清楚这一点，有利于防止把网络内容治理的范畴扩大化，避免目前许多文献中存在的将网络内容治理与网络治理混用的现象。

这种直观意义上的网络内容治理，还存在广义和狭义的区别。广义的网络内容治理，是对全部互联网信息的质量控制，既包括互联网信息的生产、传播、使用等所有环节，也包括保护优质信息、抑制劣质信息等多重目标。从互联网信息的流通过程看，网络内容治理首先要把住信息生产关，尽可能减少“不合格”产品，即违法和不良信息；此后，则要通过阻断违法和不良信息的传播来降低其负效应；此外，还要通过监护人等责任主体控制青少年等特定对象对这类信息的接触和使用。从互联网信息的性质上看，除海量无需控制的产品和信息外，有些是需要特别保护的，如具有知识产权的产品和涉及个人隐私的信息；有些是需要极力抑制的，如垃圾产品和虚假信息。这些都可以理解为网络内容治理的广义范畴。

狭义的网络内容治理，仅强调对不合格和不良信息的监管，特别针对互联网中劣质产品的生产、不良信息的传播和使用。这种狭义的网络内容治理意涵，不仅在理论上更容易与“网络治理”“网络文化建设”等广谱性概念相区分，而且在实践中更容易进行操作化把控执行，因此更加凸显其固有的概念特征。现实中，世界各国一般都将网络内容治理理解为对不合格互联网产品和不良信息的监管，并在这个意义上构建自己的监管体系，进而形成各具特色的监管模式和法律文本。

（二）网络内容治理中的负面清单

理论上，网络内容治理既可选择正面清单模式（positive list mode），也可选择负面清单模式（negative list mode）。所谓正面清单，就是列明互联网内容服务商（Internet Content Provider，ICP）、互联网服务提供商(Internet Service Provider，ISP)、网络媒体、自媒体等各类网络主体可以生产什么互联网产品、可以传播什么互联网信息、可以使用什么网络内容的领域和名目。由于网络内容形态颇为多样，包括声音、文字、图片、视频、音频以及多媒体广告、游戏等，再加上各种网络内容都在呈几何式增长、对社会生活的覆盖呈地毯式扩张，因此网络内容治理的正面清单难以列出。更为重要的是，互联网本身就是一个依靠网络内容的生产和传播才得以存续的交互平台，其中的绝大多数信息是不需要限制也是不应该限制的，因此正面清单模式并不适于网络内容治理实践。

与此相反，负面清单仅列明哪些互联网产品不能生产、哪些互联网信息不能传播、哪些网络内容不能使用，除清单所列禁区外，其它网络内容并无限制。实践中，世界各国不仅多采用狭义的网络内容治理概念，即强调对不合格互联网信息的监管，而且大多推出了网络内容治理的负面清单。总体来看，虽然各国对网络内容的限制差异较大，但“对于如下信息内容基本上都持否定态度：（1）儿童色情；（2）恶意诽谤和中伤他人；（3）煽动战争、民族仇恨和恐怖主义；（4）煽动分裂国家或者暴力倾覆政权”。[1]

我国在媒体管理中实行严格核准主义，与此相对应，对网络内容的限制也较为严格。国家明令禁止传播的网络信息主要有：“(一)反对宪法确定的基本原则的；(二)危害国家统一、主权和领土完整的；(三)泄露国家秘密、危害国家安全或者损害国家荣誉和利益的；(四)煽动民族仇恨、民族歧视，破坏民族团结，或者侵害民族风俗、习惯的；(五)宣扬邪教、迷信的；(六)散布谣言，扰乱社会秩序，破坏社会稳定的；(七)宣扬淫移、赌博、暴力或者教唆犯罪的；(八)侮辱或者诽谤他人，侵害他人合法权益的；(九)危害社会公德或者民族优秀文化传统的；(十)有法律、行政法规和国家规定禁止的其他内容的。”[2]实践中，我国的网络内容治理都直接或者间接遵循着这个负面清单。

（三）对网络内容治理的深层理解

在深层意义上，我们可以把网络内容治理视为一种以负面清单为基础，政府主导、多主体协同的信息质量监管。首先，网络内容治理本质上是一种信息质量监管。监管（regulation）意为监督性管理，是指在保持一定距离的基础上为维护事物正常运行而进行的监督和控制。因此，信息质量监管就是为维护互联网正常运行，对网络信息质量进行的既保有距离又有效干预的监督和控制。一方面，信息质量监管不是针对网络信息的“量”，而是针对网络信息的“质”，只关注信息生产是否“合格”、信息传播和使用是否“违法”；另一方面，信息质量监管不同于全谱系的互联网监管（internet regulation），它只关注互联网中的信息内容。再有，除非发现了不合格网络信息产品和违法信息行为，它一般不干预互联网的正常运行，而只是进行有距离的监督和察看。

其次，这种信息质量监管要以负面清单为基础。既然要对不合格网络信息产品和违法信息行为进行监督和察看，就要说清楚什么是不合格网络信息产品、什么是违法信息行为，这样一来，负面清单就成了网络内容治理的前置性基础。事实上，信息质量监管应该是一种被动性管理方法，它只能在发现不合格网络信息产品和违法信息行为的基础上才被启动，在互联网正常运行时只处于预警状态，因此，负面清单也是启动网络内容干预手段的触发装置。目前，基于负面清单的信息质量监管已成为一种国际公认的网络内容治理模式，世界各国都将其作为信息质量监管的法律依据和执行标准。

最后，网络内容治理需要政府主导和多主体协同。监管的英文“regulation”含有“政府主导”“需要立法提供法律依据”等含义，[3]强调来自国家政府的监督管控和强制规范。但是，政府主导并不是政府包办，立法和法律也不能包打天下。因此，网络内容治理的另一个特点就是多主体协同，即政府部门、互联网企业、网络媒体以及全体网民之间的协同治理。其中，政府主导主要体现为负面清单的制定、法规政策的出台以及必要的强力手段，具体的监管过程和大量的治理行为还是要在多主体协同中去完成。

二 国家与社会对网络内容治理的价值选择

（一）网络内容治理的两种价值向度

在网络内容治理中，“安全”是最基本的价值向度，由此也奠定了负面清单的基础性地位。这里的“安全”包含三层含义：其一，是系统层面的安全，指“网络系统中的硬件、软件及其系统中的数据受到保护，不因为偶然的或者恶意的原因而遭到破坏、更改、泄露，系统连续可靠正常的运行，网络服务不中断”。[4]其二，是社会层面的安全，指社会秩序得到维护，不因网络信息外部性而使社会失稳、动荡和遭到破坏。这里的网络信息外部性，是由于某社会主体使用、发布网络信息而对其他社会主体造成的影响。其三，是国家层面的安全，亦称国家网络安全，指一个国家维护网络主权，不因外敌网络攻击而受到打击、遭到颠覆。

网络内容治理的另一个基本价值向度是“发展”，它代表着互联网治理的目的性和“硬道理”。首先，从信息网络技术演化的长时段看，网络内容必须要抢先发展，否则会“不用则退”。假如一个国家在上世纪末建设了当时最先进的互联网基础设施（WEB1.0），就同时具有了以门户网站为中心节点生产网络信息产品、传播和使用网络信息的巨大潜力，可支持新闻组、电子邮件、信息检索、BBS的开发和运行。但如果它不能在网络内容上抢先发展，就会随着信息网络技术的演化被WEB2.0技术所淘汰，从而出现“有技术、无发展”的“不用则退”现象。其次，从同一技术世代的短时段看，网络内容必须要繁荣发展，否则就会“不用则废”。若一个国家具备了目前先进的互联网基础设施（WEB2.0），它将有能力形成如微信那类的精细传播工具，打通线上与线下的界限，构建某种基于熟人关系的全方位社交空间，实现信息推送模式的自主化和互动化。但由于某些原因发展受阻，则会延缓WEB2.0时代的网络内容建设，从而出现“有平台、无繁荣”的“不用则废”现象。可见，对于网络内容建设而言，“发展”是其基本要务。

（二）政府在价值选择时的合理定位

作为网络内容治理的基本价值向度，“安全”和“发展”同等重要但不一定可兼得，就像公平与效率既同等重要又不可兼得一样。因此，“各国政府几乎无一例外，均实行‘一手抓安全、一手抓发展’的政策。在安全方面，政府职能主要表现为事前预防和事后惩处；在发展方面，政府职能主要表现为政策制定和政策执行”。[5]这样一来，政府在信息质量监管中的定位就成为一个关键性问题，它代表着国家对“安全”和“发展”这两个价值选项的权重，决定着特定信息质量监管模式的形态和价值阶梯。那么，影响政府定位的因素是什么呢？

首先，是国家的信息网络技术能力。近年来，人们越来越担心网络空间这个风险之地，将其视为“点击中的风险社会”。许多人认为，“风险社会的根源不能仅仅从网络的发展来理解，但是，网络时代的到来无疑是风险社会的催生婆，从实际的历史进程看，风险社会是网络时代不可避免的历史后果”。[6]此时，社会大众自然要把网络安全归责于政府，因为“自从政府出现以来，在任何一个社会共同体中，人们总是首先把共同体的秩序寄托于政府，社会秩序的保障和供给一直是行政管理的基本要义”。[7]面对如此压力，政府在权衡安全与发展的关系时，自然要对国家的技术能力进行评估。信息网络技术能力强的国家因能够确保网络安全会将“发展”作为价值选择的第一顺位，反之，技术能力不足的国家因网络安全之忧会把“安全”作为价值选择的第一顺位。

其次，是民族文化在国际网络生态中的态势。网络社会在一定意义上应验了“地球村”式的猜想，也引发了一些人对“大一统网络文化”的预言。事实上，即便是在互联网笼罩世界的条件下，人类文化也还是要保持某种群落式的多样态形式。所不同的是，由于互联网的扩张特性放大了人类文化的共同结构和文化交融趋向，各国政府在选择网络治理价值顺位时不得不面对某种意识形态霸权。这样一来，那些与西方全球化、普适文化相亲和的国家，会秉持发展优先的网络治理价值观，而那些非西方文化国家则更偏重于“安全为大”的网络治理价值观。

最后，是国家的硬实力。应该看到，目前的世界仍处于强权时代，主义和价值的推行也是依附于国家硬实力之上的。因此，无论理论上如何论证、意识形态上如何纠结，各国政府在选择网络内容治理的价值向度时都不得不考虑自己在国际舞台中的硬实力。从这个意义上说，民族自信、文化自信、制度自信都是以国家实力为基础的，普遍主义的具体内容也会因国际政治生态的变迁而有所变化。动态地看，政府在网络内容治理中的价值向度是一个可选择、可调节的变量。随着一个国家硬实力的不断增长，其网络内容治理中的价值向度会从“安全为大”逐渐调整为“发展优先”。

（三）虚实相宜性的社会需求

如何理解网络内容治理与现实社会治理的关系，不仅影响着网络信息质量监管模式的构建，而且影响着负面清单的制定。在互联网与社会相互嵌入的环境下，网络内容治理的关节点就在于：能否以互联网这一巨型工具的内在规定性为基础，成功地构建起与现实社会相适应的网络信息质量监管模式。概言之，社会对网络内容治理提出了虚实相宜的客观需求。

首先，网络内容治理应具有与现实社会治理相协调的价值顺位。无论是现实社会还是虚拟社会，也无论是发达国家还是欠发达国家，“发展”都是来自于社会的永恒需求。但不同的国家甚至同一国家的不同时期，会因为承受不同的“安全”压力而面临完全不同的发展环境，并且在“发展”与“安全”之间做出不同的价值选择。美国是最早进入信息社会的国家，互联网的普及程度很高，“发展”一直是其网络内容治理的不二选择。在“9·11事件”之前，极力宣扬网络自由并放松对网络内容的管理。但“9·11事件”之后，美国因国家安全考虑开始加强网络内容管理并通过《爱国者法》加以明确体现。相比较而言，中国始终存在着较为严峻的社会稳定压力，“维稳”不仅是社会生活中的热词而且是政府工作的要务。与此相协调，我国的网络内容治理呈现出以安全为前提的发展观。

其次，网络信息质量监管的负面清单应该与现实社会治理呈现出一致性的价值表达。负面清单无非是对违法和悖德信息行为的罗列，其中，违法信息行为须严格禁止，悖德信息行为则是一种“当”与“不当”的价值判断，二者共同构成了网络信息质量监管的价值表达。在这里，与现实社会相一致的网络伦理和法律规则发挥着重要的基础功用。在网络空间中，无论是主题社区还是公共平台，都要共享一些伦理规则和法律规则，它们是网络内容治理的基础和内核。这些伦理规则和法律规则是人们在实际行动中自觉服从的行为准则，在总体上构成一组规则集。从过程上看，一个网络社区的形成必然伴随着现实规则的移入，那些与现实社会相融的行为规范会随时间推移占据主导地位。这些网络伦理和法律规则承担了非常重要的网络内容治理职能，相关的戒律、要求及行为规范，都源于共同准则的相互性逻辑，体现了网络与现实相一致的价值表达。

三 网络内容治理的体系与制度建设

网络内容治理体系是一个基于负面清单的多主体执行结构，也是政府和其他责任主体尤其是网络主体之间的协同运作模式。通过这一执行结构，政府要在“发展”与“安全”之间找到恰如其分的定位并通过负面清单发挥其主导作用，各类责任主体都要依据其在运作模式中的地位各行其职。

（一）政府定位与负面清单

静态地看，一国的网络内容治理体系是在既有国情下对“安全”与“发展”的权衡和定位；动态地看，随着国家实力的不断增长，其网络内容治理中的价值向度会从“安全为大”逐渐调整为“发展优先”。实践中，政府监管是通过政府各部门的分工与合作共同实现的，有关部门的职责和协同关系则要看政府在“发展”与“安全”之间的定位情况。一般说来，各国政府都设有网络内容安全管理部门如行政司法、公共安全、国家安全等，同时也设有网络内容发展管理部门如电信部、文化部、广电部等，但谁来管什么尤其是网络内容安全管理部门何时介入、介入到什么程度却差异极大，从而形成不同的政府监管体制。

如果政府定位偏于“发展”，其“安全”管理部门应该是后置的，即在惩治阶段拥有较多职能，此前的网络安全主要是借助有关部门的预防措施来实现。美国是这种监管模式的典型国家，在惩治阶段的主导部门是以司法部联邦调查局（FBI）为核心的安全部门，负责非法有害网络信息调查、惩处和司法救济。在此之前，商务部国家电信和信息管理局（NTIA）、联邦通信委员会（FCC）等管理部门则负责制定、实施有关预防措施，如推广“电子分级过滤计划”（E-Rate Program）等。这样，网络发展管理部门在网络内容治理体系中的作用会更加明显。其它西方发达国家如英国、日本，大体上也采用这种后置型“安全”管理设置，体现出发展优先的监管理念。

如果政府定位偏于“安全”，其“安全”管理部门应该是前置的，不仅在惩治阶段拥有较多职能，而且要贯穿于网络内容管理的全过程。这样的监管模式，可能是因为“安全”压力较大，也可能是因为有关部门的预防措施不到位。在我国，工信部、新闻办、公安部等政府部门共同负责非法网络信息的举报受理、发现报告、审计检查和惩治处理，事实上形成“安全”管理部门全程介入、多部门齐抓共管的局面。客观地看，这在很大程度是由于我国尚没有形成完善的关于非法有害网络内容的预防措施和政策法规。近年来，我国在网络内容治理上提倡“源头治理”“关口提前”，进一步强化了“安全为大”的监管理念。

实践中，制定负面清单是政府的重要职责，也是政府定位的直接表现。在网络内容质量监管的多主体结构中，只有政府才具有提出负面清单的地位，换言之，这也是政府义不容辞的责任。实践中，进入负面清单的非法有害信息一般都要经历从政策到法律的合法化过程，集中或散布在有关法规之中。从具体内容看，如果政府定位于“发展优先”，则会以宽松限定原则来制定负面清单，美国是这方面的代表，日本、英国等西方发达国家也偏于这种定位；如果政府定位于“安全为大”，则会以严格限定原则来制定负面清单，我国就属于这种情况；还有一些国家介于二者之间如韩国、新加坡等，这说明政府定位不一定非此即彼，也可能是一种混合形态。

（二）企业责任及附条件免责

在互联网业界，大体可分为两类企业，即互联网内容服务商（ICP）和互联网服务提供商(ISP)，它们分别生产网络信息产品、传播网络信息内容，是网络信息质量最直接的责任主体。但在不同的监管体系中，其承担的具体责任是不一样的，有时还存在是否可以有条件免责等责任认定及法律问题。

互联网内容服务商（ICP）是网络信息产品的生产者，也是网络内容的源头，因此对网络信息质量负有主要责任。现实中，各国根据其发展与安全的需要对网络企业实行不同的责任制度，总体上形成由低到高的制度安排。美国立法除对可视内容以及接受美国普遍服务基金（USF）补贴的学校、公共图书馆设限外，并无对网络企业的责任要求。因此，互联网内容服务商（ICP）只需对其网络内容进行相应的分类分级并运行“互联网内容分级管理系统”即可尽责。欧盟、日本等地区和国家需要承担更多的责任，如“发现报告”“举报受理”“确认身份”“提示儿童禁止浏览”“记录留存”“内容检查”“通知删除”等，同时也存在着附条件的免责制度。比较而言，中国、韩国的互联网内容服务商（ICP）都承担着较高的企业责任，比如我国不但规定了“通知产出机制”，还规定了“发现删除机制”，而且中韩两国都没有关于互联网内容服务商（ICP）的附条件免责制度。

互联网服务提供商(ISP)是传播通道的提供者，在网络社会扮演着独特的“通道角色”，也对网络信息质量负有重要责任。由于世界各国对这种“通道角色”的理解不甚相同，这类企业所负有的责任以及是否可以有条件免责也有着不同的境遇。在欧美发达国家，很看重网络企业的“通道角色”及可以附条件免责的“安全港”制度，立法仅规定了最低限度的企业责任，如被西方社会普遍公认的“通知删除机制”。相比之下，企业责任及有关制度被放在了第二顺位。在日、韩两国，“通道角色”与企业责任具有同等分量，“安全港”制度与企业责任制度也被同等看待，立法在设立附条件免责制度的同时也规定了相对较重的企业责任，如日本的绿色过滤措施、韩国的发现删除义务等。我国尚未建立附条件免责制度，也没有承认互联网服务提供商(ISP)的“通道角色”，有关法律法规和部门规章所规定的信息安全责任制度较多，因此企业承担着更加严格的责任。

（三）行业监管的独到性

在网络内容质量监管的执行层面，行业组织的地位十分突出，往往能在不同的监管模式中都充当主力军的角色。各国关于互联网行业监管的差异还是比较大的，这里的奥妙不在于量多面广，而在于功能设计的巧妙嵌合，从而使其出现在最需要它、最该它出现、最能发挥作用的地方。互联网行业监管的这种独到性，使其能够在各国不同的监管体系中成为一道道靓丽的风景。

美国网络信息质量监管的一个关节点是违宪审查。1996年，克林顿政府签署通过《通讯内容端正法》（Communication Decency Art），试图规制由网络普及带来的保护未成年人问题，但却引起了广泛争议和普遍不满。1997年6月，联邦最高法院以“违反成年人的言论自由基本权利”为由判决该法案违宪。由于屡遭违宪审查，美国政府不但要“少出头”而且要另寻避开违宪审查的途径，这样，就逐渐形成了一种“以‘自由’之名，强调自律”[8]的行业监管模式。

英国为了解决网络信息质量监管的合力问题，于1996年汇集贸易与产业部、内政部、伦敦警察局以及主要的互联网服务提供商共同商讨有关互联网内容监管的应对之策，组建了网络监察基金会（Internet Watch Foundation，IWF），由80多个互联网服务提供商(ISP)组成。此次商讨的重要成果《R3安全网络协议》（Safety Net Agreement regarding Rating，Reporting and Responsibility），“不仅是国际上第一部有关互联网内容监管的行业自律规范，也是英国接受度最高、涵盖面最广的行业自律规范”。[9]目前，网络监察基金会是最具世界声誉的行业监管组织，英国也借此确立了其网络信息质量监管特色。

由于人口众多，我国的互联网行业组织规模较大，如成立于2001年的中国互联网协会（Internet Society of China，ISC），由从事互联网行业的网络运营商、服务提供商、设备制造商、系统集成商以及科研、教育机构等70多家互联网从业者共同发起成立，现有会员1000多个。但客观地说，我国互联网行业组织在网络信息质量监管方面所发挥的作用并不大，甚至在存在感上还有待加强。表面上看，这可能因为政府部门管得太多，致使互联网行业组织可发挥作用的空间有限。但借鉴国外经验看，本质上还是行业组织的功能设计不够合理，从而使其没能出现在最需要它、最该它出现、最能发挥作用的地方。

（四）可操作、可检验的未成年人监护

关于网络信息质量监管的负面清单有一点高度共识，就是未成年人监护问题。几乎所有国家的负面清单都将未成年人有害信息列为首恶，并且都通过立法和政策规定了保护未成年人的责任体系，如美国《2000年儿童互联网保护法》、日本《2009年保证青少年安全安心上网环境的整顿法》。相比于未成年人监护立法、政策等文本之策，可操作、可检验的实践之法显得更具有效性。其中，较为成功的做法有内容分级、过滤软件以及细致的场所管理。

网络内容分级就是对网络上的淫秽、色情、暴力等内容进行分级，并在网络信息产品上进行标识，由网络内容接受者自行决定是否使用相关信息。美国对网络内容的分级借鉴了其电影内容分级制度，即将网络内容分为性、暴力、语言和裸露四个方面，每个方面又分为0-4级，0级表示无害，级别越高危害越大。如果网络内容超过了使用者所设定的分级标准，有关信息会被自动删除。韩国采取类似的分级标准并且将内容分级与年龄分段相结合，还特别制作了未成年人网络内容分级推荐设置表。我国台湾地区强制推行网络内容分级制度，详细规定了分级标准并立法施行，专门创制了针对网络内容分级的具体措施，从而建立起较为完备、可操作、可检验的网络内容分级体系。

网络过滤软件是与内容分级配合使用的技术手段，因此被大量运用于各国的未成年人监护。值得注意的是，过滤软件在美国大行其道并非是因为其与内容分级的亲和性，而在于它能够规避违宪的挑战。20世纪90年代以来，美国国会和最高法院一直辩论未成年人监护问题，并逐渐步入所谓“过滤时代”。根据联邦最高法官肯尼迪的说法：这是“因为过滤软件是在用户接收端有选择的限制言论，而不是在源头普遍性的限制。而且过滤软件并不会侵犯成人浏览某些内容的权利。过滤软件并不将发表某些言论视作犯罪，因此不会产生潜在的寒蝉效应”。[10]

未成年人监护表现在场所管理上，可以从细微处见功夫。比如关于网络游戏的分级管理，旧金山“要求游戏业者、通路、店家要强制执行游戏分级制度，如果违反将触犯加州刑法313条的‘对未成年儿童提供有害内容’ 的法令，最高将处一年以上的徒刑并罚款2000美元”。“为了让未成年儿童不能买到18禁游戏，他们还立法强制要求游戏店家必须把18禁游戏摆设在高度1.5公尺以上，并且不是未成年儿童能够接触到的位置。”[11]与此相类似，日本也规定，此类游戏产品应当陈列在150公分以上、儿童无法拿取的高度，不得将其出售给18岁以下未成年人使用。

注释:

[1]马志刚：《中外互联网管理体制研究》，北京:北京大学出版社，2014年，第107页。

[2]《互联网文化管理暂行规定》，2006年11月24日，http://www.gov.cn/fwxx/bw/whb/content_453017.htm，2018年6月6日。

[3]刘兵：《关于中国互联网内容管制理论研宄》，博士学位论文，北京邮电大学，2007年。

[4]钟志永、姚珺：《大学计算机应用基础》，重庆：重庆大学出版社，2012年，第178页。

[5]马志刚：《中外互联网管理体制研究》，第139页。

[6]庄友则：《网络时代与风险社会》，《淮阴师范学院学报》2004年第4期。

[7]张康之：《论政府的社会秩序供给》，《东南学术》2001年第6期。

[8]陈华栋、于朝阳、胡薇薇：《国内外网络文化建设管理模式比较分析与借鉴思考》，《思想理论教育》2010年第17期。

[9]黄志雄、刘碧琦：《英国互联网监管：模式、经验与启示》，《广西社会科学》2016年第3期。

[10]《美国互联网管制》，2010年2月3日，http://www.chinavalue.net/Wiki/美国互联网管制.aspx，2018年5月28日。

[11]《18禁与绿色网游的战争：中国为何不实施分级制度》，2013年3月22日，http://www.gamersky.com/news/201303/228756_3.shtml，2018年5月20日。