网上有害信息治理的国际经验及启示

梅鹏超 王鹏远

习近平总书记指出：“网络空间是亿万民众共同的精神家园。网络空间天朗气清、生态良好，符合人民利益；网络空间乌烟瘴气、生态恶化，不符合人民利益。”互联网的发展推动了全球政治、经济与文化的交流和共享，改善了人们的生产生活方式，但同时也给有害信息的滋生和蔓延提供了条件。因此，加强网上有害信息治理，已然成为净化网络生态，维护国家网络空间安全和政治稳定，保障人民群众切身利益的重要工作。近年来，以欧盟、美国等为代表的发达经济体在治理网上有害信息方面进行了有益实践。研究学习这些经验做法，对于推动我国网上有害信息治理工作的开展具有积极意义。

做法

1.加强网络社交平台监管

2018年1月1日，德国《社交媒体管理法》正式实施，对包括脸书、推特等提供内容服务的社交网络平台提出了严格的监管要求。根据该法，在德国拥有200万以上用户的社交网络平台须自行承担清理其平台上涉及诽谤、诋毁和暴力煽动内容的责任，且必须在7天内删除用户举报的非法内容，明显的违法言论需在举报后24小时内删除或屏蔽，争议言论也必须在举报后7日内作出处理，否则将面临最高达5000万欧元的罚款[1]。2019年4月，英国发布了《在线社交媒体平台行为准则》和《网络危害白皮书》（简称《白皮书》），要求强化社交网络平台的自我监管，倡导社交媒体平台承担在其平台上发布的不良言论的监管责任。《白皮书》主要针对允许用户自主创作并分享内容的网络平台，包括推特、脸书、Instagram、论坛、网盘以及搜索引擎等，强制要求社交媒体网站删除包含暴力、虚假信息及网络欺凌等在内的有害内容。《白皮书》还指出，英国政府将立法规定社交媒体公司应履行的法律义务，同时成立一个独立的监管机构，负责监管社交媒体，它将有权对违法的公司开出巨额罚单、要求其关闭网页，甚至追究公司高管的个人责任[2]。

2.严厉打击网上虚假信息

2018年7月，法国通过《反假新闻法》，旨在更有效地阻止假新闻的传播。2018年9月26日，欧洲主要线上平台、社交媒体巨头、广告主和广告经营者联合发布欧盟首份《反虚假信息行为守则》，以应对假新闻和网络虚假信息，其中将“虚假信息”定义为可验证的虚假或具有误导性的信息，系出于谋取经济利益或故意欺骗公众的目的，而被创造、展示和传播的以及可对公众造成损害、对民主政治和决策过程、公共利益（如欧盟公民的健康、环境或安全等）产生威胁的信息[3]。2018年12月，美国参议员提出《2018年恶意伪造禁令法案》，旨在规范制作并散布深度伪造内容引发犯罪和侵权行为的个人，以及明知内容为深度伪造还继续分发的平台。2019年6月28日，美国参众两院提出一项名为《深度伪造报告法》（Deepfake Report Act）的两党合作法案，目的在于减少使用人工智能（AI）技术操纵原创视频内容的“深度伪造（Deepfake）”视频的危害。根据该法案，“深度伪造”视频是指利用人工智能技术对真实内容进行超现实的数字化篡改，使之成为并未真实发生的事情。2019年9月，美国通过名为《识别对抗生成网络输出法案》（IOGAN法案）的立法，要求国家科学基金会（NSF）和国家标准与技术研究所（NIST）加快对被操纵的具有破坏性的视频进行检测，以打击日益猖獗的深度伪造技术。

3.重点整治网上极端主义思想和内容

2017年5月，七国集团峰会（G7 Summit）在意大利陶尔米纳举行。七国集团发表声明，呼吁互联网服务提供商和社交媒体巨头采取行动打击极端分子的在线内容，并鼓励行业立即开发并分享新技术和工具，以提升自动检测暴力煽动内容的能力。2017年9月，原英国首相特蕾莎·梅在与脸书、微软、推特及谷歌等公司的一次会议上敦促与会企业持续更新探测和消除有害信息的技术，并要求大型互联网公司在2小时内自动删除恐怖主义内容。2019年4月，欧洲议会通过《关于解决在线传播恐怖主义内容的规则》，规定如果脸书、谷歌以及推特等网络、社交公司不能在被监管部门要求后的1小时内移除极端主义内容，可向它们征收多达全球营业收入4%的罚款[4]。2019年5月15日，多个国家政府首脑、部门主管以及科技企业代表在巴黎举行特别会议，共同商讨有关防止社交媒体传播极端主义的议题。会议发布了“克赖斯特彻奇呼吁”，要求政府和在线服务提供商集体地且自愿地承诺消除恐怖主义、极端主义和暴力内容，以防止互联网被滥用。据悉，已有加拿大、澳大利亚、英国、新西兰、德国、法国、欧盟委员会、印度尼西亚、印度、爱尔兰、意大利、日本、约旦、荷兰、挪威、塞内加尔、西班牙和瑞典等国家及国际政府以及脸书、谷歌、推特、亚马逊、微软、Daily Motion、Qwant和YouTube8家科技公司在这份呼吁上签字[5]。

特点和趋势

1.技术过滤成为主流趋势

近年来，西方国家主要社交媒体越来越重视运用人工智能、语音识别及图片视频识别等新技术手段来过滤网上有害信息。2015年3月，推特推出一项名为“质量过滤器”（Quality filter）的测试功能，声称能够删除限定时间内所有包含威胁、攻击性、虐待的信息或者从可疑账号发送的信息[6]。2018年9月，谷歌发布人工智能工具“内容安全应用程序界面”（Content Safety API），用于识别网上儿童性侵图片。据称该技术能帮助审查人员识别出与无此技术相比多700%的儿童性侵犯内容。同年10月，脸书宣称公司借助自动标注识别图片工具累计删除870万张儿童色情图片，同时开发出了一款代号为“Rosetta”的新型人工智能系统，可用于检测仇恨性言论。

2.设立专门机构并强化跨国合作

2016年12月，德国宣布成立“假新闻防御中心”，该中心由联邦新闻办公室组建，专门打击虚假新闻。2017年10月，英国拨款组建打击网络仇恨的专职部门，处理针对少数群体的网络侮辱和谣言、谩骂。2017年4月，来自欧盟和北约的9个国家在芬兰赫尔辛基联合签署成立“混合威胁”中心，以应对网络攻击和其他新兴领域威胁，如故意散布传播的虚假消息等。美国、英国、法国、德国、瑞典、波兰、芬兰、拉脱维亚和立陶宛成为首批成员。2018年2月，美国国务院宣布已经与国防部签订协议，将从国防部获得4000万美元以加强其所属全球作战中心打击外国宣传和虚假信息的工作。据了解，全球作战中心成立于2016年4月，是奥巴马任美国总统期间设立的揭露和反击外国虚假宣传的办公室。

3.服务于政治目的

网上有害信息严重损害了国家领导人的政治形象，给选举带来重大威胁。法国2018年颁布的《反假新闻法》，旨在遏制选举期间出现的虚假新闻，打击境外势力“操纵新闻”的企图。2019年5月，加拿大出台的《数字宪章》宣称，加拿大的政府将捍卫言论自由、防范旨在破坏选举和民主制度完整性的网络威胁和虚假信息[7]。2019年9月，美国加利福尼亚州通过一项举措，禁止居民和各类组织在选举后60天内分享政治候选人的虚假视频。美国国会公开表示将在2020大选之前对深度伪造技术进行调查，并推进立法行动。

启示和建议

网上有害信息治理已经成为维护国家政治安全稳定的重要工作。据《人民日报》消息，2019年1月至6月12日，国家网信办累计清理淫秽色情、赌博诈骗等有害信息1.1亿余条，注销各类平台中传播色情低俗、虚假谣言等信息的违法违规账号118万余个，关闭、取消备案网站4644家[8]，凸显我国网上有害信息治理工作的严峻形势。虽国情不同，但西方国家的一些做法和经验或可为我们提供一些治理思路。

1.持续推进网上有害信息法制体系的完善和健全

近年来，我国关于网上有害信息治理的法律法规密集出台。仅2017年、2018年两年间出台的相关法律规定便有《互联网跟帖评论服务管理规定》《互联网用户公众账号信息服务管理规定》《互联网新闻信息服务单位内容管理从业人员管理办法》《互联网新闻信息服务新技术新应用安全评估管理规定》《微博客信息服务管理规定》和《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》等。2019年以来，国家互联网信息办公室又陆续印发《区块链信息服务管理规定》《金融信息服务管理规定》《网络音视频信息服务管理规定》和《网络信息内容生态治理规定》等文件，不断推动网上有害信息治理法制体系的健全完善。值得一提的是，2019年12月15日发布的《网络信息内容生态治理规定》明确提出，网络信息内容服务平台应坚持主流价值导向，鼓励网络信息内容生产者制作、复制、发布含有“宣传习近平新时代中国特色社会主义思想，全面准确生动解读中国特色社会主义道路、理论、制度、文化”和“弘扬社会主义核心价值观，宣传优秀道德文化和时代精神，充分展现中华民族昂扬向上精神风貌”等内容的正能量信息，同时列举了网络信息内容生产者不得散布传播的11类违法信息和9类不良信息[9]。2019年11月29日发布的《网络音视频信息服务管理规定》提出，网络音视频信息服务提供者和网络音视频信息服务使用者不得利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播虚假新闻信息[10]。以上法律规范共同构建了我国网上有害信息治理的法制体系，为网上有害信息治理工作的开展提供了有力保障。未来，相关部门仍需紧密围绕网信事业发展大局和互联网新技术新应用发展趋势，持续推进网上有害信息法制体系的完善和健全，不断扎紧网上有害信息治理的制度笼子。

2.重点整治极端主义等威胁国家社会安全稳定的有害信息

网上有害信息类目繁多，要抓住突出问题和主要矛盾，精准发力、重点打击，集中力量整治清理影响和危害最大的有害信息。从近年来国内外安全形势和国际网上有害信息治理运动发展情况来看，网上极端主义思潮和内容的肆意传播，已经成为危害国家安全和人民群众安全的关键问题。我国也必须未雨绸缪、居安思危、严阵以待，将网上极端主义思潮治理作为有害信息治理的重中之重，全面排查其在我国网上的传播情况、传播途径及传播手法。建立网上极端主义打击机制，组建网上极端主义打击力量，强化反极端主义教育宣传。对散布传播极端主义内容的个人、组织，对删除极端主义内容不及时、不作为的平台、企业，要施以严厉惩罚。

3.强化互联网企业主体责任，推动行业自律

互联网平台是有害信息产生、传播的主要场所。互联网平台企业在网上有害信息治理工作中必须承担起主体责任。一要加强互联网企业的刚性约束。监管部门要加快建立健全完善的监管制度体系，明确互联网企业的责任、义务，加大惩治力度，提高违规成本、“不作为”成本。二要鼓励互联网企业加强自身内部责任建设，推动其自觉参与网上有害信息治理工作，鼓励互联网企业加大技术探索和创新，充分运用人工智能等新技术研发能够有效提升网上有害信息治理效率的新工具新手段。对于在网上有害信息治理工作中表现优秀的互联网企业，政府应给予表彰。三要推动行业自律。网上有害信息的治理要靠整个社会的共同参与。要加快建立起网上有害信息治理的行业标准和规范，重视网上宣传和引导，推动网上有害信息治理工作从“单兵作战”走向“协调治理”，从“被动参与”走向“主动作为”。

4.积极促进跨国合作，提升网上有害信息的全球打击能力

互联网信息的流动性、跨境性、开放性及煽动性等特点大大加强了网上有害信息治理的难度，也加大了有害信息从境外向境内倒灌传播的风险。事实上，近年来网上有害信息的跨境传播特点越来越明显，建立跨国合作机制已是当务之急。一是可以积极融入国际上已经成立的网上有害信息治理组织。二是可以借助世界互联网大会、“一带一路”高峰论坛等国际性会议发起倡议，共同商讨建立全球性网上有害信息的治理模式。三是可以和重点国家建立“1+1”的网上有害信息治理合作机制。总之，在网上有害信息威胁日趋严峻的态势下，加强跨国合作，提升有害信息全球打击能力，必定是一个互利共赢的选项。我国作为世界互联网大国，应当主动承担起维护国际网络空间生态秩序安全的责任，在推动全球网上有害信息治理中发挥更加积极的作用。

■金龙彩凤 陈宝林/摄