互联网企业平台内容有效治理的几点思考

摘要：随着互联网和信息技术的发展，互联网内容呈现爆发式增长，“人人都有麦克风，人人都是自媒体”。UGC（用户生产内容）的模式让互联网内容更加丰富的同时，也带来了内容良莠不齐的严峻问题。互联网内容治理成为摆在管理部门面前一项重要而紧迫的课题。本文探讨了互联网企业应发挥平台责任，在政策学习和理解、制度建设以及应用科技手段方面进行内容治理的一些思考。

关键词：平台责任；内容治理；落实政策；建立机制；科技手段

引言

随着信息技术的发展和手机等智能终端的普及，各种自媒体传播方式不断出现，互联网已经进入“自媒体”时代，互联网内容呈现爆发式增长，UGC的模式让互联网内容更加丰富，但同时也带来了良莠不齐的严峻问题。党的十八大以来，党中央和国务院多次强调互联网的发展要“依法治网、依法办网、依法上网，让互联网在法治轨道上健康运行”。习近平总书记在“4·19”重要讲话[1]中指出，“网络空间是亿万民众共同的精神家园。网络空间天朗气清、生态良好，符合人民利益。网络空间乌烟瘴气、生态恶化，不符合人民利益”。“我们要本着对社会负责、对人民负责的态度，依法加强网络空间治理，加强网络内容建设，做强网上正面宣传，培育积极健康、向上向善的网络文化，用社会主义核心价值观和人类优秀文明成果滋养人心、滋养社会，做到正能量充沛、主旋律高昂，为广大网民特别是青少年营造一个风清气正的网络空间。”“网络安全是共同的而不是孤立的。网络安全为人民，网络安全靠人民，维护网络安全是全社会共同责任，需要政府、企业、社会组织、广大网民共同参与，共筑网络安全防线。”互联网企业作为互联网内容平台的运营主体，必须提高认识、加大力度，承担主体责任。平台运营主体必须在互联网内容治理中发挥关键作用。

1. 正视问题以高度责任感担起内容安全主责

互联网企业作为提供内容传播的平台和渠道，应该以高度的责任感来承担互联网内容治理和净化的职责。近年来，网站平台积极履行信息内容管理主体责任，在保障信息安全、规范传播秩序、维护良好生态等方面，发挥了主体作用。但是，也有部分网站平台仍存在责任认识不充分、角色定位不准确、履职尽责不到位、制度机制不完善、管理操作不规范等问题，一定程度上导致了违法和不良信息禁而不绝，网络生态问题时有发生。

1.1 树立正确导向，加强党建引领

作为以内容为主业的企业，内容安全是生命线。必须坚持政治站位，持续强化政治导向，坚持学习贯彻党的会议精神和政策方针。始终坚持正确的政治方向、舆论导向和价值取向，确保内容安全。企业应加强员工的思想政治教育，切实提升政治意识和业务能力，进一步严格把好政治关、导向关。有条件的互联网企业根据人数应该开展党组织生活，成立党小组、党支部、党总支乃至党委各层级的党的组织机构。充分发挥基层党组织战斗堡垒作用和共产党员先锋模范作用，提高政治站位，增强政治觉悟，强化责任担当。

1.2 贯彻政策要求，认真对标对表

近年来，国家出台一系列与互联网安全相关的政策文件。2020年3月1日开始施行的《网络信息内容生态治理规定》，明确了正能量信息、违法信息和不良信息的具体范围，明确网络信息内容生产者应当遵守法律法规，遵循公序良俗，不得损害国家利益、公共利益和他人合法权益，不得制作、复制、发布违法信息。应当采取措施，防范和抵制制作、复制、发布不良信息[2]。2021年9月，国家网信办发布《关于进一步压实网站平台信息内容主体责任的意见》，首次系统提出网站平台履行信息内容管理主体责任的工作要求，从完善平台社区规则、加强账号规范管理、健全内容审核机制、提升信息内容质量、规范信息内容传播、加强重点功能管理、坚持依法合规经营、严格未成年人网络保护、加强人员队伍建设等9个方面，对网站平台履行主体责任提出具体要求。作为内容治理的主体，网站平台应严格按照相关政策要求，担当作为、履职尽责，切实发挥好网站平台信息内容管理第一责任人的作用。

2. 建章立制，以完善的机制为内容治理夯基架梁

加强网络内容安全建设，加强风险防控，已成为互联网行业的必然要求。互联网企业应高度重视安全建设，定期举办包括公司管理层参与的专项培训活动，特别是针对内容安全管理方面，切实提升全员的安全责任意识。在体系建设方面，企业更应全面从严，坚持高标准、严要求。企业应在遵守国家各项政策的基础上，制定各项规章制度并落实执行，例如总编辑负责制、多层级内容审核机制、应急管理及保障制度、安全巡检制度等，从制度层面为企业的内容安全管理工作保驾护航。

2.1 建立以总编责任制为根本的多层级审核制度

2016年，国家网信办就互联网从事新闻信息的网站专门提出了建立总编责任制的要求。总编辑要对新闻信息内容的导向和创作生产传播活动负总责，完善总编辑及核心内容管理人员任职、管理、考核与退出机制。2020年，《新闻出版署关于进一步加强网络文学出版管理的通知》中明确要求[3]，建立健全内容审核机制，网络文学出版单位须设立总编辑，建立健全编辑委员会，强化内容把关职责，总编辑对涉及内容导向问题的事项具有否决权，对发布作品的内容质量负总责。各类生产互联网内容的图、文、音视频等各类数字内容的互联网企业，包括网络音乐、网络动漫、长短视频等各类平台。这些平台均应建立总编责任制，总编辑作为网站内容的第一负责人和总负责人。在此基础上，建立多层级内容审核机制。目前各类互联网网站都已经有内容审核的相关工作，但在管理和要求上都不尽一致[4]。机制完善的网站大多建立了“三审”制度：编辑一审，责任编辑二审，分管领导三审。“三审”制度中，以“人防”為主、“技防”为辅，两相结合，取长补短，最大程度消除内容安全隐患[5]。

2.2 建立应急管理制度

应急管理制度是为了预防和控制潜在的事故或紧急情况发生时，做好应急准备和及时响应，最大限度减轻可能产生的事故后果而制定的制度。各平台企业应建立应急管理制度和制定完善的应急预案，包括人员、应急工作流程以及向上级汇报的渠道和途径等各个方面，对于出现的疑似违规内容，第一时间进行证据保留并立即屏蔽和下架违规内容，同时主动向上级主管部门进行汇报。

2.3 提升岗位能力模型建设

与普通管理岗位不同，安全问题可能随时发生，这就给安全审核人员提出了更高更切实的要求，要有敏锐的观察力和快速决策的能力，把安全问题降到最低程度。为此，各企业针对网络安全人员特别是内容安全审核人员建立了岗位能力模型建设，设置初级、中级、高级审核岗位，针对不同的岗位，制定明确的能力要求。初级审核员要求具备基本的内容体系知识，能够在指导下按既定的流程完成基本工作，解决常见问题；中级审核员要具备丰富的内容安全体系知识，可独立完成审核工作中各项流程，能够准备发现或识别明显的内容问题；高级审核员要求掌握领域内专业知识，具备风控意识，具备团队管理能力，有一定正确的判定能力，定方向、定策略、定节奏来完成工作任务。

2.4 完善安全巡检制度

日常巡检工作是发现风险隐患的有效手段，互联网企业应开展日常巡检工作，包括查思想、查制度、查纪律、查管理、查措施、查隐患在内的多项检查工作。巡检工作应遵循“查漏补缺”的原则，突出“检查的复查和落实”“管理的监督和考核”，在巡检过程中做到巡检有记录、检查有目标、查后有改进，推动内容管理更加完善详尽。

3. 人技结合，以技术反制技术，以人防强化技防

20多年来，我们的互联网发展取得了一些技术方面的成就，但是同世界先进水平相比，同建设网络强国目标相比，还是存在不小的差距，特别是在内容审核技术成为保障互联网健康发展重要手段的今天，适应智能化、多模态、实时性的技术发展趋势，应对错判率、算法攻击、多语种审核等技术挑战，不断提高内容审核技术的精准度和安全性，是每个互联网企业持续攻关的重要课题。

3.1 利用人工智能、大数据技术强化机器审核内容安全

目前市场上有专业公司提供機器进行内容审核的服务，各大互联网企业平台也都有自己的机器审核技术和平台。各企业高度重视技术手段，运用最新的技术进行内容的初筛与把控，建立敏感词库并随时更新，利用技术手段提升审核能力与审核效率，形成覆盖涉政、涉黄、涉恐、恶意推广、低质灌水、官方违禁内容库等多维度多层面的审核维度，为业务健康发展保驾护航。平台公司应加大技术研发和攻关，从语义分析、知识规则匹配、用户分析、异常行为识别、命名实体识别、场景分析等多方面进行综合处理监测，利用机器学习技术，将大量违规数据和正常数据提供给机器学习，通过机器强大的自学习能力，不断提高鉴别的准确度，向用户标准靠近[6]。

3.2 建立人员配备充分、培训机制健全的组织架构

内容安全团队管理具有复杂度高、质量要求高、业务分支多、人员数量多、跨地区沟通、协作频繁、规则更新快等特点，这些复杂的情况给内容安全审核业务的交付质量增加了难度，也提出了很大的挑战。各平台企业应建立合理的组织架构，配备充分的人力保障内容安全审核工作，配备与业务规模相适应的编辑和安审人员，增加内容审核人员数量[7]。同时，制定明确的培训计划，可以建立月度培训会、一定范围内的双周经验交流会，以及有重大事项的专题培训会等，对各级编辑开展定期或不定期的培训，有针对性开展业务培训，持续提升能力素质。

结语

网络内容治理是建设清朗网络空间、营造良好舆论环境的重点内容，关乎国家发展，关乎社会长治久安，更关乎青少年健康成长，树立正确世界观、人生观、价值观的重要事情，各互联网平台企业要在主管部门的指导下，积极承担主体责任，担当作为，真抓实干，切实履行好内容治理的责任和义务，为新时代网络强国建设做出新贡献。

参考文献：

[1]习近平在网信工作座谈会上的讲话全文发表[EB/OL].（2016-4-19）[2016-4-25].http：//www.xinhuanet.com/politics/2016-04/25/c_1118731175.htm.

[2]国家互联网信息办公室.网络信息内容生态治理规定[EB/OL].（2019-12-20）[2020-3-1].http：//www.cac.gov.cn/2019-12/20/c_1578375159509309.htm.

[3]新闻出版署关于进一步加强网络文学出版管理的通知（国新出发〔2020〕11号）[A/OL].（2020-6-5）[2023-8-15].https：//www.gov.cn/gongbao/content/2020/content_5551816.htm.

[4]陈璐颖.互联网内容治理中的平台责任研究[J].出版发行研究，2020，（6）：12-18.

[5]张莉婧.出版融合背景下数字出版内容审核策略[J].中国传媒科技，2020，（7）： 17-20.

[6]陈奎莲.AI在数字出版内容审核中的应用研究[J].出版广角，2020，（10）：15-18.

[7]孙群.自媒体内容安全审查逻辑与发展空间[J].青年记者，2019，（2）：83-84.

作者简介：郭栋，硕士研究生，副编审。