内容审核决定平台的价值与未来——从广东广播电视台“触电新闻APP”的审核机制说起

杨金凤

（作者单位：广东广播电视台）

1 新媒体平台把关不严事件频发

最近，各家新闻资讯APP和直播平台都对内容审核人员的招聘情有独钟。原因是，今日头条旗下“内涵段子”应用程序及公众号近日因存在导向不正、格调低俗等突出问题被广电总局永久关停。对此，今日头条CEO张一鸣还发致歉信，并将审核团队扩大到10000人。而此前，今日头条和网易、凤凰网、腾讯等也都因为各种违规发布，被责令限期整改。据相关机构统计，从2015年至今，中国已有13000多个网站被指控内容问题而遭关闭。这些都无疑成了有效净化网络空间的“典范”。之前，新媒体平台因为内容发布被查被罚的确实不多，大家也都以为网络是内容监管的灰色地带。但随着网络环境的变化，影响力越来越强，不良内容对社会发展产生的危害越来越大，净化网络环境势在必行。所以，由广东广播电视台自主研发的“触电新闻APP”在建立初期，就做好了总体布局，将内容安全审核独立开，专人专责监管整个平台的内容安全。

2 触电新闻平台的安全审核坚持“机器+人工”两手抓

随着新媒体平台的监控逐步严格，有人提出疑问：“内容审核是该向左还是向右”，其实，无论是左还是右，最重要是应该找到一个平衡点。因为单靠人工，显然是不现实的；单靠智能推荐，也就是所谓的机器审核，也不科学。只有“两手一起抓，两手都要硬”，才能赢得未来。触电新闻就是这么做的。

2.1 严把意识形态关，让触电新闻传递正能量

习近平总书记在党的十九大报告中强调：“牢牢掌握意识形态工作领导权。意识形态决定文化前进方向和发展道路。”“要加强理论武装，推动新时代中国特色社会主义思想深入人心。”触电新闻属于创新新媒体领域意识形态的传播载体，在成立之初，就提出“努力创新，坚持导向。”我们一直主动扩大主流意识形态网络活动空间，做大、做强、做活网络主流意识形态传播工作，以正面声音引领多元的网上舆论。同时，加大新媒体正能量原创性内容的生产力度。原创性是新媒体的生命力所在，而正能量则是新媒体意识形态的生命力所在，触电新闻牢牢把这二者紧密结合起来。比如，在2018年的全国“两会”上，触电新闻推出原创MV《踏上新征程》，唱响主旋律，讴歌广东践行社会注意核心价值观，在“四个坚持、三个支撑、两个走在前列”的奋斗目标指引下所取得的成就，同时展现了新时代广东人开启新征程，为实现“四个走在全国前列”不懈奋斗的激情。MV分别在触电新闻客户端、官方微信、微博、央视新闻+、新华社客户短、今日头条、一点资讯、凤凰新闻、搜狐、QQ音乐等平台投放，短短几天，全网点击量就达到1500万。同时，在线下的覆盖人群也高达1.8亿人次，让主旋律更响亮，正能量更强劲。

所以，我们要重视这一点，加强对新媒体的研究，强化新媒体对意识形态教育的新影响，优化意识形态教育的大众传播环境。

2.2 执行严格的审核制度

“触电新闻媒体”平台为广东广播电视台旗下的视频资讯客户端，“触电新闻”产品体系中对外开放自媒体入驻平台，必须经过“注册三审”和“入驻试用”之后，才能在触电平台上发布原创图片、文字、图集、视频等多媒体内容信息。目前，触电新闻媒体平台开放5种媒体类型注册入驻，包括：“自媒体”“媒体架构”“企业”“政府机构”以及包括不属于媒体、企业和政府的其他组织。

触电号安全把控的相关措施，包括严格执行实名认证制度、提供相关的资质证明、历史文章质量要符合触电媒体平台要求、严格执行触电号试用期制度。用户对其行为负全部责任，任何用户不得在触电新闻上发布、转载、传播“违反宪法、危害国家安全、泄露国家秘密、颠覆国家政权、破坏国家统一、损害国家荣誉和利益……”的信息，否则触电新闻有权在未通知的情况下对其作出相应处罚，包括“不获得通过、下架、封停账号”等。

2.3 严格的内容管理规范，“机器+人工”两手抓，两手都要硬

除对入驻的触电号进行严格管理外，对平台内容也要有严格的管理规范，包括设置敏感词库、机器审核、人工把关等。

触电一开始就设立自己的敏感词库，包括涉政文字、色情文字、广告文字等的识别，内容符合严禁词即被拦截。在日常内容发布及平台运用中，还会随时随地增补词量，不断完善敏感词库，让其发挥更大更全的作用。

此外，内容经过机器人（易盾）审核。机器审核前提都是基于海量大数据样本库。触电目前购买了易盾的云服务来协助平台安全审核，主要从文字、图片和视频三个方面来把控、识别各种涉政、涉黄、涉广告文本，从中拦截掉违规内容。

机器算法极大延伸了人们获取信息的能力，但问题是，大众在内容选择上本身就是盲目的。就像人民网曾发表文章《别被算法困在“信息茧房”》指出，算法主导下的内容分发模式，会带来“自我封闭”的危险。所以，人工审核存在的价值就是，从根本上改变不顾导向的所谓算法推荐。同时，也可以避免“漏网”或“错杀”。目前，触电平台上各频道实行频道长负责制，由频道编辑和编审人员完成基本的三审。同时，负责平台安全的总编办会再次把关，将各种安全指令下达到各频道，并做好平台巡视，以防疏漏；对于频道编辑把握不准的内容，也同步提交到总编办来再次审核。

3 内容审核的未来

内容审核对于内容聚合平台来说，是一个费时费力的活儿，需要人工和资金支持。但是，做好把关的意义就在于，不放过任何违规内容，推荐优质、有正确价值观的内容，宣传正能量，拉动平台流量，最能体现一个平台的社会价值和总体实力。

从另一方面来看，当今平台的竞争就是内容的竞争，说到底就是内容审核能力的大比拼。要把内容审核做大做强，技术含量并不低，这也是平台实力的体现之一。可以说，内容审核决定平台的竞争力，是决定平台能够走多远的有力保障。也就是说，内容审核将决定平台的价值和未来。

4 结语

内容审核是新媒体平台永远的追求。每个平台都有一套自己适用的具体审核标准，怎样将其落到实处，发挥最大效应，是我们必须重点考虑的。只有平台安全，才会有价值和未来。