内容审核：一个正在快速膨胀的新职业

人工智能、大数据会帮助互联网公司过滤掉一些违规内容，但大部分内容审核工作依然需要依靠人海战术。

人民网称，内容风控行业是一个新兴的领域，他们希望在未来把内容风控定义为一个新的职业。

南方周末记者 王伟凯

海量审核业务

中国互联网行业的内容审核员被广泛关注，源于2018年4月快手的一次突然招聘。

当时，央视点名快手，称在快手上有大量“未成年妈妈”的短视频，为了吸引眼球，这些视频晒出了妈妈们的年龄、孕期、怀孕状态以及一些露骨的照片视频。

一直贴着低俗、露骨标签的快手，在那时遭遇了前所未有的舆论危机，他们的APP甚至被应用商店下架。

随即，快手宣布，为了加强审核能力与内容上传量的匹配，快手将2000人的审核团队扩充为5000人。

字节跳动也遭遇了同样的危机。2018年4月，他们旗下的“内涵段子”因为内容低俗、导向不正等问题而被永久关闭。字节跳动创始人张一鸣公开道歉，并且承诺将新招聘4000名内容审核员，以加强对内容的审核。

一位今日头条内部人士向南方周末记者表示，无论是今日头条、快手还是其他内容、视频、直播平台，内容审核的工作已经变得至关重要，都投入了巨大的人力、物力。

一位快手内部人士告诉南方周末记者，快手目前有八千员工。这意味着内容审核员的比例就超过一半。

南方周末记者联系快手公关希望做采访，但是被婉拒，字节跳动也拒绝了南方周末记者的采访。

2019年1月9日，中国网络视听节目服务协会发布《网络短视频平台管理规范》和《网络短视频内容审核标准细则》，短视频上的弹幕、评论也要进行审核。

内容审核的需求激增，源于中国互联网内容平台发生的巨大变化。从早期的门户网站，到后来的贴吧、微博、UGC平台，再到今天的短视频、直播，带来了海量的内容供应。

仅字节跳动一家，就有今日头条、懂车帝、抖音、火山小视频、西瓜视频、好好学习、多闪、皮皮虾、番茄小说、半次元等多个需要大量内容审核员的平台。

同时，招聘网站信息显示，一些招聘、社交、房屋中介等公司，也需要大量的内容审核员。

暨南大学新闻与传播学院教授彭伟步向南方周末记者分析，海量信息的出现、监管力度的持续加深，再加上没有一个完善的审核制度和相关法律，内容平台有时无法把握底线，这些都在无形中增加了平台方的成本。

已经有一些第三方公司开始提供辅助内容审核的产品和服务，如像优图、网易易盾、图普科技、阿里绿网等多个产品，都可以辅助平台进行机器审核。优酷、荔枝FM、映客直播、美拍等多个平台都使用这些第三方服务。

也有一些公司在探索将内容审核服务进行产业化。2019年4月4日，人民网（603000.SH）发布公告称，拟与人民日报社签署《地方频道内容审读协议》，约定审读费按照每家地方频道人民币50万/年计算，2018年度总金额为人民币1600万元。

在2019年1月31日发布的2018年业绩公告中，人民网也表示，业绩增长的一个主要原因是第三方内容审核业务呈现增长趋势，收入同比增长了166%。

根据人民网的公告，他们将内容审核业务称为内容风控业务，该业务是人民网四大业务之一，并且是重点发力的项目。人民网称，内容风控行业是一个新兴的领域，他们希望在未来把内容风控定义为一个新的职业。

一点资讯济南运营中心高级经理白娜也向南方周末记者介绍，他们的团队目前也在承接其他公司的内容审核、生态流量方面的工作。

人海战术

也许人工智能、大数据会帮助互联网公司过滤掉一些违规内容，但大部分内容审核工作依然需要依靠人海战术。

“现在还没有办法完全取代人工。”白娜向南方周末记者直言，“举个例子，机器上设置一些关键词、特殊数字，但是如果在不同的新闻中出现了这些词怎么办？总不能全部过滤掉吧。”

与此同时，各大平台公司的审核标准也各有不同，没有统一的标准。标准的高低，在一定程度上也塑造了平台公司的形象。

在一些传统媒体的网站、APP上，很少能够看到低俗、露骨的内容、评论，而在抖音、快手、今日头条等流量为王的平台上，则会出现此类信息。

白娜向南方周末记者介绍，一点资讯在内容审核上把控比较严格，通过“人机结合”的模式，既实现海量信息的高效分发，又克服机器分发的盲目性。2018年，他们内部曾经出了一本内容审核的白皮书，并且到国家网信办备案，希望能为内容审核行业的标准出一份力。

多位字节跳动的审核员则向南方周末记者介绍，在他们内部，不同的小组也会有不同的审核标准，不过由于签署了保密协议，他们不能提供标准的更多细节。

“每隔几天就会进行一次培训，强调内容审核的红线。”一位字节跳动的内容审核员告诉南方周末记者。

据字节跳动的陈鹏介绍，他们公司对内容审核员有一套考核制度，比如，如果审核员将本应该卡掉的信息通过了，或者将本应该通过的信息卡住了，这种错误率将会成为对审核员考核的一个重要标准。

在审核程序上，各公司也有不同之处，一点资讯上的内容一般要经过三道审核：第一道是机器，根据关键词过滤掉一部分；第二道则是人工审核，两个审核员对一条内容进行审核，两个人都通过了，则这条内容得以上线，有一个审核员觉得有问题，则进入到三审；三审有一个内容审核员，最终决定这条内容是否上线。

抖音、今日头条则分为众多小组，比如国内、国外、政治、娱乐、视频、文字等多个小组，也会根据业务线进行分配，比如问答组、微头条组等，每个小组负责不同的内容审核。

“一天要看一千篇文章，工作时间长了就会觉得，这并不是一件多难的事情，现在给我一篇两千字的文章，几十秒钟我就能看完，还能找出来问题。”刘蓉向南方周末记者介绍，长时间、高强度的内容审核工作已经把她锻炼成“火眼金睛”。

和很多生产线上的工人一样，内容审核员也是一个流动性非常强的工种。在一些招聘网站上，内容审核员的岗位几乎每天都在更新，在一些贴吧、QQ群里，也都有相关招聘信息。

一位在2018年5月应聘字节跳动内容审核员的人士向南方周末记者介绍，那个时候他们招聘规模大，招得也急，由于很多人都不愿意长期干下去，应聘者如果在面试时说上一句“愿意长期干下去”，面试通过率就会大大提高。

白娜向南方周末记者介绍，为了留住这些审核员，一点资讯采用的是公司直聘的模式，让审核员有更强的归属感。同时，一点资讯也会给内容审核员提供一个比较完整的内部晋升机制和转岗机制。

2018年9月，刘蓉就在一点资讯内部转岗，成为了一名本地新闻的运营人员，负责给新闻报道起标题、写摘要、推送等。

字节跳动在不同城市采用的招聘模式不同。比如在天津，以直聘为主，公司也提供内部转岗。一位在2016年加入今日头条天津分公司的人就向南方周末记者介绍，他们做了一年多的内容审核员之后，就调成了运营岗。

不过，在济南，字节跳动则主要以第三方公司代理招聘为主。承担他们招聘工作的公司是武汉人瑞人力资源服务有限公司，内容审核员与这家公司签署劳务合同。目前，字节跳动也已经开始自己招聘，他们在济南专门成立了济南超准信息技术有限公司，不少新的内容审核员就直接由这家公司招聘进来。