专业新闻媒体用户评论审核自动化模式创新

【摘 要】 专业新闻媒体不同于广参与度的社交媒体，其用户评论区旨在为读者和记者、编辑提供意见交流的开放性平台。新闻区的评论互动为没有话语权的读者提供了观点交流的互动平台，以促进更好地改进新闻报道。如何高效过滤不良评论是媒体在开放评论区时面对的紧迫问题。文章通过分析《纽约时报》用户评论自动化审核的模式创新，以期为纸媒网络化传播提供借鉴。

【关 键 词】用户评论；自动化审核；《纽约时报》；盈利模式

【作者单位】李贝贝，山东艺术学院。

【中图分类号】G201 【文献标识码】A 【DOI】10.16491/j.cnki.cn45-1216/g2.2019.01.022

用户评论是对文章内容不同角度的补充，通过评论进行话题讨论也是新闻报道附加内容的体现。当下，许多新闻媒体受到评论谣言的困扰，使用人工智能机器学习进行评论管理既可以自动审核不当言论、阻止谣言，又可以更多地开放评论版块文章。

《纽约时报》从传统的人工审核评论到通过自动化技术进行筛选排序，结合人工进行评论管理，不仅大大减轻了人工审核工作量，提升了用户评论审核通过率，还通过设立NYTp icks栏目展现精选评论内容，鼓励用户发表评论，实现了内容盈利模式创新。

一、人工编辑筛选评论的低效审核

《纽约时报》网站分为新闻、观点、艺术、生活、其他、订阅六个不同栏目版块（见下图），用户可以使用Facebook或Google发表评论。以往用户评论需要通过人工编辑审核才能发布，由于读者评论裂变性增长，多元评论增加了网络审核难度，人工编辑审核劣势凸显[1]，如何高效过滤不良评论是《纽约时报》在开放评论区时面对的紧迫问题。

1.人工审核导致用户原创内容发布率不足

《纽约时报》一直注重文章评论的价值理念与发布新闻相符合，为了确保和原文放在一起的评论区质量，《纽约时报》14个审核员每天对约12000条评论进行审核，与《纽约时报》理念不符合的会被删掉，以保证网站的用户体验。

由于人工审核工作量巨大，每天评论区只有10%的评论被审核通过发布，有的新闻评论区因审核人手不够而关闭，导致《纽约时报》评论区原创内容不足。因此，《纽约时报》需要进行评论区审核变革，给读者提供自由讨论的观点平台，以对原文进行观点补充，打造高质量的内容管理平台。

2.网上裂变消息亟须监管

然而，激烈、尖锐的争论会导致网站关闭评论区。《纽约时报》意识到评论的质量会影响品牌，面对社交媒体的裂变性传播，为了对内容负责，加大了对社交媒体言论的管控，解决了人工编辑人手不足问题，提高了审核效率，积极对读者问题和评论做出回应。

如新闻Scarlet Letter in the Emerald Isle获得92条评论，用户评论对爱尔兰投票废除禁止堕胎的立场是“不要杀死未出生的孩子”。在编辑观察ED ITO-RIAL OBSERVER栏目，新闻Gimme Shelters，Manhattan讲述了纽约市中心居民与城市无家可归者收容进行的一场“战斗”，用户评论达到353条。有读者在用户评论版块澄清事件：作为第58街的工人阶级家庭，我们想要帮助无家可归者，但这篇报道未能解决的问题是，帮助无家可归者的成本如何解决，以及谁从无家可归者中获利？这不是关于“不在我家后院”的问题，而是希望强迫政治家分配资金用于经济适用住房建设，以及制定永久性解决方案帮助无家可归者，改善学校和公共服务。该评论获得1回复35推荐，对文章观点进行了很好的补充。

二、 算法与人工结合的高效审核创新评论区

1.以Moderator自动算法综合评分优化评论区

网上评论裂变式增长，单一的人工筛选已不能满足优良评论呈现的需求。在《纽约时报》看来，读者评论也是内容，但它更重视质量而非数量。2015年，《纽约时报》采用自动化评论算法体系对用户评论进行优先排序，通过谷歌人工智能审核来解决这个问题。2016年，《纽约时报》与谷歌Alphabet科研团队建立评论体系合作关系，提高了编辑审查速度，能容纳更多的评论。《纽约时报》还与 Instrument合作打造Moderator（意為版主）A I系统，给每条评论打分，优先推荐综合评分较高的评论，并通过优化管理评论区的算法，将有害评论和健康评论区分开来，减少人工编辑的审核工作量。

随着Moderator的推出，允许评论文章由原来的25%扩大到80%。Moderator利用Jigsaw机器学习技术来掌握评论的尺度，优先审核“不太出格”的温和评论。如果这些评论够温和，就可能全部放行。在 Moderator 的管理下，每条评论都会被打分，如果不符合要求就不会出现在评论区[2]。Moderator有这样的能耐是因为它遍阅了2007年以来评论区里1600万多条温和评论。除此之外，Moderator还会试着预测为何一些评论会被删掉。

对《纽约时报》的社区编辑来说，每条评论都像直方图上的一个小点（如下图），直方图上的位置可能会决定一条评论是否被删掉。有了新工具，《纽约时报》的社区编辑轻松多了，他们直接参考机器学习模型，只阅读那些有可能被删除的评论。如果这些评论足够温和，他们就会对0%— 20%区间的所有评论放行。被优先推荐的评论是综合评分较高的，新系统加入后，能否得高分主要看评论是否包含淫秽色情内容、“毒害性”言论以及被删除的概率。随着综合评分系统的逐渐成熟，《纽约时报》社区编辑的工作强度进一步降低。

机器学习的优势在于它能随着学习的深入变得越来越聪明。Moderator并没有自动化所有的审核流程，而是使用机器学习来帮助《纽约时报》的编辑在更短的时间内审核更多的评论，使人工审核人员更容易发现“有害”的评论内容，并对这些评论做出裁定，一般的处理结果是删除。《纽约时报》正试图搭建一个能让读者随心讨论的安全环境，让每个人都能平心静气地抒发自己的观点。

2017年，Jigsaw发布了新工具Perspective，它能通过机器学习原理识别、评估评论中的内容是否“有害”。如输入“ug ly”，显示有82%的可能被标记为“有害”。而人工审核只能通过多种因素评估每条评论，如是否包含亵渎、煽动性言语等。机器学习的好处在于既能让人们自由地发表言论，又能阻止传谣。AI算法是评论区“有害”言论的过滤器，当数字化和机器学习取代了人工，对媒体而言，最重要的是生产和传播内容，用新技术触及更多受众。2017年，《纽约时报》牵手《华盛顿邮报》Mozilla基金成立TheCord Propect（珊瑚项目）改进在线评论，为《纽约时报》编辑快速审核用户评论提供了便利。

2.设立NYTpicks栏目展现精选评论内容

自动算法大大增加了评论内容，《纽约时报》为此设立了三个版块展现精选内容—— NYT Picks（纽约时报精华）、Reader Picks（读者精华）和All（sort bynewest/ oldest（全部、按最新排序）。栏目页面端显示Share your thoughts（分享你的观点）按钮，读者点击就可以自由发表评论，如下图。

例如，2018年5月17日的新闻Documents Show Promise，and Letdown，Around Trump Tower Meeting，显示评论225条，NYT Picks展示了其中5条评论。有条评论指出“国会共和党人不履行宪法义务进行监督，应该进行彻底调查”，该评论有1条回复，363条推荐，与原文话题紧密相连。有条评论说“美国人关心保护我们的民主体制，特朗普的竞选体制是否和克林顿一样”，该评论有2条回复，77条推荐。NYT Picks的评论也会展现在Reader Picks中，All则是前两者的综合。所有审核评论会在几小时内自动更新。

2018年5月18日新闻的In Texas School Shooting，10 Dead，10 Hurt and Many Unsurprised（在德克萨斯州学校枪击案中，10人死亡，10人受伤，许多人毫不惊讶）共有3742条评论，读者在评论中呼吁立法者收紧枪支法。2018年5月19日英国哈里王子和美国演员梅根大婚的新闻As Pr ince Harry and Meghan Markle Wed，a New Era Dawns通过过图片和视频展示，将英国王室推向一个新时代，读者对该新闻评论关注度很高。

三、优化评论区内容，创新盈利模式

未来的评论区将成为新的内容生产阵地。用户评论也具有内容价值，A I智能化审核提高了评论发布数量，人们在关注新闻的同时，也会关注对应有哪些评论。鼓励用户发表评论可以提升报纸网络参与热度，吸引流量，提高用户订阅率与评论区的广告投放[2]。

1. 开发评论区广告盈利模式

《纽约时报》采用订阅制，订阅费用为每周1美元，非订阅者每月只能免费看10篇文章，非订阅用户的评论功能将被关闭。评论区留言凸显内容价值，也成为原生广告的创新领域。《纽约时报》对特定的报道领域进行商业推广，如在体育类报道评论区出现耐克赞助广告，对企业主的名称进灰色标识，以提示评论者“广告主”身份，并通过评论区背景色彩将广告与普通评论区分开来。此外，《纽约时报》还在评论区采用细分广告满足受众需求，如评论区出现的如花旗银行citi?广告：Easily lock your card with Citi?Quick Lock on the Citi Mobile? APP，Designed for you to spend less time on it（在花旗移動应用程序上轻松地用花旗快速锁定卡设计，让你少花点时间在上面），以吸引白领消费人群。

2.设置专栏介绍评论区的活跃读者

用 户 原 创 内 容 使《 纽 约 时 报 》 评 论区的 内 容 更 丰富，部分读者来信、经典评论也会放在Opinion板块，突出评论在社交网络的影响。如2015年11月23日的新闻Meet Some of Our Top Commenters（会见一些顶级评论家）中提到的一位长老会牧师、一位电气工程师、一位科幻作家，他们都是《纽约时报》读者评论区最有影响力的贡献者之一。读者对事件的相关评论被置顶新闻首页，凸显了新闻的重要性。

用户评论是新媒体时代用户积极参与媒体的重要方式，《纽约时报》自动化创新审核评论模式提升了用户评论数量，激发了用户参与内容创作的热情，满足了读者多元化的信息需求，有效促进了新闻平台网络化、多渠道内容展现，并解决了信息泛滥时代人工无力审核的难题。

|参考文献|

[1]雷锋网. 《纽约时报》联合谷歌开发的AI算法评论直方图[EB/OL]. （2017-06-16）[2018-12-23]. http：//www. eepw. com. cn/article/201706/360605. htm.

[2]王立芳. 《纽约时报》的数字化转型研究[D]. 北京：北京交通大学，2017.