时事“小二”扫黄

文 黄旻旻 编辑 汤涌

时事“小二”扫黄

文 黄旻旻 编辑 汤涌

这个职位没什么宅男福利，成为一名鉴黄师，可能还会丧失一部分作为男人的乐趣

用老板的时间来上黄网的人，恐怕妻子对他都难以理解。当阿里巴巴安全部的“信息安全运营小二”天成告诉老婆自己即将成为一名“鉴黄师”的时候，他得到的回应是：“投其所好”。

这是大部分人听到鉴黄师这个职位时的玩笑—宅男福利—拥有免流量、免会员账号、免积分点数无限制欣赏大量色情资源的机会，并且还是在上班时间。

自1980年代后期，制作、复制、贩卖、传播淫秽物品量刑细化，鉴黄师这一岗位首先在公安系统内产生。他们负责审看办案单位送来的书、录像带、VCD、DVD，开具鉴定结论。这些结论会影响案件的定性、犯罪嫌疑人的量刑和处理。

和公安系统看碟翻书的前辈们比，阿里巴巴的鉴黄师们面临着的是最聪明的传黄者，有的还很调皮。要把阿里巴巴旗下各类产品里的涉黄内容分择出来，一要懂黄，二要懂产品。

2013年，由百度、腾讯、金山等10多个互联网公司组成的“安全联盟”20万招聘“首席淫秽色情鉴定官”的消息很快成为热门。拥有看片的福利还拿着高薪，网友们对这个岗位的评价大概可以概括为：简直没有天理了。

已经鉴黄2年多的天成冷静地描绘了这份工作：“看到一张图片，我满脑子想的都是：这个是不是合规的？”

天成已经被训练出了职业惯性，他没有炫耀自己坐怀不乱的定力，工作就是工作，保持理性是所有“鉴黄师”工作时的理想状态、职业守则第一条。

黄色信息的处理只是阿里鉴黄师工作内容之一，欺诈、暴恐的审查都在这个岗位的职责范围里。“在阿里巴巴我们自己有正规的抬头。”他很认真地介绍，“就叫信息安全运营‘小二’。”

这个抬头可以让他躲开被家人朋友的盘问、取笑和自己的尴尬：“我不会跟他说我是鉴黄师。”

那些奇葩的买家秀

天成目前的职责是负责阿里平台上存在交互功能的产品里，不良信息的鉴别和筛除。来往、扎堆里的朋友圈、手淘客户端、淘宝的买家秀……这里存在的违法违规内容，很大一部分是黄色信息。其中最吸引眼球的、亮点频发的重灾区，就是买家秀。

今年5月份，阿里安全部的业务部门和公关部一起策划了#奇葩买家秀#话题，一些大尺度的买家秀图片在微博和微信公众号曝光，这引起了轰动。

在阿里自己意识到买家秀可能会引爆话题性传播热点之前，已经有大量的个人账号（也包括赚眼球和流量的营销号），热衷于挖掘淘宝里隐藏的“亮点”。直到他们总结起光怪陆离的“奇葩”并公布到微博、朋友圈，人们才知道，淘宝里原来暗藏着这么多“好东西”。

阿里官方的“晒奇葩”行动迟于这些来自民间的动作，但是因为掌握着第一手信息，形成了更大的话题。

2015年6月3日，安徽淮南市田家庵区小学生展示领取的“扫黄打非·护苗2015” 绿书签

违规处理

2015年5月，阿里巴巴安全部共处理违规自拍秀2000余张。

一位购买了劣质纸尿裤的妈妈气急败坏地晒出了自己家女儿被纸尿裤捂烂了的下体；一个买了痔疮膏的会员展示患处，表扬药膏立竿见影。

情趣内衣、内裤、胸罩的真人效果的示范图比比皆是。

网友们看到的图都经过了处理，但公关部的小丫没有被同事们这么温柔地对待。当业务部门“粗暴地”把原幅大图直接粘贴在一个word文档里传给她的时候，这位新妈妈被吓到了。

一个戴着兔耳朵的女优正用舌尖舔舐一只用来挡住关键部位的男士皮鞋。虽然已经事前打了码，但很多人仍然可以看出，它模拟的是一个口交的场景。

年轻和天真的买家往往在买家秀上特别大方，吸引了注意力之后才明白自己惹了多大的麻烦。

最常见的情况是内衣买家秀，很多买家露了点，盖住脸。

这些买家秀达人仍然认为只要守住不露脸的底线就万事大吉。天成说自己“很诧异”，“不要以为头不露了别人就不知道你是谁。”有好事者专门盯着淘宝买家秀，虽然匿名、没露脸，但仍可能被找到。

有人为此付出了代价，骚扰者找到发布人的账号，真人露脸图和内衣秀一起被公开，贴在各种色情论坛上。

在淘宝上公开叫卖的黄色书籍和碟片会被小二们很快干掉，这也是一种最简单的传黄形态，传黄者们在不断进化：店里链进AV视频、把日本成人漫画藏在隐秘的漫画里出售，甚至隐秘的卖淫。

阿里在不断更新鉴黄的技术手段，但随着业务量的扩张，不可避免的是，相应的违规信息也在增加。

阿里云平台的鉴黄师孝肃形容自己的工作节奏是“7×24”，几乎全年无休，尤其是“双十一”、“双十二”。

上亿会员同时在线的“双十一”、“双十二”给天成所在的团队带来巨大的压力。“有些流量大的店会放视频和弹幕，我们就要时刻盯着……这时候影响最大，我们更要保障它的洁净度。”

弹幕是每个用户都可以发言，就像现实中的人群聚集一样，有失控的风险。

一个鉴黄师的职业修养

尽管很多男性会学色情论坛上用户的客气话来开玩笑（比如“好人一生平安”），但身为鉴黄师，认同工作才是第一位的。

鉴黄师“包孝肃”的花名和他本家包拯的谥号一样，他的脸圆乎乎，总是露着笑，谈起自己的工作时带着一种不容商量的语气。

“我是有孩子的。”他往上推了推眼镜，“我也不希望我孩子上网看到那种诱惑的姿势的图片，和黄色图片没有区别。”

阿里巴巴从有业务开始就有安全团队、鉴黄师，但这个队伍的壮大是最近三四年的事，伴随着业务量的增加，他们同各地公安部门的互动和合作也越来越紧密。和公安机关有点像，他们的重要信息来源是广大群众。天成和孝肃每天的工作都是从处理举报信息开始。

黄色信息的大量摄入极大地提高了天成的防御值。“能让我恶不恶心不是数量的问题，是画面；不是看了多少，而是看了什么。”入职阿里安全部近8年，天成已经从一线的信息安全运营“小二”成长为团队的管理者。

正常男用户看到“福利图片”时首先脑补的可能是“D杯还是E杯？”，天成关注的则是：“它怎么能被发上来？我们的系统是不是有漏洞？”

常见的异性性交图片并不令天成反感，女同的性行为甚至可以算作额外福利，但鉴定“男男”图片对天成则是个挑战。“真的受不了。”

在成为鉴黄师之前，天成的工作是负责支付宝账户的安全，鉴黄工作确实部分增加了他和同事们的工作乐趣，但那种乐趣可能更偏向于技术流。“有时候遇到一张图片就会一群人一起盯着看，还会分析：哎，这是假的吧，PS的吧。”

此前的媒体报道提到过，公安部门招聘鉴黄师的硬门槛是已婚，但在互联网公司，是否已婚已经不作为筛选鉴黄师的指标，在这个时代，婚姻已经不再是性经验的指标了。

即使是鉴黄的第一天，天成也并没有特别地感到尴尬。“如果我没有看过，那可能还会脸红心跳。但大部分男生在大学的时候就都看过了。”

女性鉴黄师这个岗位并不罕见。在阿里的鉴黄师团队里，男女比例是1∶1。女性工作细致，一些打擦边球行动的尺度，做了母亲的女性可能会提出一些更好的建议。

天成的团队里有一位三十三四岁的妈妈。“她不但需要负责信息安全，还有整个成人用品类目的管控。她甚至还特别了解整个成人用品的分类，是道具还是飞机杯。”这位女同事还专门去参观过日本的成人用品展、工厂。

“做安全嘛，性格开朗很重要。”孝肃取笑他的同事小丫，那个受不了黄图的新妈妈：“你这样的就不适合。”

男性鉴黄师们生活中对黄色物品的兴趣确实有下降，天成说问题在于会忍不住想起工作：“看一张黄图，我们会想：哎，这个系统应该抓到的吧。为什么没抓到？这个人为什么会在这个地方发这种东西？他想的是什么？而在大学里看黄图时，我只会单纯地想：哎，这个女的身材真好。”

草榴也在盯着阿里，有问题的图刚出现，马上就能在草榴看到。被这个中文世界最著名的黄色网站拎出来“吊打”是件危险的事

天成仍有访问草榴等色情网站的需求，并且非常频繁，这是工作需要。他需要时刻更新样本库的高清大图，保证系统跟得上最前沿的节奏，系统会把长得一样的各位“某老师们”从产品中筛选出来，送到鉴黄师面前。

草榴也在盯着阿里，有问题的图刚出现，马上就能在草榴看到。

被这个中文世界最著名的黄色网站拎出来“吊打”是件危险的事，这些图片可能很快就会发布到微博、朋友圈，这也让天成格外紧张。

“第一步我会把这个信息清理干净，第二步就是找到为什么这个信息我们没有发现。”

“专职做这样岗位的人，绝对能达到这样的状态，听到前奏，知道是哪个发行方、制作方，哪个公司产的，甚至可能看到一段视频就知道大概在什么位置会出现黄色镜头。”据说熟练的鉴黄师甚至可以清楚分辨出AV里女优的声音。

恶搞里也埋着色情的雷

一些“新奇特”商品也是各种奇葩，有的能让人一笑了之，有的色情内容就藏在了里面。

帮卖家打通任督二脉、全球限量1G（克）切糕、马勒戈壁上的珍稀物种草泥马、18岁少女口水一小瓶、虚拟女友，最后一个可能就有问题。

“虚拟女友”曾一度风靡淘宝。花20块钱左右就可以通过微信、QQ、短信享受一个不认识的女生的服务，内容包括叫起床、道晚安、听吐槽、给唱歌。你还可以选择是要御姐还是萝莉。

这类商品很快引来围观，有人说它是“宅男福音”，甚至有买家说“差点要爱上她”。但因为可能带来欺诈甚至出现卖淫、招嫖，虚拟女友在引起争议后，很快被下架。

安全部“小二”Sophie曾经发现过一件名为“最新捕获的活体金刚野生葫芦娃”的商品，标价1毛钱。

有买家出于好奇真的买了，“拍了后评价‘为什么收到货什么都没有？’店主回他：‘因为给你发的是六娃隐身娃啊。’”

这些“新奇特”究竟是“杀”还是留，需要鉴黄师自己拿捏尺度。他们也是一群爱逛淘宝的年轻人，懂得二次元世界、上B站，“决不能漏掉一个”的工作原则外，也会手松一下，保留必要的幽默感，一些可爱的玩笑被允许存在。

野生葫芦娃现在仍然可以在淘宝搜到，大部分卖家自觉地在颜色分类里把这个商品标注为“纯属搞笑”。买家花1毛钱，确认收货后可以留言评论。他们买的，其实是一个评论栏的吐槽广告位。

“买了7个娃，结果来的就一个，店家说可能是7个娃合体了吧。”

“给我发的是一对水娃火娃，然后呢？我家天然气啥的省了好多。”

技术还无法替代的岗位

阿里巴巴旗下产品的图片日均更新量已经达到亿级。通过人力没有办法满足如此庞大的更新量，它需要强大的、智能的系统。这种系统也要学习，这也是为什么天成要去草榴上找图“教它”，就像给警犬一只嫌疑人的鞋一样。

所有可能的涉黄信息都会经过系统打分。“打个比方，如果系统打分说这个图片99%涉黄，那就几乎可以确定是，机器自己会处理。另外一些次一点分值的图片，就需要人工鉴别。”

天成介绍了自己每天的工作流程。“首先要处理一下举报的内容；第二个是针对我们系统自动处理之后，其他的需要人工进行判断鉴别的信息，做任务的申领和处理；第三个是维护我们的整个系统的性能，提升它的学习能力。”

更被看重的第三步，把日常工作当中发现的一些违规的情况，进行总结，添加到相应的样本库。丰富样本库，提高系统的准确率。

系统工作所遵循的规则和逻辑在安全部是个不允许被对外谈论的话题，一旦暴露模型和规则，防控就会失效，对手会绕过它。

不过，在整个违规信息的管理链里，利用系统事后删除只是最后一步，是下下策。大部分小网站的删帖者所从事的就是这样依靠工具的、简单重复的劳动。

阿里巴巴安全部更希望做到能在黄色信息还没有发生的时候就拦截，这在很大程度上依赖于鉴黄师们的工作反馈对系统的提升。“

今天互联网上出现一个什么新的情况，这是需要审核人员有敏感性和嗅觉的。更重要的是发现了一个新的情况之后，他要能感觉出来：管控之后，可能会有什么新的变化，提前在线上布置策略。”

处理数据、分析会员行为、通过事后处理，反哺系统的逻辑、规则、运行、管控策略，才是阿里鉴黄师工作的核心内容。让这个系统越来越像人这样思考，鉴黄师就可以尽量少地去接触各种不快的原图了。

“我们依托于一个庞大样本库。”天成介绍道，“对系统进行训练、学习，经过长时间的积累，它的准确性就会越来越高。”

超过系统认知经验的商品，会及时传递到鉴黄师的手里，所有的商品发布都在监控范围内，出现了新的东西，商量一下，很快就会被处理。

阿里安全部依据以往的系统经验开发了“绿网”，它可以帮助所有依托在阿里云平台上的企业网站实现内容自动净化。依托绿网，没有能力自己开发安全系统的小网站可以使用阿里已经成熟的技术，节省自己雇佣鉴黄师的成本。

魔高一丈

天成和孝肃都说，传黄的人也在一直成长。

原来的标题是“招小姐”，被系统屏蔽后他们就改成“有妹子，你懂的”（“你懂的”在淘宝上已经被屏蔽）。

有的直接不发文字，发个图，打码，留个QQ号。

“人家挂着一张人体艺术的油画，说是卖油画的，你问他，他说：我们到QQ去聊。”这样斗智斗勇也让天成和他的团队不停地自我进化，就像在和对方推手，“真的有些人是专门在研究我们的规则和模型”，甚至不停地发图试。

当系统判断出现疑问的时候，鉴黄师们只能通过数据去搜索可疑的卖家到底在卖什么，有的时候则需要通过他的行为去锁定。

随着互联网的普及，网站已经不再是“扫黄”的主要战场，更主流的是网盘，不少内容手机客户端也能找到。它们的传播变得快速、便捷，监管也变得更困难。

“鉴黄的分工（在阿里）存在至少也有五六年了。”天成回顾了自己队伍的壮大，“原来做这个岗位和事情的人一直都有，但现在发展成专职、全职了，因为随着互联网技术发展，近两三年，这个职位（的作用）越来越凸显。”

法律法规没有也不可能穷尽每一种色情信息的具体情况，但对于企业而言，他所必须负担的“扫黄”义务，并不会因为标准的模糊而得到宽容和理解。鉴黄师们还需要探索，在模糊不清的标准面前，找出一套适合自己平台的专属标准。

中国并没有采用西方国家通常的内容分级的方式来管控不良信息，阿里巴巴法务部告诉《博客天下》，中国的色情管控法律法规“是基于我们的公序良俗，建立起了一整套适用于中国国情的体系”。

阿里有自己的规则，一个高于国家标准的、更细的准则，并且需要不断地和一线的“扫黄打非”部门保持联系。

阿里法务部对规则形成过程的描述是：“结合具体的业务场景，兼顾不同国家、地区、民族的需求和感受……除了参考规范性文件，也会与当地公安、文化广电新闻出版局、国信办等机关保持紧密联系，就工作中遇到的问题及时获取咨询建议。”

在新闻出版总署发布的《关于认定淫秽及色情出版物的暂行规定》里，除了对明确的淫秽和猥亵行为作出界定性六条描述之外，最后一条是“其他令普通人不能容忍的对性行为淫秽性描写”。

普通人不能容忍的程度并不完全一样。模棱两可的图片究竟是黄色图片还只是情色类相关，尺度全由鉴黄师把握。

这使得内部统一标准显得更加重要。“标准不能混乱掉。”孝肃说，“我们每个人的感官都不一样。”

曾经出现过的备受争议的“原味内衣”，并没有法律做出界定，但也没活太久，违反公序良俗的情况，不被欢迎。

不同的平台对同一张图片的要求也会不一样。买家买把椅子，却穿个比基尼坐在上面挤着沟，属于低俗营销，是违规。同样一张图片，出现在分享平台用户自己的账号里，就会被允许。

把系统抓取的可疑信息处理掉并不是鉴黄师最重要的任务，他们的竞争力在于，懂得不同产品和渠道上尺寸的把握。

为了统一标准，阿里巴巴要求所有鉴黄师上岗前要经过考试。

标准过低放过色情内容的员工可能会让公司因为“监管失职”负上连带责任。而标准过高也一样无法通过考试，这可能会影响成人类目的卖家的正常经营。

“阿里作为网络交易平台提供商，对包括黄色信息在内的不良信息负有一定的监管义务。”阿里法务部的回答是，如果阿里知道或者应当知道平台上某条具体的黄色信息的存在，而不采取任何处理措施，会被责令罚款、停业整顿直至吊销经营许可证，企业负责人也须承担相应的刑事责任。

一个近在眼前的判决案例就是深圳的快播。

天成、孝肃、Sophie还没来得及换上阿里安全部新标志，他们脖子上挂着的工牌还保留有原来的部门LOGO—一个戴着大盖帽、表情憨厚的动漫形象的警察。

此前有网友送给阿里巴巴安全部“阿里神盾局”的名号。

神盾局的全称是“国土战略防御攻击与后勤保障局”，在美国漫威漫画里是美国队长、雷神、黑寡妇、钢铁侠的工作单位，专门处理各类“超能力”奇异攻击者的安全组织。

阿里安全部也模仿着神盾局的徽章，将自己的部门LOGO换成了一个鹰的标志。

曾经是一个守土有责、家长里短的青年，现在则需要成为一个眼神锐利、大胆进击的猎者。