有一群人,他们的工作就是屏蔽你在网络上无法看到的内容。

他们就是“”,也叫网络审核员。

许多人都以为鉴黄师很轻松、很爽,每天只需要看平台更新的内容即可。但实际上,鉴黄师看到这些问题内容时,他们能做的只有通过、删除。

当一个人被无数次暴露在血腥、黄色、谩骂的环境下,心态逐渐失衡。殊不知,这些负责清扫网络垃圾信息的人,也是抑郁症高发的群体。

他们不仅需要996加班、工资低,还没有人能够保障他们的心理健康。

曾有部讲述Facebook审核员的电影《》(the cleaners),片中一位审查员,生前是负责审查自残视频,看过了数不清的自虐视频后,在家上吊自杀了。

没有人关心他们的心理健康。

本期显微故事讲述的是一群“鉴黄师”,他们之中:

有的人是海归硕士,抱着职业梦想进入今日头条成为“审核员”,最终却因升职困难、工作压抑,降薪去了一家创业公司;

有的人曾一天看4000多条黄暴信息,深夜给领导打电话哭着要辞职;

有的人曾是微博审核员,负责给明星控制负面舆论、但自己也被网暴,最后转行成了心理咨询师;

还有的人是网文平台审核员,除了文字,还要处理用户千奇百怪地、逃避审核机制的黄暴信息;

以下是关于他们的真实故事:

文 | 常宁宁、 蜜斯桃、李海草
编辑 | 万芳

干满一年就算资深员工

月薪5000元、无法加薪、难以跳槽

小鹿 前今日头条用户运营 25岁

今年,我接受了降薪、加班的新工作,就为了逃离“内容审核员”的工作。

在互联网公司,内容审核、电话销售,被称为两个最没前途的岗位。一旦你选择了,一手好牌就打坏了。

2017年,我从英国某大学研究生毕业,加入了一个互联网公司做运营。这家公司是某知名大厂,校招时十分“卡学历”,没有985背景很难走到最后一关面试。

我所在的组里有十多个实习生,其中本科都毕业自复旦、上海交大、武大等985院校,还有很多有海外留学背景的海归硕士。

我们有两个团队:初审的团队(由二线城市子公司、外包公司承包);还有就是运营团队,负责一线城市和复审,就是我所在的团队。

复审团队会把初审团队评定为“安全”的内容,人工打上“优”、“良”、“一般”的标签,不同的标签决定内容的曝光推荐级别,直接影响内容数据。

按公司规定,用户上传的内容要在2小时内审核完,每天要完成全部当日新增内容审核。

为了保证内容审核“日清”,初审团队采用“三班倒”,这样24小时都有人审核。他们的KPI就是每天审了多少条、准确率多少。

第一次听见这个KPI时,我惊讶了,这完全是工具人啊!

复审则轻松得多。但主管为了让我们提高效率,让程序员写了“警报装置”,只要有超时没审的内容,系统自动报警。

通常,我们吃个午饭回来,办公室里就警报声响成一片。

我们常自嘲是“人工智能”里的“人工”,一旦出现了审核纰漏,我们成了“人工智障”。

这份工作看着简单,做起来也很简单。但是留不住人;而且很消耗人。

纪录片《网络审查员》剧照

我们也常和初审团队有交流。

对他们来说,能在公司做1年就是资深员工了。除了工作机械外,他们还要处理更多黄色、暴力、辱骂的内容,对精神伤害极大。

初审团队的薪资在每个月5000元左右,基本也没有更高的涨薪空间。

这份工作也不能给履历带来多大的价值,更不要想着跳槽了,就这么成了互联网“炮灰”。

我的工作也不过是训练机器审核,提高准确率。公司内部计划在未来用机器审核取代人工审核,每次开会,程序组都会量化机器训练的进度。

每次我看到那些机器审核准确度数据上涨时,都觉得我未来的职业道路正在被堵住。

去年tiktok的审核团队被大量裁员,让我感受到了危机。

被美国封杀后,国内的小语种审核团队大规模被优化。这些人当时都是名校娇子,做了一年审核工作,原有的语言优势反而被弱化,裁员后只能继续找审核相关的工作。

35岁职场危机就在眼前。

纪录片《网络审查员》剧照

当我认识到这一点后,我决定离职。

当时我的薪资是14k左右,但我再去面试其他岗位时,名校+大厂的背景不好用了。心直口快的面试官会直接告诉我,“能力不足支撑岗位”。

我不得不降低薪水,在一家小创业公司找到需要加班、更累人的工作。但我不后悔,至少这份工作里,我不再是没有感情的审核机器。

深夜看黄图就崩溃大哭

公司为了“哄”大家设立“发泄基金”

小Z 女 27岁 某平台内容运营主管

我们平台的用户大多在下沉市场,大部分文化程度不高中老年人。

近年来以老年人为受害者的诈骗案频发,而我们平台每天有几十万老年人在此获取内容并分享。

这也要求我们在内容的管控上要更严格,担心不良内容导致用户财产受损。

我是内容主管,但管理审核团队、协助技术团队提高内容质量也是我工作的一部分。

我们团队有15个人,大部分是97后。审核员里没有”前浪”,这份工作枯燥无味、重复性高,薪水也低,几乎没人能坚持过一年。

每次有人离职,我们就去学校招实习生,或者刚毕业的新人补位——这活没啥技术门槛。

我们平台每天更新数万条内容,文字、视频、图片都有。有些是用户上传的、我们内部爬虫抓取的,涉及需要审核的内容有数千条。

我们需要人工打上“”、“隐藏”、“推荐”的标签,并针对里面广告词手动删除。

那些擦边球内容(涉及暴力、金钱、性、夸大宣传),往往能吸引流量,换来个人收益,所以经常会遇到有团队(俗称“做号公司”)换各种账号,批量上传黄暴内容。

文字最好处理。我们内部做了”敏感词库“,负面词汇会直接变成“xx”显示。

容易踩线的词一旦出现在标题、文章中,系统会自动屏蔽,需要审核员复审没问题后才能放出。

这是我经常会接触到的图片

不算黄暴,但每天都要看到好几张

为了逃避审核,有的人会把小黄文生成图片上传,或者在敏感词前加字母、数字等防止被识别到。

对小公司来说,图片和视频审核比较困难。我曾遇到过一批视频,在播放的最后5秒里出现虚假广告,就让技术增加了“去5秒”功能。

魔高一尺,道高一丈。

没几天这个用户就把视频帧乱序后加上广告(广告出现时间随机)。此外,还夹杂了不少黄色内容,最后不得不继续用人工审核。

这样的工作,经常会让审核员自我怀疑,觉得接受那么多年教育就是为了做这个工作吗?这样的工作到底对我有什么价值?

我最怕深夜接到电话。大多夜里的电话都是我下属情绪崩溃、闹着辞职、甚至觉得人生没意义想要自杀。

这种情绪处理不好可能遇到员工的辞职。

去年我们公司就遇到了这样的事。一名审核员辞职后,公司和她关系很好的女孩子也说说自己因为做这个工作得了抑郁症。

纪录片《网络审查员》剧照

当时那位主管批评对方心理脆弱,结果导致更多审核员离职。一时间,平台上出现过载的负面内容,运营组的人都被临时叫上去分担“审核”工作。

没过几天大家都有些不正常了,每天神神叨叨、消极、觉得工作没意义,甚至说“再要审核,我们就集体离职”。

纪录片《网络审查员》剧照

迫于压力,公司迅速补招审核员,还顺带找了名心理咨询师,并拨款给审核团队用做“发泄基金”。

所以,每当收到深夜崩溃电话时,我都要耐心“哄”他们。

比如说,“我们的工作让老人不会受骗、很有价值”,此外还经常在群里分享用户的好评、增加工作信心、承诺申请更多奖金。

但我何尝不觉得这份工作意义不大?

我内心很矛盾,一方面想挽留他们,毕竟这样我就不用被临时调去一线审核。另一方面,我觉得很自责,我面对一个个原因相信我的年轻人,画了一个又一个“升职加薪”的大饼。

这个饼,可能永远不会实现。

受够每天4000条负面微博

审核员没有技术含量,大部分是应届生

纪霖 26岁 女 前微博内容审核员

我曾经是微博内容审核员,最忙的时候,每天要看4000多条微博。

对内容审核来说,图片内容相对容易审核。通过举报陈述、或者直接判断图片内容是否不雅,就可以进行删除,并对发布者进行相应处罚:禁言或者封号。

我的同事都来自各行各业,有曾在天安门负责治安的城管、也有政法大学的高材生、应届生。

做内容审核最重要的是,情商要高。不仅要懂得维护关系,也要有底线和原则,不能谁求你帮忙都帮。

刚做审核时,每天都能找到很多乐子,能见到很多奇葩的人。

但做久了,接受的负面、黄暴信息多了以后,就越发觉得无聊。这职业根本不需要技术能力,只要机械性的审核、判断就可以。

所以,但凡有点梦想的年轻人都很难持续下去。

这些审核员们大多都是男性,看多黄暴图片真的很容易印象心理状态,让人对平时生活里欲望也没有了。

甚至有段时间,我因为看了太多负面信息,感觉人生压抑。怎么社会上会有这么多骂人的方法、到处都是肮脏、变态的人。

如果我不做审核员,我根本不知道社会上有这么多奇葩的人。

有的人专门卖“原味”,还有些恋足癖、内衣癖,还有人在闲鱼上专门寻找别人的二手内衣,这都是非常普遍的事情。

有时还会遇到些“挂羊头卖狗肉”的钓鱼内容。比如有些人会发自己的自拍,吸引别人问她是否卖“私房”,甚至可以线下销售“自己”。

对于他们来说,无论是微博、闲鱼、还是其他社交渠道,都只是展示和销售自己的方式之一,在哪里都可能遇到。

前段时间,有人曝光潘玮柏、郭富城的妻子实际上是上过“嫁豪门”课程的。

其实通过看他们的微博、微信内容也很容易发现,她们乐于分享自己的照片、生活,吸引明星、土豪给自己发私信。

这种看照片验颜值约妹子的行为,被我们内部称为“选妃”,很多爱慕虚荣的网红就是这么被撩到的。虽然我们不能看用户私信,但还是会在举报内容中看到。

我们公司内部开发了一个程序筛查黄色图片,从属于视频部门的网监部下。视频里包含肉色的几帧会第一时间被被筛选出来。

好笑的是,这种机制会经常筛选出加菲猫的图片——许多加菲猫也是肉色的。这时就需要我们人工判断加菲猫或色情图。

大部分垂直内容是相互独立审核的,比如,有的同事负责服务大V,对明星的举报进行重点维护。

明星出了任何问题,是可以直接找到微博负责人,同时他们也有相应的删帖名额,可以进行热搜降级、评论处理等。

我们所收到的举报信息都是有举报原因的。比如涉政、淫秽色情、垃圾短信、还有各种纠纷等。

甚至有些男人分手后报复前女友,直接在平台上发她的裸照,后台觉得可怜同情,也会帮她删掉的。

纪录片《网络审查员》剧照

这个工作太负能量了,一度让人抑郁。

所以没有做多久我就发现不适合,大概一年后我就辞职,考了心理咨询师资格证,转行做了心理咨询师。

相比屏蔽负面内容,我更愿意从根源上让大家在内心化解掉怨恨和欲望。

语音转文字内容也不能放过

一旦平台出事,我们的工作就都没了

李海草 男 27岁 创业者

2015年,我曾在一家网文平台里做编辑,偶尔也协助做安审。

我们平台开放全网注册,所以免不了有的用户会发布违规内容。大部分违规内容是广告、色情、赌博信息,还有少量血腥暴力内容。

比如“纽约双性恋的姑娘,出来聊一聊?”“我跟继父睡觉,然后要挟他给我买一辆车”……

我们系统会自动拦截、删除明显的违规信息,严重的就封掉用户账号。

如果系统判定网文作者某个字、某句话涉嫌违规,系统会将这部分内容高亮放大。

如果只是个别字句,审核人员会帮助修改。但涉及到剧情、文章架构,需要大幅度修改的,审核人员会打回该章节,让作者修改后重审。

如果文章里有配图,那么每张图片系统都会拦截出来,让审核人员进行判断。虽然是写作类APP,上传图片的用户较少,但还是有些不怀好意的人上传的色情图片。

我第一次看到黄色图片时,就是系统拦截到了好几页全是光溜溜的身体部位。

刚开始看到这种内容我还有点不好意思,但见多了以后,一看到这种图片就反胃。

现在用户逃避审核的方式也很多样化。

有一位用户上传了QQ群聊天截图,其中有段信息是语音转换成文字,转化出来的都是一些语气词,嗯嗯啊啊的,明显是和色情相关的内容。

当时我就很紧张,找领导商议。但领导觉得我神经太敏感,我还是坚持己见,把那张图删掉了。

安审工作看起来简单轻松,但如果走神让不良信息曝光出来,对平台造成的影响可大可小。严重的话,我们连工作都保不住。

但长时间暴露在不良内容下,谁都受不了。我们审核部的同事,平均一天八个小时都要面对这些信息。

日积月累,难免崩溃,我们一位女同事,干了没几个月就去看心理咨询了。

因此,为了减少审核人员的心理负担,内容部门的人每周换着轮岗,一人做一周的内容安全审核工作。

我也专门做过几次,后劲很大,现在再也不想碰了。