首页 科技快讯 社交媒体时代的底层物语:那些为机器打工的Facebook神秘审核员

社交媒体时代的底层物语:那些为机器打工的Facebook神秘审核员

来源:晰数塔互联网快讯 时间:2019年03月12日 10:09

编者按:本文来自微信公众号“全媒派”(ID:quanmeipai),作者 腾讯传媒,36氪经授权发布。

看完一个陌生人的死亡视频后,惊惧再次席卷了Chloe。

尽管她已经接受了三周半的训练,试图在那些日复一日出现的仇恨言论、恐怖袭击、色情图像相关的推文面前,为自己筑起足够坚固的防御体系。

没有人安慰她,因为这是她的工作日常,也是凤凰城站点为Facebook审核内容的1000名审核员的日常。对于世界各地的15000名内容审核员来说,这也只是工作中再平常不过的一天。

社交媒体时代的底层物语:那些为机器打工的Facebook神秘审核员

内容审核员们隐身于社交平台之后,把自己活成了抵挡违规信息、却同被负面信息所侵蚀的一道盾牌。多的是人诟病社交平台依然存在的负面言论给自己带来的伤害,却很少有人考虑这道在负面信息下首当其冲的盾牌的生存状态。

The Verge近期推出了有关Facebook内容审核员的专题报道,文章作者采访了代理Facebook内容审核服务的科技公司Cognizant的员工,揭露了他们的心理创伤、管理制度以及审核标准等问题。本期全媒派(ID:quanmeipai)将编译这篇文章,与读者一同了解这群为机器打工的“隐形人”的故事。

社交媒体时代的底层物语:那些为机器打工的Facebook神秘审核员

01.生存背景速写,隐形、压力与不确定性

文章所采访的Cognizant的前任或现任员工,其实都和公司签订了保密协议,承诺不去谈论他们负责的内容审核工作。这既是为了保护他们免受对内容审核不满的用户的人身侵害,也防止他们泄露Facebook用户的隐私。

但这同样意味着,他们的工作状况不能为人所知,哪怕是身边的亲人朋友,都无法分担他们在工作中所遭遇的孤独、焦虑等心理负担。

以及,公司Cognizant和Facebook也会免于为审核员提供的工作待遇是否合理等争议。因此,文章中所出现的相关员工皆为化名,除了Cognizant的副总裁Bob Duncan和Facebook全球合作伙伴运营总监Mark Davidson。

不平等的薪资待遇

相比Facebook正式员工平均24万美元的年薪,这里的内容审核员一年只能拿到28800美元的薪水。

2017年,扎克伯格宣布扩大Facebook的“社区运营”团队,新增4500名内容审核员,到2018年底,Facebook已有3万多名员工从事安全方面的工作,其中约一半是内容审核员。

审核员中包含全职员工,但Facebook更多依赖外包合同工来完成审核工作——他们遍及全球各个地域与各个时区,并且关键在于,用人成本极低。尽管扎克伯格曾经警告投资者,安全投资会降低Facebook的盈利能力,但最近一个季度其利润仍然同比增长61%.

微观管理压力

不平等的不仅是薪资,还有不为外界所知的工作环境与工作氛围。

社交媒体时代的底层物语:那些为机器打工的Facebook神秘审核员

这一天,内容审核员Miguel在早上7点来上班,他是即将填满这一工作地点的300名员工之一,部门占据了凤凰城办公园区的两层空间。Miguel首先经过了由安全人员严格把守的入口,这是为了警惕心怀不满的前任雇员和Facebook用户的报复性行为。

再接着,他朝储物柜走去。员工储物柜数量不够,所以开始有一些人把东西放在柜子里过夜,以确保第二天还能有储物柜可用。储物柜所在是一条狭窄的走廊,休息时间,走廊里会挤满员工。

社交媒体时代的底层物语:那些为机器打工的Facebook神秘审核员

储物柜

Miguel和其他人一样,把手机也放在了储物柜中,这是为了保护Facebook用户的隐私。如下图所示,除了手机,有记录用户信息风险的书写工具和纸张也被禁止携带,甚至包括口香糖包装纸。洗手液之类的小型物品,需要放在透明塑料袋里,以便管理者查验。

社交媒体时代的底层物语:那些为机器打工的Facebook神秘审核员

公司禁止携带的物品

为了适应每天4班的轮班制,以及内部较高的员工流动率,大多数人不会被安排在Cognizant所说的“生产区(the production floor)”的固定办公桌上。

Miguel找到了一个开放使用的工作站,登陆名为“单一评审工具(Single Review Tool,简称SRT)”的软件,点击“内容审阅”按钮,开始了他一天的工作。

随机性高但容错率低的审核标准

Miguel在审核内容时,需要恪守一套以“准确度(accuracy)”命名的衡量标准,这一标准由Facebook员工与外包人员审核结果的一致性所决定。

具体来说,Miguel需要对每条内容完成两个测试:是否违反社区规则,以及违反规则的原因,如果这条内容确实违反规则应当删除,但Miguel选择了错误的原因,这也会影响他的准确度评分。

在Miguel每周所做出的约1500条内容的审核决定中,Facebook会随机选择50~60条进行二次审核,首先交由被称为QA(质量保证)的内部员工审核,再由Facebook正式员工审核QA的决策所形成的数据集,生成准确度得分。

Miguel对这一标准十分不以为然,“准确度通过一致性来判断,如果我和二次审核人员都赞同贩卖毒品,那么‘这一内容不属于违规内容’的审核决定也会是正确的。准确度不过是一个谎言。”

不仅如此,审核员达到准确度指标的困难还在于,他们要综合考虑各种给定的衡量标准。内容审核标准由4个方面构成:

首先是Facebook的公共社区规则,这包括两部分,公开发布的规则与篇幅更长的内部指南;

其次是对这些文件中已知问题的额外评论和指导,长度为1.5万字;

第三是审核员之间互相讨论得到的共识,尤其是在枪击案等突发事件之中,但有时会出现错误共识,管理人员就需要四处来回解释正确的决定。

社交媒体时代的底层物语:那些为机器打工的Facebook神秘审核员

内容衡量标准的4个主要来源

第四个方面处理起来最复杂,来自Facebook的内部信息发布工具。虽然官方政策调整每两周的周三公布一次,但对于进展中突发事件的补充性规则却时刻接踵而至,这些标准汇总于Facebook企业版软件Workplace之中,和Facebook一样,会呈现出根据热度由算法进行排序的信息流。

管理人员发布的规定常常相互矛盾,且不按时序出现,而如果审核员看到了过时的信息,就会出现准确度失误。“有时候,感觉像是Facebook自己开发了产品跟他们作对”。

即便在这样复杂且随机的审核标准下,他们的审核误差也被限制在很小的范围之内,就像是玩一场高风险高难度的游戏,起始分数为100分,如果你失误到95分,就会面临离职的风险。不过,Miguel有权利向判定他为错误的QA提起投诉,让QA同意他的决定。

在这种情况下,QA也成了压力的承担者。一位叫Randy的QA就经常被审核员威胁,要他改变审核决定,Randy不得已开始带枪上班——他一直到辞职都没有扣动扳机,但他的焦虑却挥之不去。

夹缝中的休息与排遣

到了Miguel的休息时间,他点击浏览器插件打卡,以便公司记录自己准备离开办公桌。Facebook总监Davidson表示,这是行业惯例,公司需要追踪自己的员工在哪里。

Miguel一共有两个为时15分钟的短休息,和30分钟的午餐时间。在休息室,他常常发现洗手间排起长队,数百名员工共用一个小便池和两个男厕隔间,以及三个女厕隔间。

公司允许员工使用另一层的洗手间,但Miguel不愿意来回花费几分钟,当他上完厕所,随着人群挤到储物柜前时,还有五分钟的时间看一会儿手机,再回到办公桌前。

Miguel和其它员工一样,每天有9分钟的“健康时间”,管理层设置用意在于,当员工感到精神受到创伤时,可以利用这段时间离开办公桌休息。一些审核员会趁这段时间排队人少去洗手间——而管理层禁止了这一做法,认为这是对“健康时间”政策的误解。

社交媒体时代的底层物语:那些为机器打工的Facebook神秘审核员

“不要用‘健康时间’去厕所”

员工被提倡的做法是,有时间要通过拨打咨询师的电话来应对工作压力,或者选择瑜伽等其他放松活动。但对于审核员来说,这些资源并不足够,他们用工作期间的性行为、毒品和侮辱性质的笑话来缓解压力。

前审核员Sara说,他们不允许和亲友谈论自己的工作,这使同事之间更加亲近,但不是合作带来的正向情感,而是一同发泄的创伤性牵绊。

社交媒体时代的底层物语:那些为机器打工的Facebook神秘审核员

审核员Li说,“我甚至没办法告诉你,我和多少人一起抽过大麻(文章补充:医用大麻在当地合法),我想到这个,是真的觉得难过。我们嗑到嗨,然后回去工作。试想一下,全世界最大的社交平台,审核员上班时间一边做这些事情,一边还要接着审核内容……”

02.无处安放的心理创伤

于是,Randy在上班时随身佩枪,Li默默容忍同事为了发泄对他讲的种族歧视笑话,Chloe在观看完一段谋杀视频之后崩溃,哪怕离职之后都无法摆脱相似情境触发的创伤症状……凝视深渊太久,他们觉得自己也将被深渊吞噬。

“我们所做的事,让灵魂变得黑暗”

在上文提到的为了缓解创伤症状而出现的歧视性笑话、毒品滥用和创伤性情感联系之外,他们还开始渐渐接受一些极端观点,陷入阴谋论与怀疑主义之中,而这些观点恰恰是他们要审核的内容。

比如,一位QA经常和同事讨论他认为“地球是平的”,并且竭力说服其他人也相信这一观点。已经离职的Randy也认为,这份工作改变了他的世界观。

在看了那么多声称9/11并非恐怖袭击的视频之后,他开始相信了。去年的公园枪击案发生后,审核员最初对袭击非常震惊,但随着更多的阴谋论内容被发布到Facebook与Instagram上,一些同事的态度开始动摇。审核员们开始在上班时间疯狂搜索相关阴谋论内容,而完全忘记了自己的审核立场。

“做这份工作逃不过PTSD”

几位审核员说,他们经历了继发性创伤压力(secondarytraumatic stress)的症状,感到焦虑、失眠、孤独和分裂感,这是一种由观察他人的创伤经历而导致的心理障碍,症状与创伤后应激障碍(PTSD)相同,原本常见于医生、心理咨询师与社会工作者。

社交媒体时代的底层物语:那些为机器打工的Facebook神秘审核员

继发性创伤压力的症状:焦虑、失眠、孤独、精神分裂

Chloe在离职后的几个月出现了创伤症状。电影中的刺伤场景引发了她对于审核时期暴力视频的回忆;有一次她睡在沙发上,突然听到开枪的声音,原来是家人在观看暴力视频节目,她当即无法忍受,几近抓狂。

Randy在离职之后,对刀产生了一种天然的恐惧,他原本喜欢烹饪,但现在回到厨房看到刀,对他来说则难以忍受。他在接受采访时说,“从事这项工作后,不患上某种急性应激障碍或是PTSD是不可能的。”

03.“当你不再害怕时,你会做什么”

一些管理者让笔者看到了另外他们所采取的解决措施。报道前一周,总监Davidson提到,Facebook开始对一部分审核员进行测试,以衡量他们所需要的“弹性(resiliency)”指标,即从创伤内容中恢复过来继续工作的能力。他说,公司希望尽快将测试拓展到全球所有的审核员。

而在笔者被邀请实地访问的前一天,Cognizant的办公园区里贴上了新的激励海报。办公区域比记者的想象要丰富得多,墙上用彩灯装饰的图表描绘了月度活动,看起来有种夏令营和老人活动中心的混搭风:瑜伽、宠物疗法、冥想,还有“周三请穿粉红色”的活动。

记者去的当天是“随机善行周”的末尾,这一周,员工被鼓励在彩色卡片上写下鼓舞的话语,并用一块糖果把他们贴在墙上。

社交媒体时代的底层物语:那些为机器打工的Facebook神秘审核员

在和管理者坐在一起的群体采访中,一些现任员工们都承认这项工作的挑战性,但表示他们感觉到安全、被支持,并且认为这项工作能够带来更好的薪酬与机会——如果无法进入Facebook,在Cognizant内部也好。

政策经理Brad告诉笔者,他和同事们审查的大部分内容为良性,并提醒笔者不要夸大其所带来的心理健康风险。公司内部的心理咨询师则表示,他们每天都和每个员工联系,他们认为现场咨询、热线电话和员工援助计划的结合足以保障审核员的健康状态。

笔者参观结束,离开的时候发现公司内部审核员几乎都为20多岁或者30岁左右,当他经过,所有内容审核工作都要暂停,确保他不会看到任何Facebook用户的隐私信息,所以这时,审核员都在和同事亲切地聊天。

笔者看到墙上贴着那些激励的海报,其中有一个口号是“广泛的同理心”,还有一个则是Facebook首席运营官Sheryl Sandberg的名言,“当你不再害怕时,你会做什么?”

社交媒体时代的底层物语:那些为机器打工的Facebook神秘审核员

那么,考虑两方面的声音,Facebook这种模式是否合理?记者在参观时遇到的每一个人都对员工表示了深切的关心,在这个系统中,他们似乎已经尽己所能地为员工付出。

Facebook自豪的是,它给所有代理公司的薪酬,都超出了最低工资的20%,并且提供全面的医疗保障福利,还有明显优于呼叫中心行业(call center industry)的心理健康资源。

虽然这种外包审核模式也为Twitter、Google、YouTube等大型科技公司所应用,除了节省成本,还可以迅速扩展到不同语言环境的新市场。

但问题在于,这种模式将内容审核中较为特殊的言论和安全等关键问题,都交给了审核员个人来负担,好像他们仅仅是在商场处理顾客打来的服务电话一样。

并且,Facebook并不愿意让外界知道是“人”在负责这项工作,Facebook宁愿谈论它在人工智能方面的进展,也不愿意冒险承认其对人工审核员的依赖能够逐日减少。——考虑技术限制,和人类语言无限的复杂性,这一天也非常遥远。

社交媒体时代的底层物语:那些为机器打工的Facebook神秘审核员

与此同时,这些内容审核员是拥有数十亿用户的平台的第一反应者,他们承担的是现代社会中一项非常关键的职能,但薪酬却不到许多一线工作者的一半。审核员们尽可能长时间地从事这项工作,当他们离职时,保密协议会确保他们退回到阴影之下更加遥远的地方。

对于这些审核员来说,他们似乎从来没有在Facebook工作过——严格来说,也确实是这样的。

相关推荐

社交媒体时代的底层物语:那些为机器打工的Facebook神秘审核员
大家好,我们是社交网络审核员
内容审核员成高危职业,互联网的黑暗面究竟有多可怕?
Facebook是宗教吗?符号学视角下的社交媒体改革
YouTube 用 AI 代替人工审核员后,又决定返聘
年轻一代逃离Instagram:微型社交媒体时代要来了?
算法垄断后,FB想来剂 “后悔药”:人工与机器,不是单选题
打工还是创业?给年轻人:那些重要与不重要的事
Facebook 审核人员暴增,科技巨头的漫漫审核路
Facebook拆分的深度思考:社交媒体真的是必需品吗?

网址: 社交媒体时代的底层物语:那些为机器打工的Facebook神秘审核员 http://www.xishuta.com/newsview1295.html

所属分类:互联网创业

推荐科技快讯