本文来自民众号：全媒派（ID：quanmeipai），作者：腾讯传媒，题图来自：视觉中国

若是没有内容审核员，我们的互联网天下会是什么样子？或许，愤恨、暴力、血腥、色情的内容将充斥各个平台。光是想象一下这种乱象，就足够劝退许多用户了。

幸好，被称为”互联网清洁工“的内容审核员正珍爱着我们的双眼和大脑。但现实上，作为过滤者的他们也饱受着负面信息过载的困扰，《发条橙》的情节以另一种方式在这些人身上上演。

值得我们思索的是，对于这些承载了互联网天下漆黑面的审核员来说，当前业界是否给予了充实的关注？行业内是否存在合理的珍爱机制？

本文聚焦互联网行业中这群“凝望深渊，也被深渊回以凝望”的特殊群体，透视他们的痛苦与挣扎，与你一同寻找逆境的出路。

互联网审核岗——心理问题重灾区

凭据大多数互联网公司的划定，审核员不能泄露自己的事情内容，换句话说，他们需要在民众视野中隐身，独自消化那些凡人难以接受的负面内容。

现实上，对于大多数审核员来说，旁观暴力、血腥等恐怖内容简直就是屡见不鲜，那些令人不适的画面甚至经常毫无征兆地泛起，带来伟大的视觉和情绪打击。由于历久阅读阴谋论等看法，许多审核员已经变得麻木而没有辨识能力，他们中的一些人现在甚至信赖地球是平的。

此外，在Facebook这样的公司中，社区内容审核的准则险些天天都市发生一些细微的改变，而审核员若是一周内多次发生判断失误，就可能被开除，云云严苛的审核尺度也让这份事情变得异常难题，这导致内容审核职业成了恐慌症等心理问题发作的重灾区。

与此同时，许多作为外包合同工的审核员的待遇水平并不与其高压的事情内容相等。他们通常享受不到正式员工一致的薪资和福利保障。平均来看，审核员的时薪为每小时18.5美元，只略高于美国最低工资，而且很难争取到加薪的机遇。

在一次员工大会上，Facebook的CEO马克·扎克伯格认可了审核员这一岗位的高危性：“Facebook的信息平安团队在全球一共有3万人，他们的事情内容加倍特殊。我们希望尽自己所能，全力支持这些员工。”

2019年，Facebook的前审核员Chris Gray在爱尔兰高等法院针对Facebook和CPL Solutions提起诉讼，理由是自己在Facebook事情的一年间遭受了严重的心理创伤。

Gray一样平常审核的视频包罗大量荼毒、行刑等排场，久而久之，自己的性格和心理状态都发生了很大改变。“我变得麻木和浮躁，越来越具有攻击性。”他示意，“每次回忆起事情内容，我的心情都市一下子跌落谷底，只有逃避能让我暂且遗忘那些恐怖的画面。我已经延续一个星期没有睡着过了。”

固然，不只是Facebook，包罗谷歌、YouTube在内的科技公司的审核员都有类似遭遇，这已经成为一种行业普遍现象。

然而，大多数人缺乏对审核员处境的基本明白，这些公司的管理层倾向于把这种状态形貌为招聘失误，他们以为有些人面临负面信息自然有较高的抗压能力，而有些则不具备。

与之相反，审核员的康健状态从来就不是一个有或者没有的二元问题，更真实的情形是，有些审核员在入职后前几周就会泛起PTSD的早期症状，另外一些人则会在事情多年后患上相关心理疾病。

YouTube的审核员Peter示意自己在去职后，再也无法轻松地旁观动作片，对他而言，每一声枪响、每一次殒命都失去了虚构性，因而变得无比真实痛苦。

Peter的项目团队旨在为儿童缔造更平安的网络环境，取笑的是，却没有人来守护审核员的平安。Peter团队内的其他成员大多也泛起了心理问题，他的前任同事甚至因此染上了毒品，他说：“刚最先事情的时刻，人人天天相互问候，空气很好，但没过多久，就没有人愿意语言了。”

谷歌的研究职员以为：“现在越来越多人已经意识到，这个岗位不仅仅是带来单纯的不愉快情绪，历久大量地旁观负面内容会让审核员造成严重的康健损伤。”

赔偿5200万美元，Facebook开行业先例

因审核负面内容引发心理问题，在行业内已经不是个例。

2018年9月，一位名叫Selena Scola的审核员向Facebook提起诉讼，以为后者设置的高风险事情内容导致她泛起心理康健问题，在延续9个月旁观行刺、自杀等图像内容后，Scola被诊断为泛起PTSD症状。

今年2月7日，法庭文件显示双方达成了开端息争。在本案中，Facebook认可内容审核事情会给员工带来伟大的危险，并同意向在职及去职的审核员支付总额为5200万美元的赔款，用以抵偿他们因事情发生的心理康健问题。若是被诊断出患有PTSD或其他相关疾病，每名审核员将获得至少1000美元的赔偿。

作为息争协议的一部分，Facebook还示意将对内容审核程序举行修改，包罗更改审核工具，将视频变为是非模式，以及答应提供更多心理咨询服务，每月举行一次团体治疗流动等等。

Facebook的行动是具有里程碑意义的，Scola的状师Steve Williams说：“我们为Facebook提供的方案倍感欣慰，由于这项会发生切实危险的事情是近年来新兴的，没有太多先例可以学习，Facebook缔造了有意义的解决思绪。”

此次息争涉及从2015年起就为Facebook事情的11250名审核员，经由与创伤处置问题专家的咨询，Williams估量其中有跨越一半的人能够争取到分外赔偿。换句话说，若是有人选择Facebook的审核员事情，那么其将有二分之一的概率需要蒙受事情带来的心理损伤。

另一个值得关切的问题是：审核员事实能拿到若干赔偿？首先，本案获得的赔偿中有32.7%要用于支付状师用度，其次，剩下的3500万美元是由所有人共享的。由此看来，5200万美元这一数字似乎也不是太令人满意。

赔偿会分条理举行：第一次赔偿是给每个人发放基础的1000美元，用于支付审核员举行心理检查的用度；这之后，对于那些确诊的审核员，公司会凭据病情的严重水平，给予分外1500至6000美元的抵偿。此外，审核员还可以提交证据证实自己因事情遭遇到的困扰，以获得每人最高5万元的赔偿。

审核员现实拿到的赔偿金额主要取决于事实有若干人被认定有资格获得分外赔偿。假设有一半左右的人申请到了分外赔偿，那么每个审核员平均可以获得4222.22美元。

这样算下来，每个人的最终赔偿并不算多。在社交网站上，许多人也示意Facebook支付的赔偿太少了。

与此同时，在审核员的遭遇引起普遍关注后，2019年，Facebook的外包公司Cognizant宣布由于和整体战略构想不符，公司将在2020年逐步住手其内容审核营业，因营业更改而失业的员工将获得遣散费、奖金以及种种培训机遇。

另有一些公司通过与员工签署知情协议的方式来规避执法纠纷，据The Verge的报道，YouTube的营业外包公司埃森哲（Accenture）要求审核员事先签署一份认可该事情可能会导致PTSD的文件，并示意不答应为因事情而患上PTSD的员工提供援助。执法专家以为，这份文件中的相关划定可能是违反劳动法的。

是否有更好的方式减轻审核员的痛苦？

谷歌的审核员Daisy卖力清算儿童性荼毒图片（CSAI），但事情一年后，她泛起了显著的心理障碍。

在主管提醒其需要提高事情效率后，Daisy感应气忿：“我该若何增强生产力？我的大脑充斥着糟糕的内容，我们是有血有肉的人类，而不是机械。”

那么，是否存在更好的方式来减轻审核员的痛苦？

谷歌卖力信托和平安营业的副总裁Kristie Canegallo说：“我们的责任以及对员工的答应就是为他们提供足够的支持，公司在改善员工事情条件方面取得的任何希望都将与业界共享。”

去年，谷歌的研究团队在“人类盘算与众包大会”（Conference on Human Computation and Crowdsourcing）上揭晓了一篇题为《气概化干预措施对削减内容审核职员情绪的影响》（Testing StylisticInterventions to Reduce Emotional Impact of Content Moderation Workers）的论文，文中记录了谷歌对其审核员举行的两项实验。

在一项实验中，谷歌将所有的视频设置为灰度显示，在另一项中，内容经由模糊化处置。研究职员希望领会的是，革新图像是否能够减轻其对审核员的情绪影响。

76名审核员介入了实验，他们需要在前两周旁观通例的彩色图像，在后两周旁观灰度图像，并划分填写问卷调查。研究效果显示，灰度显示模式简直让审核员的情绪泛起显著好转。

谷歌的研究职员建议，未来的实验可以思量从以下几个方面举行：把血液换成绿色、对内容举行艺术处置。

此外，Canegallo还示意，谷歌简直正致力于开发机械学习系统来抓取包罗不良内容的视频，但在手艺应用的初期，审核员依然是不可或缺的，他们需要辅助训练系统。在此之后，人工审核就可以被取代了。

现实上，科技公司们一直知道审核员蒙受的心理压力，然则却在首例员工讲述PTSD诊断效果多年后的今天，才最先思量通过手艺手段举行干预。

对此，一位任职于科技公司的员工提到了“有毒物质侵权”（Toxic Torts）这一观点，意指若是接触到了不利于康健的危险化学物质，人们有权通过执法起诉相关雇主或者房地产商，这项执法执行的基础在于人类关于化学物质对人体的影响已经掌握了科学的熟悉，因而可以制订平安的行业尺度。

但遗憾的是，我们难以用同样严谨正确的尺度来权衡审核员所面临的危险。

尽管云云，人们没有放弃自己的权益，谷歌的员工就正在率领行业关注外包审核员的处境，并协助他们举行维权。

总而言之，改变现状并非不可能，这有赖于劳动者、公司和民众的通力合作。

 参考链接：

1.https://www.theverge.com/interface/2020/5/13/21255994/facebook-content-moderator-lawsuit-settlement-mental-health-issues

2.https://mashable.com/article/facebook-content-moderators-settlement-52-million-lawsuit-mental-health-psychological-harm/

3.https://www.theverge.com/2020/3/20/21188356/facebook-content-moderator-lawsuit-class-action-settlement

4.https://www.irishtimes.com/news/crime-and-law/courts/high-court/facebook-moderator-whenever-i-talk-about-the-content-i-just-get-more-upset-1.4104833

5.https://www.theverge.com/2019/12/16/21021005/google-youtube-moderators-ptsd-accenture-violent-disturbing-content-interviews-video

本文来自民众号：全媒派（ID：quanmeipai），作者：腾讯传媒