Facebook前员工哭诉血泪史:日审帖子8000篇,我已对儿童色情内容麻木

  • 时间:
  • 浏览:1
  • 来源:大发时时彩平台-甘肃快3网投平台_贵州快3投注平台

一名Facebook前仲裁员说,不断涌现的令人不安的材料压力,最终使她对儿童色情和兽交内容变得麻木不仁。

27岁的Sarah Katz 2016年通过第三方承包商Vertisystem,在加州门洛帕克的Facebook总部担任了8个月的内容审查员。她的工作很简单:弄清楚举报给Facebook的帖子是否是违反了公司详细的社区标准。

实际上,这由于每隔10秒就要看一次全新的、潜在恐怖的材料,并很慢决定是否是需要将其丢弃。需要审核的帖子被称之为“票据”,每天相当于有50000个。

为应对或多或少冲击,Facebook去年雇佣了45000名像Katz原本的仲裁员,并于2017年5月提前大选计划再雇佣5000名仲裁员,以帮助Facebook对抗用户输出最黑暗的角落。Facebook也在投资人工智能,来帮助正确处理违规的帖子。

Facebook在5月份的一份透明度报告中,详细说明了它在禁止内容方面存在的疑问。它说,今年前另有有一个 月,它对25000万个中含裸体和性活动的帖子以及36万个中含暴力画面的帖子采取了行动。数百万篇中含仇恨言论、垃圾邮件和恐怖内容的帖子也被删除。

审查者需要提前大选关于冒犯性材料的弃权文件

内容审查者在刚刚开始为Facebook工作需要要提前大选了一份弃权文件,这基本上是承认亲戚朋友准备好了查看令人不安的材料。它还旨在保护Facebook免受任何潜在的法律诉讼。

Katz提前大选的文件写道,仲裁员将接触到“肯能冒犯或多或少人”的材料,包括色情图片。它补充说,肯能工作人员“要我继续”,亲戚朋友应该“很慢通知”Facebook。

“Facebook有数十亿用户,亲戚朋友不知道怎么都能不能正确地使用或多或少平台,要是要是色情、兽交和暴力画面,”Katz表示。“Facebook上有要是你肯能不希望看完的共享内容。”

Katz在门洛帕克的另有有一个 开放式办公室工作,那里有免费的小吃,同事之间也很友好。她说,亲戚朋友会排队守候审查的帖子,一旦分配好帖子,她需要在几秒钟内作出决定。

肯能达还都能不能 票据目标,后果自负。Katz说,肯能有“一两次”如此 达到目标,肯能被警告;三次以上,“你肯能会被解雇。”Katz说,她从未看完如此 人被解雇,但工作人员私下里都知道或多或少点。

“过了一段时间后,我能 发现这是一份单调的工作,”她说。“你肯定会对或多或少照片材料变得不敏感,肯能你看得过多了。或多或少内容趋于再循环。”

不断浮现的邪恶照片

Katz说,有一份怪怪的险恶的照片和视频不断出現在她的队列中。

她说,照片中的另有有一个 孩子,看起来相当于9岁至12岁,亲戚朋友面对面站着,腰部以下如此 穿衣服,彼此抚摸着。Katz说,很明显,摄像机中间如此 人在告诉亲戚朋友该为什么我么我在么在做。

“它会消失,但又会再次出現。一天之中它会多次出現,”她说。“每次的用户位置详细都是一样,或多或少次来自巴基斯坦,那一次来自美国。很慢找到最初的来源。”

Katz说,当时并如此 要求她举报分享哪些地方地方材料的账户,或多或少点让她感到“不安”。

“肯能使用者的帐号不足三半年,亲戚朋友会以假帐号之名停用该帐号,”她说。“肯能帐号超过500天,亲戚朋友只需删除内容并继续保持该帐号的活动请况。”

▲她的经历引发了Facebook在其平台上正确处理剥削儿童疑问的有效性疑问。

该公司在2011年与微软提前大选了一项协议,来使用其PhotoDNA技术,旨在扫描Facebook和Instagram上的所有图像,标记已知的儿童色情内容,并正确处理其被重新使用。此外,Facebook仲裁员需要接受培训,当亲戚朋友看完哪些地方地方内容时,会在内控 进行识别。

Facebook在2012年向《纽约邮报》表示,它向美国失踪和受剥削儿童国家中心报告了所有剥削儿童事件。

公司发言人当时说:“亲戚朋友对上传到Facebook上的儿童色情内容是零容忍的,或多或少在正确处理和移除剥削儿童内容方面非常积极。”

Katz说,她不知道2016年是否是详细都是有原本的请况。

她说:“Facebook现在肯能有原本的政策,认为你应该举报它,但当时亲戚朋友如此 。”

Facebook拒绝评论Katz的声明与其所宣称的政策之间的差异。

人类视角的细微差别

Katz现在是云计算公司ServiceNow的网络安全分析师,她撰写了一部科幻小说《Apex Five》,灵感来自她在Facebook的工作生涯。她对本人在Facebook上的经历不用说持乐观态度,认为这份工作的负面影响远远超过了她保护用户的感觉。

“这项工作需要要是人的眼睛,无论亲戚朋友为什么我么我在么在说,也还都能不能 详细分配给人工智能来完成,”她说。“亲戚朋友作为人类,存在厚度上的细微差别。人工智能还都能不能 帮助跟踪来自数十亿用户的所有内容。而人的因素也需要被考虑进去,原本亲戚朋友能够老会 做得很好。”

Katz敦促科技公司做更多的工作,把仲裁作为有有一种职业而详细都是短期工作。

“不仅Facebook,一般的社交媒体平台也应该全职聘用内容仲裁员,肯能这会提供更多的激励,”她说。“这真的激励亲戚朋友做好一份出色的工作,让它成为亲戚朋友要我坚持的东西。”

Facebook发言人说:“亲戚朋友的全球内容审查团队在帮助为Facebook社区创建安全环境方面发挥了至关重要的作用,这是亲戚朋友的首要任务。亲戚朋友认识到这项工作往往是很困难的,或多或少亲戚朋友为所有员工提供了健康和中理支持。”

“Facebook上有20多亿用户,要是这是一项非常重要的工作,或多或少亲戚朋友最近将现有的45000多人全球社区运营团队,增加了5000人,以审查亲戚朋友每周收到的数百万份举报。”