疫情下Facebook让内容审核员回家 技术手段能否胜任成挑战

来源:QQ快报
责任编辑:鲁晓倩
字体:

两天近10小时的美国国会听证中,有一句话扎克伯格说了很多次:“我会让我的团队回复你。” 4月11日报道称,扎克伯格共40次告诉立法者,他手头没有答案,

Facebook决定让这群内容管理员带薪休假,也为公司带来了另一项挑战:如何对虚假信息、医疗骗局等不良内容进行监管。

腾讯科技讯3月24日消息,据国外媒体报道,随着新型冠状病毒在全球范围的持续蔓延,Facebook让旗下数千名负责内容审核的外包员工回家隔离,更多依赖人工智能、自动化系统等技术手段审查平台上的不良内容,这对于Facebook来说也是一次重大考验。

直需要两个条件,一个就是短网址,另外一个就是邮箱

本月初,随着新型冠状病毒在全球蔓延,Facebook大多数员工都收拾行囊,准备在家上班。然而,尽管Facebook公司下令让员工居家办公,但这家社交网络巨头仍未想出如何远程开展其最敏感的工作:清除整个网站上的色情、暴力、恐怖主义以及其他不受欢迎的内容。

10月9日,据赫芬顿邮报报道,facebook拒绝撤下前段时间美国总统特朗普竞选团队对民主党总统竞选人拜登的“贪污指控”。 拜登团队多次要求Fackbook撤掉广告,Facebook为什么拒绝撤下特朗普虚假指控拜登腐败的竞选广告?据报道,facebook以“对言论自

从事这项敏感工作的是Facebook遍布全球20个办公地的近1.5万名外包员工。此前这些非正式员工继续来到办公室上班。直至上周一,来自公众的压力、内部抗议和世界各地的隔离措施迫使Facebook关闭了其内容审核办公室。

美国德克萨斯州总检察长肯·帕克斯顿(Ken Paxton)宣布,来自美国48个州、哥伦比亚特区和波多黎各自由邦的50位总检察长已经联合签署命令,对以谷歌为代表的美国大型科技公司展开反垄断调查。这些曾被誉为“高效经济增长引擎”的科技巨头,因涉嫌滥

Facebook决定让这群内容管理员带薪休假,也为公司带来了另一项挑战:如何对虚假信息、医疗骗局等不良内容进行监管。

在临床上肾功能检测项目很多,主要包括肾小球、肾小管间质和肾血管功能的检测等。在肾脏专科如果看肾功能好不好,应包括三个部分:验小便(尿常规),验血(血肌酐、尿素氮、尿酸)和泌尿彩超(肾、输尿管、膀胱)。日常我们不能总是去检测这些指标,要如何简单判断自己的肾功能呢?方法其实也很简单,只需要看看耳朵。中医认为:肾气是延年益寿的重要条件。而耳则是“肾”的外部表现,“耳坚者肾坚,耳薄不坚者肾脆”,耳廓较长。肾主藏精,开窍于耳,医治肾脏疾病的穴位有很多在耳部。所以经常摩耳可起到健肾养身的作用。耳垂组织丰满,在一定程度上是肾气盛健的一种征象。因为耳不是一个孤立的器官,它和全身经络及五脏六腑都存在着密切的联系

虽然Facebook、YouTube、Twitter和其他公司长期以来一直在鼓吹人工智能和算法是监管不良内容的未来发展方向,但这些公司最近承认,人类是对付不良内容的最重要防御线。这些外包员工的工资仅为公司正式员工的零头,但每天要花上几个小时的时间审阅被标记为非法或令人不安的内容,删除平台上的那些越界帖子,并常常因为身处这种工作环境中而饱受心理伤害。

洗发水作为每天接触的清洁用品之一,对日常生活影响很大,好的洗发水囊帮助我们清洗头发和头皮,散发出健康的自然光泽,而有的洗发水则可能对我们头发起到不好的效果,让我们头发变油,脱发等。1、聚乙烯/聚乙二醇——头发干枯毛躁在洗发水中主要起到增稠的作用,但长期使用,会破坏头皮和头发上的天然水分,导致头发不能吸收水分能力变差,更加不会自然锁水,长期下去,头发变得干枯毛躁,使用任何滋润补水的护发产品都没有用。2、矿物油——头螨矿物油和汽油都是石油的衍生物,相当于把汽油抹在头上,头发会呈现出光泽且手感柔软,要知道矿物油是头螨喜欢吃的油脂之一,长期使用这类洗发水,相当于在头上养宠物,长此以往,头螨增多,会导致

不过,Facebook首席执行官马克·扎克伯格(Mark Zuckerberg)周三在一次媒体电话会议上说,在新型冠状病毒蔓延期间,Facebook将被迫更多地依靠人工智能软件来对平台内容进行审核。该公司还将培训全职员工对高度敏感的内容给予“额外关注”,比如任何涉及自杀、虐童和恐怖主义的内容。扎克伯格说,在Facebook的筛选过程中,用户应该对出现更多错误有心理准备,部分原因是因为只有一小部分人参与其中,而且软件做出的决定比人更直接。

1朱丹在5月24日播出的《中国最强音》中,主持人朱丹出现明显口误,将湖南卫视的短信互动号码播报成了老东家浙江卫视的短信号码。不少网友调侃朱丹是“卧底”,有业内人士分析称,这次口误造成的短信业务损失可能达几十万甚至更高。2孙楠湖南卫视《我是歌手》直播中,孙楠当众宣布退出比赛。其中原因我们不得而知,可能是孙楠感觉到湖南卫视的不公平,气不过才要退赛的吧!当时网上传出,因为孙楠中途退出比赛,遭到湖南卫视的永久封杀。3刘谦刘谦因为上春晚表演魔术,从而在大陆走红,知名度相当高。但是在一次节目中,刘谦身穿唐装给日本天皇下跪,让网友直接把他封杀,现在基本见不到他的影子了,听说过得很落魄。4杨丞琳湖南卫视有段时

扎克伯格承认,这个决定可能会导致“误报”,包括删除不应该删除的内容。

何智丽和焦志敏作为中国上世纪八十年代的主力选手,都曾经在职业生涯中取得出色的战绩,两人不仅在成绩上都曾经作为中国队的绝对主力选手,在经历上也有着组多相似之处,其中何智丽(后更名为小山智丽)和焦志敏两人在职业生涯后期都曾经远赴海外,何智丽转会至日本代表日本队开始参赛,焦志敏则急流勇退嫁给了韩国男乒当时的世界级名将安宰亨。从成绩上看,何智丽和焦志敏两人都取得了辉煌的战绩,何智丽曾经在1987年新德里世乒赛上拿下了女单冠军,但由于当时的“让球风波”,何智丽之后迁居日本,并且在1994年的亚运会上代表日本队拿下了女单冠军,1996年亚锦赛上何智丽也成功登顶女单。焦志敏的成绩毫不逊色,她曾经两获全运会的

审核决策将“权衡其他可能不会马上给人们带来身体上风险的内容。”不过,扎克伯格仍希望尽快培训更多的员工,因为他“个人非常担心人们隔离在家会带来更多抑郁情绪或心理健康问题,我们希望能在帮助社区方面想在前面。”

扎克伯格的言论反映出硅谷巨头们在全球健康危机日益严重情况下所做的复杂选择和权衡。这些公司可以保护员工,并遵守当地 “待在家中”的规定。但这种选择可能会危及全球数十亿用户的安全。因为其中许多人被隔离在家中无所事事,整天上网,接触到比以前更多可能令人不安的内容。

YouTube上周还宣布了一项临时计划,将更多依赖自动化系统来减少上班人数。该公司警告称,此举可能会导致视频内容创作者的投诉流程变慢,并导致更多未经审查的内容被禁止录入搜索引擎或其主页。同一天,Twitter也表示将采取同样行动。由于自动化系统可能会导致错误,所以在此期间不会永久封禁相关帐户。它还将优先处理可能危害更大的违规行为。

Facebook、YouTube、Twitter和其他社交媒体公司过去曾面临监管内容方面的重大挑战,其中包括如何监管枪击事件视频以及虚假信息宣传等各种不良信息内容。

这种压力随着有关新型冠状病毒的虚假信息激增而加剧。在Facebook旗下的WhatsApp上,聊天群组正在传播与新型冠状病毒有关航班、酒店和学校的未经证实信息,以及关于美国政府可能采取的举措和该病毒如何传播的错误信息。在Facebook平台上,一则关于洛杉矶病毒爆发的消息四处传播,到处都是关于新型冠状病毒虚假治疗方法的帖子。

2016年美国总统大选之后,Facebook在菲律宾、印度、都柏林和美国聘请了数千名内容管理员来监管内容,并提高其平台声誉。受雇于埃森哲和Cognizant等外包公司的内容审核员是Facebook的外包员工,他们的工资和福利通常低于正式员工。

而把这些人送回家,更多依靠技术手段来监管内容的决定不免让一些研究人员忧虑重重。

微软研究院(Microsoft Research)高级首席研究员玛丽?格雷(Mary Gray)表示:“他们在人工智能领域还没有取得足够大的进步,不足以替代我们所拥有的最佳工具:人类智能来进行识别。”格雷是《幽灵工作:如何阻止硅谷催生一个新的全球下层阶级》(Ghost Work: How to Stop Silicon Valley from Building a New Global Underclass)一书的合著者。她补充说,“这将是一团糟”。

Facebook发言人德鲁·普萨特利(Drew Pusateri)说:“我们的工作重点是确保人们的安全,确保他们能够在危机期间相互分享信息和进行联系。”“但正如我们在最近的内容审核更新中所说的,我们预计,随着我们更依赖于自动化,一些错误将会发生。”

Facebook做出这一改变,在很大程度上是因为公司认为这项工作对第三方内容审核员来说过于敏感,不适合在家里进行,其中会涉及到审查用户的私人Facebook账户。该公司还承认,这是一份痛苦的工作,员工在家里得到的支持会更少。一般来说,内容管理员在呼叫中心工作时,包括中断、敲击键盘以及对内容作出判断等每一个动作都会受到严格的管理和监控。

该公司表示,随着新型冠状病毒疫情的变化,这种情况可能会改变。

周四晚些时候,Facebook在公司博客上公布了更明确的计划。当用户举报违反政策的内容时,他们会看到一条消息,说明审核量减少,而Facebook正在对那些可能造成最大伤害的内容进行优先审查。

“这意味着一些报告将不会像以前那样被快速审查,我们将根本得不到一些报告,”博客文章中写道。减少内容审核员还将改变那些认为内容被错误删除的用户申诉程序。当然,用户仍然可以因为他们不认同Facebook的决定而进行报告。

我们将“监控反馈,以提高我们的准确性,但我们可能不会第二次审查内容,”该公司表示。

根据该公司最新的《社区标准执行报告》(community standards enforcement report),大约95%涉及成人裸体、恐怖主义、虐童、自杀和自残的帖子,在Facebook用户举报之前就已经被算法删除了。

但对于需要更细致入微分析的内容,公司的自动化系统往往效率较低。人工智能只捕获了Facebook上涉及欺凌和骚扰帖子的16%,导致80%以上的此类帖子被上报给公司。此外,人工智能只捕获了大约80%的仇恨言论。

这些数字让公司管理人员意识到,要监控更细微敏感的内容,人工判断仍然是必要的。

扎克伯格去年在接受采访时表示,“我认为总需要人”对内容做出判断。

事实上,现在已经有潜在问题的迹象。上周早些时候,有关新型冠状病毒准确信息的相关内容被从Facebook上删除。扎克伯格表示,这是由公司垃圾邮件检测系统中的一个漏洞引起的,与疫情期间内容审核的分类无关。他在上周的媒体电话采访中说:“系统已经修复,这些帖子也已经恢复,希望我们不会很快再次遇到这个问题。”

网络安全教授、《创造互联网的26个单词》(the 26 Words That Created the Internet)一书作者杰夫·科瑟夫(Jeff Kosseff)说,随着Facebook对监管内容的回应越来越多地转向技术层面,这将是该行业面临的一次重大考验。

他说:“这将告诉我们很多有关自动审核的情况。” 科塞夫补充说,尽管更加透明,但“我们真的不知道科技公司到底在做什么,也不知道它们的效率有多高。”

加州大学洛杉矶分校教授萨拉·T·罗伯茨(Sarah T. Roberts)表示,Facebook可能是被迫采取行动的。在菲律宾首都马尼拉,Facebook通过外包公司雇佣了数千名内容管理员,但当地政府在全市范围内实施了隔离。

不管Facebook的动机是什么,罗伯茨说,这次经历将揭示人类审核员对集体利益和互联网体验的影响有多大,甚至可能会改变硅谷通过工程手段解决问题的既定观念。

她说:“我们实际上可能无法通过编程摆脱新型冠状病毒蔓延带来的影响。”(腾讯科技审校/皎晗)

请注意:以上内容转载自QQ快报,并不代表本网赞同其观点,版权归原作者所有,本网不承担任何责任,特此声明。

扩展阅读,根据您访问的内容系统为您准备了以下扩展内容,希望对您有帮助。

Facebook 的集体诉讼案中,为什么内容审核员会表示在工作中受到了严重的心理伤害?

美国加州一名女子上周五起诉 Facebook,称“在 Facebook 担任内容审核员期间,接触了“剧毒、不安全、有害的内容”。

据诉讼称,赛琳娜(Selena Scola)从2017年6月到今年3月在 Facebook 位于加州门洛帕克的总部担任内容审核员。

她受雇于一家名为 Pro Unlimited 的承包商,这家公司负责帮 Facebook 删除违反社区标准的内容。Facebook 在全球大约有7500名内容管理员,他们的任务是删除仇恨言论、暴力图片和自残图片及视频、裸露和*内容、欺凌等其他违反其政策的内容。

赛琳娜的律师说,她患上“创伤后应激障碍(PTSD)”是“在工作场所不断接触剧毒、极其令人不安的图片”的结果。Facebook 没有为员工提供适当的心理健康服务和监控。

该案件是作为集体诉讼提起的,但目前赛琳娜是唯一的具名原告;这起诉讼列举了加州“数千名”在任/离职内容审查员的名单。

内容审核是一项艰巨的工作——多部纪录片、长篇调查和法律文章都指出,审核员工作时间长,接触到的内容令人不适,还会出现很难界定是否违法规则的内容,因为 Facebook 的规则错综复杂、经常变化。Facebook 的审核员每天要审查数百万可能侵权的贴文。

一位审核员接受采访时说:“一个局外人可能不会完全理解,我们不仅仅是接触到图片视频,还必须反复观察它们,特别是政策指示器。有人可能在视频里活生生被殴打,可能需要看上十几次,我们要辨别受害者的行为是否是自卫,或者施暴者是否就是上传视频的人。”

我的FaceBook注册照片都审核10多天了,要多久啊!!

没用vpn或在国外是使用不了的,

因为被中国给*了,

即使帮你申请了最近或平时也是经常使用不了的,

而且帮你注册的人家随时可以修改密码,不安全,没保障。

如果真的要用,方法和步骤:

1、任意游 支持国外就可以了。

2、任意游 连接之后就可以打开fb使用了哦。

内容审核员这个互联网最“脏”的工作,为什么无法消失?

这是一份不可或缺,至关重要的工作:网络清道夫,内容审核员就是互联网的安全卫士,如果他们不清理违禁内容,不阻挡那些非法信息,就会有更多青少年和小孩看到。

Google、Facebook 这些大公司非常重视它们,现在已经几乎让数十万人任职,虽然它们也为审核员提供了心理健康咨询和检查,但也依然承认,内容审核员是科技界最具心理创伤的工作之一。

那这份「悲伤职业」,有没有可能用更好的方式去解决,甚至,人类可以不再做这类工作?

无法消失的内容审核员

事实上,目前的内容审核只能是人来进行的——猫捉老鼠的游戏。

但好的一面是,现在还有 AI 能帮他们预先灭掉「一窝蛇鼠」。

国内最早利用 AI 技术从事内容审核服务的图普科技,据说现在对于*、暴恐、低俗、诈骗等内容已经能达到 99% 的识别率,降低 90% 以上的人工审核成本。

在人机结合的审核里,首先 AI 会进行第一阶段海量内容的审核,区分正常内容、确定的不良内容以及不明确的内容,然后帖子被分类分配出来,再由审核员对「不明确的内容」进行人工复审。

这样一来,AI 能够帮内容审核员减轻负担,让他们更高效地去做决策,专注于数据分析。

但要让人工智能取代人力,现在依然像是天方夜谭。

虽然 AI 技术发展越来越快,但是因为自然语言处理(NLP)的难度,机器在理解语言上,还不能达到人类的思维程度,所以审核文字也会失误,更何况是图片、音频、视频。

深度学习的局限性在于,如果要创建准确检测*内容的神经网络,则必须先让 AI 在数百万个带注释的*内容来训练。没有高质量的培训数据,AI 就很容易犯下错误。

声明:以上内容转载自互联网,并不代表本网赞同其观点。如有任何问题,请与不良与违法信息举报中心联系:513175919@qq.com。

www.book1234.com true http://www.book1234.com/q/TEC20200/TEC2020032403671000.html report 38189
娱乐时尚
历史文化
真视界
旅游美食
精彩图文
我爱我车
母婴健康
关于本站 | 广告服务 | 手机版 | 商务合作 | 免责申明 | 招聘信息 | 联系我们
Copyright © 2004-2018 book1234.com All Rights Reserved. 布客网 版权所有
京ICP备10044368号-1 京公网安备11010802011102号