Facebook现在正在使用AI对内容进行排序以进行更快的审核

科技 2020-11-26 21:55:42

Facebook一直明确表示,希望人工智能在其平台上处理更多的监管职责。它宣布了朝着这个目标迈出的最新一步:让机器学习负责其审核队列。

这是在Facebook上进行审核的方式。用户或机器学习过滤器会标记被认为违反公司规则(包括从垃圾邮件到仇恨言论以及“煽动暴力”的内容的所有内容)的帖子。系统会自动处理一些非常明确的案例(例如,响应可能涉及删除帖子或阻止帐户),而其他案例则排入队列以供主持人审核。

Facebook在全球范围内雇用了大约15,000名主持人,过去曾因没有给予这些工人足够的支持而受到批评,他们在可能导致创伤的情况下雇用他们。他们的工作是对标记的帖子进行分类,并对是否违反公司的各种政策做出决策。

过去,主持人或多或少按时间顺序审查帖子,并按照报告的顺序对其进行处理。现在,Facebook表示希望确保首先看到最重要的帖子,并正在使用机器学习来提供帮助。将来,将使用多种机器学习算法的混合物对队列进行排序,并根据以下三个标准对帖子进行优先级排序:病毒性,严重性以及违反规则的可能性。

这些标准究竟如何加权尚不清楚,但Facebook表示,其目标是首先处理最具破坏性的职位。因此,帖子越具有病毒性(被分享和查看的次数越多),则其处理速度就越快。帖子的严重性也是如此。Facebook说,它把涉及现实世界危害的帖子列为最重要的。这可能意味着涉及恐怖主义,剥削儿童或自残的内容。同时,垃圾邮件等烦人但又不具创伤性的帖子被评为最不重要。

Facebook社区诚信团队的产品经理Ryan Barnes在新闻发布会上对记者说:“所有违反内容的行为仍将受到实质性的人工审查,但我们将使用该系统更好地确定[该过程]的优先级。”

Facebook已经分享了有关其机器学习过滤器如何分析过去帖子的一些详细信息。这些系统包括一个名为“ WPIE”的模型,该模型代表“整个帖子的完整性嵌入”,并采用Facebook所谓的“整体”方法来评估内容。

这意味着算法会共同判断任意给定帖子中的各种元素,试图找出图像,标题,海报等一起显示的内容。如果有人说他们要卖“整批”的“特殊对待”,并附有一张看起来像是烘焙食品的图片,那么他们是在谈论Rice Krispies广场还是可食用的食品?标题中使用某些单词(例如“有效”)可能会以一种或另一种方式提示判断。

过去,Facebook使用AI来管理其平台的行为受到了严格的审查,批评人士指出,人工智能缺乏人类判断大量在线交流环境的能力。尤其是在出现错误信息,欺凌和骚扰等话题时,计算机几乎不可能知道它在看什么。

Facebook的交互完整性团队的软件工程师,Facebook的Chris Palow同意AI有其局限性,但对记者说,该技术仍然可以在删除不需要的内容方面发挥作用。Palow说:“该系统旨在使AI和人工审核者相结合,以减少总体错误。”“人工智能永远不会是完美的。”

当被问及公司的机器学习系统错误分类的职位百分比时,Palow没有给出直接答案,但指出Facebook仅允许自动化系统像人工审阅者一样准确地工作,而无需人工监督。他说:“自动操作的门槛很高。”尽管如此,Facebook仍在稳步添加更多的AI到适度的组合中

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时候联系我们修改或删除,多谢