谷歌要求员工在研究论文中保持积极态度

科技 2020-12-31 14:27:41

Google对敏感主题(包括性别,种族和政治意识形态)的研究论文增加了一层审查。一位高级经理还指示研究人员在今年夏天的一篇论文中“保持积极态度”。该消息最早是由路透社报道的。

该政策读到:“技术的进步和我们外部环境日益复杂的情况日益导致看似无礼的项目引发了道德,声誉,监管或法律问题。”三名员工告诉路透社,这项规定始于六月。

路透社称,该公司还多次要求员工“避免以负面的眼光投射技术”。

负责推荐AI的论文的工作人员被告知“要格外小心,以表现出积极的语气”,该AI用于对YouTube等平台上的内容进行个性化设置。然后作者将论文更新为“删除了对Google产品的所有引用”。

路透社写道,另一篇有关使用AI理解外语的论文“软化了对Google Translate产品犯错误的参考”。进行此更改是为了响应审阅者的请求。

Google的标准审查程序旨在确保研究人员不会无意间泄露商业秘密。但是“敏感主题”的审查不仅仅限于此。希望评估Google自己的服务是否存在偏见的员工必须先咨询法律,公关和政策团队。据报道,其他敏感话题包括中国,石油工业,位置数据,宗教和以色列。

自从12月初AI伦理学家Timnit Gebru被解雇以来,这家搜索巨头的发布一直备受关注。Gebru说,她因发送给Google AI研究人员内部小组Google Brain Women and Allies listserv的电子邮件而被终止。在其中,她谈到了Google经理敦促她撤回有关大规模语言处理模型危险性的论文。Google的AI负责人Jeff Dean说,她在截止日期之前提交了它。但是格布鲁自己的团队拒绝了这一主张,称该政策“不公正地,歧视性地”适用。

据《华盛顿邮报》报道,Gebru于9月份与Google的公关和政策小组联系。她知道该公司可能会对研究的某些方面产生疑问,因为该公司在搜索引擎中使用了大型语言处理模型。对该论文进行修改的截止日期是2021年1月,直到研究人员有足够的时间来解决任何问题。

但是,感恩节前一周,Google Research副总裁Megan Kacholia要求Gebru撤回论文。第二个月,Gebru被解雇。

Google并未立即回应The Verge的置评请求。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时候联系我们修改或删除,多谢