谷歌解雇AI伦理团队负责人引争议,学界拒审查谷歌论文

2020-12-09 12:00:41 作者: 谷歌解雇AI

人工智能机器学习范畴里的科学家们表明将回绝帮谷歌审阅论文,直到谷歌改动对前AI道德团队联合负责人Timnit Gebru的态度。

学界科学家拒为谷歌检查论文

挑选要在学术会议上宣布研讨的审稿人一般都是自愿作业,审稿人会依据他们的经历和专业知识,选出那些能够在人工智能顶会宣布的论文。依据揭露数据显现,谷歌是在人工智能研讨会议里奉献最多论文的公司。

上星期,谷歌AI道德团队联合负责人Timnit Gebru忽然在个人推特上表明,谷歌直接开除了她,她的内部账号直接无法登录。而做出决议的正是谷歌AI负责人Jeff Dean。两边争议焦点是一篇还在谷歌内部审议的论文。

Timnit Gebru结业于斯坦福大学,她的导师是人工智能范畴闻名学者李飞飞。她的首要研讨方向是算法误差和数据发掘。Gebru一向致力于黑人在科技圈的平权,是Black in AI的创始人之一。Gebru最闻名的研讨是她在二零一八年发现,面部辨认软件对黑人女人有高达35%的错误率,而对白人男性简直彻底正确。

这篇引发争议的论文标题为《随机鹦鹉的危险:言语模型会太大吗?》,英文为“On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?”。论文具体介绍了机器学习范畴里大型言语模型对边缘化社区的负面影响,并细心研讨了运用大型言语模型相关的危险,例如环境、种族主义,以及根据性别,种族和其他特征的各种持久性的成见。该论文的合著者包含来自谷歌AI的Mitchell和言语学家Emily Bender,他们批判大型言语模型的作业于本年早些时候还获得了奖项。

值得一提的是,二零一八年,谷歌推出了BERT模型,在自然言语处理范畴中带来了里程碑式影响。

Jeff Dean在辩驳Gebru的邮件中称,这篇论文接近截止日期前一天才提交,而依照公司常规论文检查需求的时刻是2周。一起,Gebru还要挟提出各种条件,不然就辞去职务,公司在无法满意条件的情况下,仅仅接受了Gebru辞去职务的说法。

Gebru则表明自己并没有提出辞去职务,谷歌却在她度假期间中止了她登入谷歌内部体系的账号。一起也不认同谷歌不宣布自己论文的原因。她在发给团队的邮件里称,对谷歌坚持人才多样性的做法感到懊丧。

谷歌怎么对待Gebru和行将宣布的论文,这一事情也提出了科技公司关于学术研讨的影响终究会有多大的评论。

机器学习社区的领导者回绝检查来自谷歌人工智能部分的研讨,刚好是本年NeurIPS大会开幕之际,这是世界上最大的AI研讨会议,会议上宣布了有关GPT-3(迄今为止最大的言语模型)的论文,该论文荣获最佳论文奖。

在谷歌公司内部,在谷歌辞掉Gebru仅一天后,谷歌真实革新(Google Walkout for Real Change)安排宣布了一份声明,声明中斥责了谷歌“前所未有的研讨检查准则”,并要求谷歌在彻底揭露的情况下进行论文检查。到目前为止,这份声明已有1600多位谷歌职工和2600多名学术界、民间社会和工业界的支持者签名。

许多AI研讨人员与学术组织都坚持着联络。有多项研讨发现,从学术界到大技能公司,大型企业或草创公司的作业一向在吸引着智力人才。上一年十月,Air Street Capital关于AI人才状况的陈述发现,在2004年至二零一八年期间,谷歌从美国大学聘任的终身任职教授数量超越任何其他公司。

(本文来自汹涌新闻,更多原创资讯请下载“汹涌新闻”APP)