找回密码
 立即注册

QQ登录

只需一步,快速开始

白人男性成了AI行业“毒瘤”?

|原发: 前瞻网

放大 缩小

纽约大学研究中心发表的最新研究结果显示,AI领域缺乏多样性已经到了"需要重视的时刻"。这项由AI  Now研究发布的包含150多个项目的调查发现,一场"多样性灾难"带来了存有缺陷的系统,使性别和种族偏见在AI中长期存在。


报告称,白人男性在AI研究领域占统治地位,这导致他们的历史偏见和人类社会的权力失衡,可能会被复制或延续到AI  系统之中。他们引用的例子包括某些图像识别服务对少数族裔进行侵犯性分类、某些AI聊天程序出现仇恨言论以及亚马逊无法识别肤色较深用户等。报告将AI系统的偏差归因于该领域"本身缺乏多样性"。


报告其中一名作者克劳福德(Kate  Crawford)称:"行业必须承认形势的严重性,并承认,其现有的方法未能解决这些问题。利用AI系统对种族和性别进行分类、检测和预测的行为,迫切需要重新评估。"


报告称,目前超过80%的AI教授是男性,而在产业中,只有15%的Facebook  AI研究人员和10%的谷歌AI研究员是女性。据美国国家科学委员会(National Science  Board)的数据,2015年,女性仅占计算机和信息科学领域人员的24%。


在种族群体方面,谷歌只有2.5%的员工是黑人,而Facebook和微软也都只有4%,而且在AI领域,几乎没有关于跨行业工人或其他性别少数群体的数据。


专注于互联网和民主问题的斯坦福大学博士研究所马塔萨(Dana  Metaxa)说,AI领域的构成反映了"一个更大的问题,涉及计算机科学、STEM领域,甚至设计更广泛的整个社会"。


"随着AI越来越融入社会,这个问题潜在的急迫性正在增强," 马塔萨说,"从本质上讲,AI缺乏多样性正将越来越多的权力和资本集中在特定人群手中。"


从2015年到2018年,美国活跃的AI创企数量增长了113%。而且在2018年,AI创企的风险融资达到创纪录水平的93.3亿美元,较2017年增长72%。随着越来越多的资金和资源投入到AI领域,正有不少企业致力于解决这个问题。AI  4 all CEO波斯纳(Tess Posner)认为,在AI发展达到一个"临界点"之前,必须解决这种多样性的缺乏问题。AI 4  all就是一家致力于提高该行业多样性的非营利组织。


她说:"每过1天,解决这个问题都在变得越发困难。现在,我们正处在一个激动人心的时刻,在我们看到它变得复杂之前,我们可以做出改变。"


周二这份报告警告,仅仅通过多雇佣不同群体,不能根治这个问题。根据一份每年发布的行业独立报告,2018年的AI指数显示,目前美国AI求职者中男性占71%。AI研究所建议采取其他措施,包括公开公布工人的薪酬水平、分享骚扰和歧视透明度报告,以及改变招聘做法,以增加各级代表不足群体的数量。


波斯纳指出,要解决AI系统中的多样性问题,必须在制度上增强在构建算法以及算法工作方面增加透明度。本月,美国参议员布克(Cory  Booker)和怀登(Ron Wyden)提出了<<算法责任法>>(Algorithmic Accountability  Act),该法案要求年收入超过5000万美元或持有至少100万用户信息的公司对算法进行偏差评估。


(编辑:于思洋


版权所有

本网站所收集的部分公开资料来源于互联网,转载的目的在于传递更多信息及用于网络分享,并不代表本站赞同其观点和对其真实性负责,也不构成任何其他建议。本站部分作品是由网友自主投稿和发布、编辑整理上传,对此类作品本站仅提供交流平台,不为其版权负责。文中图片除非有标注外,均来源于网络。如若发现有侵犯您知识产权的作品,请与我们取得联系,我们会及时修改或删除。邮箱:qygcbs@163.com


返回顶部