软件开发架构师

AI Now调查报告:AI领域被白人和男性占领,多样性严重不足

人工智能 126 2019-04-19 00:29

4 月 17 日,AI Now 研究所在发布的一份报告中表示,人工智能行业面临着“多样化危机”,并指出了关于该领域方向的关键问题。

报告发现,女性和有色人种的比例严重不足,并指出人工智能领域的教授男性占比约 80%,而 Facebook 和谷歌的女性人工智能研究人员占比分别仅为 15% 和 10%。有色人种占比也极小,在主要科技公司员工中他们属于少数群体。结果显示,AI 领域的劳动力主要由白人和男性的观点领导,创建的工具也经常影响其他人群使用。“这些系统影响了劳动力的多样性,”AI Now 研究所联合主任 Meredith Whittaker 说。

更糟糕的是,通过修复潜在求职者的“通道”来改善问题的计划在很大程度上失败了。研究人员写道:“尽管经过数十年的”通道研究“评估了从学校到工业的各种求职者的流动,但人工智能行业的多样性并未取得实质性进展。

“我们需要知道这些系统是否公平安全。”

研究人员提出了一些改善问题的建议。他们认为,公司可以发布更多关于按种族和性别划分的福利数据,以及公布骚扰和歧视透明度报告来提高透明度。

虽然多样性是科技行业普遍存在的问题,但在人工智能中会造成更大的潜在危险,比如人脸识别等可能具有偏见性的技术将不合理地影响历史上被边缘化的群体。研究人员写道,2017 年引入的人脸扫描确定性行为的程序等工具可以反映出过去的不公正现象。我们需要严格的测试。但更重要的是,AI 工具的制造商自身必须拒绝进行具有风险的项目。“我们需要知道这些系统既安全又公平,”AI Now 研究所联合主任 Kate Crawford 说。

技术行业人员已经在一些主要的 AI 问题上表明了自己的立场,迫使他们的公司放弃或审查可能伤害弱势群体的敏感工具。亚马逊的工人向高管质疑该公司的人脸识别产品。最近,谷歌工作人员推翻了包括传统基金会主席在内的人工智能审查委员会,并指出该集团游说反对 LGBTQ 权利问题的行径,董事会因此迅速被解散。

研究人员得出结论:“人工智能中的多样性危机已有详细记录并且影响广泛。” “在整个行业和学术界,到处都可以看到职场、招聘和晋升方面的差异和不公平,反映和加深固有偏见的人工智能技术,以及自动化系统中死灰复燃的生物决定论,都可以看出这一点。”

对于这一现状,该调查报告给出的具体建议如下:

  1. 按照种族和性别,公开不同工种、工作类别员工的薪酬水平,包括奖金和股票;
  2. 结束薪酬和机会不平等,并设定包括合同工、临时工和供应商在内的薪酬和福利公平目标;
  3. 公开骚扰和歧视透明度报告,包括索赔的数量、时间、提交的索赔类型以及采取的措施;
  4. 改变招聘实践以最大化多样性:包括精英大学之外的定向招聘,确保更公平地关注代表性不足的群体,并为承包商、临时工和供应商成为全职员工此创造更多途径;
  5. 在招聘实践方面保持透明度,特别是关于候选人评级、福利和升职;
  6. AI 公司所有部门增加有色人种、女性和其他代表性不足群体在高管层中的人数;
  7. 确保高管激励结构与代表性不足群体的雇用和留存率提高挂钩;
  8. 对于学术工作场所,确保在进行 AI 研究所有领域具有更大的多样性,包括人工智能相关部门和会议委员会。

参考链接:

https://www.theverge.com/2019/4/16/18410501/artificial-intelligence-ai-diversity-report-facial-recognition

AI Now调查报告:AI领域被白人和男性占领,多样性严重不足-1

文章评论