人工智能招聘软件“重男轻女” 算法公平之路任重道远

2018-10-15 14:49:39 来源: 科技日报

自2014年以来,美国亚马逊公司的机器学习团队一直在秘密研发和使用一款计算机程序,用于审查求职者的简历,希望能将寻找顶尖人才的工作智能化。但在专家发现新招聘引擎不喜欢女性后,亚马逊最终在去年年初解散了该研究团队。

效率提升需求推动机器学习应用

无论是在仓库内部还是在推动定价决策方面,自动化是亚马逊电子商务主导地位的关键。由于低成本计算能力的激增,机器学习在技术领域越来越受欢迎。亚马逊的智能化招聘实验就始于这家全球最大在线零售商的关键时刻。

监管机构的文件显示,自2015年6月以来,亚马逊的全球员工人数增加了两倍多,达到57万多名。为缓解人力资源部门剧增的工作压力,提升其工作效率,亚马逊爱丁堡工程中心建立了一支研发团队,目标是开发人工智能技术,快速抓取网络信息并发现值得招募的候选人。

该公司的实验性招聘工具使用人工智能为求职者提供一星到五星的评分,类似于购物者对亚马逊所售产品的评分。研究人员希望这个招聘软件能达到“给软件输入100份简历,它会吐出前5名,然后公司就可优先雇用他们”的目标。

人工智能招聘软件“重男轻女”

经过培训,亚马逊的计算机模型学习了过去10年内提交给公司的简历,找出了其固有模式,并据此来审查申请人。但从2015年开始,亚马逊意识到在评定软件开发和其他技术职位的申请人时,该招聘系统并非性别中立。因为大多数申请者都是男性,这反映了整个科技行业男性主导地位的现实。

研究团队创建了500个专注于特定工作职能和职位的计算机模型。他们教会每个模型识别过去候选人简历中出现的约5万个术语。这些算法对IT应用程序中常见的技能几乎没有重要意义,例如编写各种计算机代码的能力等。相反,这项技术有利于那些用男性工程师简历中诸如“执行”“捕获”等常见动词来描述自己的候选人。

事实上,亚马逊的系统通过自学得出了男性候选人更可取的结论。系统对包含“女性”这个词的简历进行了处罚,如“女子国际象棋俱乐部队长”等。系统还降低了两所全女子大学毕业生的评级。

亚马逊曾尝试对程序进行更新,力图使其对特定术语保持中立。但这并不能保证机器不会根据其他方式来对可能具有歧视性的候选人进行分类。

性别偏见也不是唯一的问题。支持模型判断的数据也有问题,这意味着不合格的候选人经常被推荐到各种工作岗位。亚马逊最终在去年年初解散了该团队,因为高管们对这个项目已失去信心。

算法公平之路任重道远

根据人才软件公司“职业创造者”2017年的一项调查显示,约55%的美国人力资源经理表示,未来5年内,人工智能将成为他们工作的常规部分。

长期以来,雇主一直梦想利用技术扩大招聘网络,减少对招聘人员主观意见的依赖。但亚马逊的失败案例,为越来越多正在寻求自动化招聘流程的大型公司提供了一个教训。

卡内基梅隆大学机器学习专家表示,如何确保算法公平、真正可理解和可解释的道路还相当遥远。

《麻省理工技术评论》在此次事件的报道中指出,我们不能将人工智能视为内在的无偏见。在有偏见的数据上训练系统,意味着算法也会变得有偏见。如果这样不公平的人工智能招聘计划在实施之前没有被发现,将使长期存在于商业中的多样性问题延续下去,而不是解决它们。(科技日报纽约10月13日电)

精选 导读

埃塞俄比亚737 Max 8客机坠毁 8名中国乘客遇难

当地时间3月10日,埃塞俄比亚航空公司一架737 Max 8客机在从该国首都亚的斯亚贝巴飞往肯尼亚首都内罗毕的途中坠毁,机上149名乘客及8名机组人员全部遇难。

发布时间: 2019-03-11 09:36
要闻   2019-03-11

iPhone今年三轮降价 部分降超2000元

自今年年初开始,iPhone已经经历三轮降价。最新一轮从3月5日开始,天猫、苏宁、京东等各大电商平台纷纷加入,降价最高超过2000元。

发布时间: 2019-03-08 10:30
要闻   2019-03-08

她经济:购买者正变为创业者和公益人

这是一个新的电商平台下的“她”故事:女性用户正在从购买者、销售者转变成创业者、社会公益参与者。愈强大,更温暖,女性因变强而担负起更多社会责任。

发布时间: 2019-03-08 10:29
要闻   2019-03-08

今年减税降费清单一览 企业轻装上阵迸发活力

我国有上亿市场主体,而且还在不断增加。把市场主体的活跃度保持住、提上去,是促进经济平稳增长的关键所在。政府工作报告提出

发布时间: 2019-03-07 10:38
要闻   2019-03-07

今年移动网络流量平均资费再降20%以上

电工信部部长苗圩5日在人民大会堂“部长通道”上说,今年移动网络流量平均资费再降低20%以上,中小企业宽带平均资费再降低15%,更好满足人民群众日益增长的消费需求。

发布时间: 2019-03-06 10:39
要闻   2019-03-06

油价“四连涨” 多地92号汽油重回“7元时代”

国内油价28日迎来“四连涨”,消费者出行成本不断增加。本次调价后,云南、四川等多地92号汽油重回“7元时代”。

发布时间: 2019-03-01 10:02
要闻   2019-03-01

去年减税超万亿 增值税税制将再优化

税收关系着国家的“钱袋子”,更关系着每个纳税人的“钱包”。每一项税制改革都牵动着人们的神经。

发布时间: 2019-03-01 09:38
要闻   2019-03-01

3月新规:罕见病药品迎降税 支付宝还信用卡要收费

首批21个罕见病药品减按3%征增值税、《国家级文化生态保护区管理办法》正式施行、3月底前再取消一批税务证明事项、支付宝还信用卡要收费……

发布时间: 2019-03-01 09:36
要闻   2019-03-01

四部门为重点群体创业就业减税 明确适用方式

据国家税务总局网站消息,近日,国家税务总局、人力资源社会保障部、国务院扶贫办、教育部印发了《关于实施支持和促进重点群体创业就业有关税收政策具体操作问题的公告》。

发布时间: 2019-03-01 09:34
要闻   2019-03-01

一批新规3月起实施 这21种救命药将迎减税

首批21种罕见病药品迎来减税,取消增值税发票认证的纳税人范围扩大,四川城镇职工医保卡可与家人共享,海南将逐步禁止销售燃油汽车……即将进入3月,又有一批新规将正式实施

发布时间: 2019-02-28 13:20
要闻   2019-02-28