网站地图
热门搜索: 更多
  “可解释性”,简单来说,就是当AI作出一个判断,工程师能知道是AI神经网络的哪些部分,根据样本中的哪些线索,得出了那个判断。而Amazon最终选择关停项目,很有可能是由于AI缺乏“可解释性”,造成工程师不知道该修改AI神经网络中的哪些部分,导致问题一直无法被实际解决。因此这位工程师最后给出的论断是,“工程上来讲,想修复这个问题很难”。
 
  不过,并不是所有工程师都对此不看好。小探采访了一位微软的工程师,他在电话中自信地表示:技术层面上,一定能实现公平对待男性和女性应聘者。
 
  然而紧接着,他便反问小探:“但你是想反映公平,还是想反映真实?”
 
  小探不禁陷入沉思。难道我们追求的公平——让男性女性有同样的机会就职——是不真实的吗?
 
  AI印证了现状,HR却想改变现状
 
  Amazon的AI偏爱男性应聘者,不仅暴露了Amazon公司内男多女少的问题,还反映了整个科技行业内男女比例失衡的现象。
 
  据路透社统计,Amazon、Facebook、Apple、Google、Microsoft五家科技巨头的员工中男性占比分别为60%、64%、68%、69%、74%。而这五家公司中技术类职位男性占比甚至更高,最高的Microsoft占比达到81%。公司于周一在北京乐视大厦召开2018年第三次临时股东大会,表决董事会换届。会议审议事项包括:《关于公司董事会换届选举暨提名第四届董事会非独立董事候选人的议案》、《关于调整 2018 年日常关联交易预计的议案》等。
 
  大会上,乐视网董秘张巍在临时股东大会上表示乐视网三季度巨亏15亿元主要由于版权摊销成本和债务财务成本,目前没有有效的方式来改善当前的情况。
 
  据悉,10月12日晚间,乐视网披露业绩预告,公司预计今年前三季度亏损14.79亿元至14.84亿元,归属于上市公司股东的净资产为负。乐视网表示,公司目前受乐视非上市体系经营不善的延续影响,形成的大量关联应收和预付款项,造成公司资金流极度紧张、公司下游销售大幅下滑回款困难等问题。并且,公司目前整体资金安排存在较大困难,存在较大的偿债风险及无法按时兑付债务的风险,特别是部分金融机构债务到期日临近,为公司短期内的资金筹划及安排带来一定不确定性。 你知道Google每年收到多少求职者的简历吗?据JobVine统计,超过100万份。
 
  其他大公司也无外乎于此,而这毫无疑问对于HR来讲是巨大的负担。那有没有可能用AI解决这个问题呢?
 
  在过去几年中,AI行业发展迅速。据Crunchbase统计,截止2018年,光是在硅谷研究或应用AI的公司就超过1400家。尽管做AI的公司多,目前行业里的应用场景主要还是集中在教育、医疗、无人驾驶等方面。
 
  作为科技巨头,Amazon正在尝试拓展新的应用场景——用AI给简历打分,帮HR分担压力。然而这项应用却在最近被爆出一个巨大的问题。
 
  AI偏爱男性应聘者?
 
  Amazon的AI程序通过检索简历中的关键词,评估应聘者的能力以及和申请职位的匹配度,再综合打分,给HR推荐理想的人选。
 
  图片来自网络,版权属于作者图片来自网络,版权属于作者
 
  但是这个程序在应用一年后,却被Amazon高层宣布关停。这是为什么呢?
 
  原来AI程序在打分时,给男性应聘者的简历打分明显比给女性打分高,也就是说AI更偏爱男性。Amazon的工程师们之后针对这一现象展开调查,发现原来AI程序在分析简历时,会识别暗示应聘者性别的关键词,比如“女子学校”、“女子篮球队”等,通过这些关键词推断应聘者的性别,并降低女性应聘者简历的评分。
 
  但为什么AI要针对女性呢?大家都是来找工作的,这不是明摆着性别歧视吗?这个问题的答案,隐藏在AI深度学习的样本里。
 
  Amazon的工程师经过进一步的调查发现,原来AI程序偏爱男性应聘者,是因为AI深度学习的样本来自于Amazon公司过去10年内收到的所有简历。而这些简历中,原本男性申请者就偏多,并且最终录取的员工中也是男性居多。因此AI在深度学习的过程中形成了一种认知,那就是男性应聘者比女性更优秀。基于这种认知,AI给男性应聘者的简历评分更高。
 
  之后Amazon的工程师针对这个现象,修改了AI程序的代码和算法,让AI程序不再通过检索关键词来推断应聘者性别。但这种方法没有实际解决问题。AI已经通过深度学习形成了“男性应聘者比女性更优秀”的认知,所以即便不检索关键词,工程师也不能保证AI不会通过其他方法推断性别。
 
  正因为如此,在AI程序被投入使用一年后,Amazon高层最终宣布关停项目。
 
  可能的解决方案
 
  虽然Amazon关停了项目,但AI偏爱男性应聘者,是否真的无法通过优化程序解决呢?如果采用不同的样本,又是否能改善这个问题呢?
 
  为此小探就可能的解决方案,采访了一位不愿透露姓名的业内人士。
 
  听小探把整个事件徐徐道来之后,这位人士提出了一个方案:首先设置两套AI程序,在深度学习的过程中,男性和女性的样本分开学习,然后在评分过程中,先让AI把简历按性别分为两组,再用针对男性的AI程序给男性打分,用针对女性的给女性打分,这样就能最大程度保证公平。
Copyright © 2015-2016 六合开奖结果—四川宏昌金属制品有限公司 版权所有