【科技．未来】用人工智能请人 是消除还是延续偏见？
人力资源（HR）部门在公司需要裁员时毫不手软，但这部门似乎开始面临被大幅取替的危机。在美国财经新闻媒体CNBC上月初举办的人力资源峰会上，IBM行政总裁Ginni Rometty声称，其人工智能（AI）系统Watson可预测员工将离职，准确率高达95%。事实上，几乎每间《财富》世界100强公司都已设有数据分析团队；一些公司已把AI或自动机器应用至招聘和在职培训上，可提高招聘效率及改进完善HR部门功能。虽然这些公司声称，交由AI或机器招聘面试可避免先入为主，但用了AI就没有偏见吗？
人脸辨识技术中存在的偏见至今仍未解决。亚马逊提供给警方执法的人脸辨识系统Rekognition，去年就被发现错误把28名美国国会议员列为通缉犯，而且误认的人有四成都是有色人种，比国会中有色人种占两成的比例为高。 美国康奈尔大学社会学及法律教授Ifeoma Ajunwa因此质疑HireVue的“微表情”是否可靠：“重点是根本没有清楚、既定的规律表示某份工作到底需要什么面部表情。应征者可能因为与该工作无关的表情而被淘汰。”
归根结柢，机器和演算法也是人类所写。非牟利组织Upturn去年底发表报告，分析多种招聘演算法的成效和社会影响，作者之一Aaron Rieke指出：“招聘过程长年受人类偏见左右，任何声称单靠机器学习演算法就能解决的做法都是不真实的，人脸辨识技术一般对女性和有色人种较不准确。即使假设VCV等公司真的能评估‘情绪’或‘行为’，仍不知道将如何协助招聘者评定应征者。若‘适当’的礼仪是从公司现有、同类的员工而厘定，有所差异的应征者就可能被扣分。”
职业顾问公司ReadySet行政总裁Y-Vonne Hutchinson说：“我们试着不视AI为万能药。AI是人制作出来的工具，可能会扩大了制作者的偏见和盲点。”要令这工具有效，“使用这些程式的招聘者必须受训，找出自己和他人的盲点。”欠缺这种多样性训练，人类招聘者只会把既有偏见强加到招聘渠道的不同环节。
Deepfake假得迫真 深度造假模糊真相 什么才可信？人工智能促进生产 垂直农场的新型农夫
招聘平台Textio分别协助雇主和应征者撰写招聘广告和求职电邮，以减少偏见。其行政总裁Kieran Snyder指出，以公司自身收到的履历资料建立的招聘工具，与外部科技公司用以筛选数以百万计求职者所用的不同：“你需看数千间公司的数据点。若你只看自己公司的，AI不单止帮不到你，还会让你不断重复既有问题。”
这正是亚马逊的失败例子。路透社去年10月报道，有五名消息人士透露，亚马逊自2014年起开发AI演算法作为招聘工具，评估应征者履历并给予1至5星评分，希望最终能自动搜寻优秀人才。翌年，亚马逊发现系统有性别偏见，那是因为亚马逊以过去十年该公司收到的履历来训练演算法找出合适的应征者，而这些履历几乎都是男性的。结果亚马逊的演算法被“教导”成男性优先，若履历中带有“女性”字眼，例如“女子象棋队长”，就会扣分，有消息指两名从女子大学毕业的应征者因此被扣分。系统也偏爱那些使用较多出现于男性履历的动词的应征者，例如“执行”、“捕捉”。亚马逊最终在2017年初停止使用这系统。
人工智能结合生前数据 人类可得“永生”？人脸辨识成多国执法新潮 环形监狱时代来临？
即使这套工具没真正用作招聘，行业分析师Josh Bersin仍警告：“这是完美的反例子，是AI用作招聘的最大风险，会延续我们所有既有偏见。” Ajunwa则补充：“自动招聘系统的影响，将比一个有偏见的人类经理大得多。”
卡耐基梅隆大学计算机科学家Nihar Shah认为，这些系统要广泛应用甚至取代人类，仍须努力：“要确保演算法公平、能够解读和解释，仍然有很远的路要走。”虽然去年初Gartner的调查发现，43%受访的合作公司有使用演算法协助招聘，但咨询公司Gartner人力资源实务副总裁Brian Kropp透露，几乎所有公司都把演算法产生的“分数”作为参考，最终仍要人类来决定要雇用谁。
Kropp表示，有些公司正初步进行为期三至六个月的实验，让演算法为大量或低层职位如售货员和客户服务等作最终聘用决定，但暂时发现，“演算法似乎与人类经理的决定差不多，没有特别好。”德勤（Deloitte）人力资源实务主管Michael Gretczko更为看淡：“当去到最终决定要不要雇用谁时，需要点直觉。”而这正是人类强项，“现时是，不久将来也是。”
因此Rieke说：“我们需要更多资讯，了解这些系统如何设计和测试。一日未能实现，我都会保持怀疑。炒作远远走在事实之前。”
相关文章：从招聘到挽留员工 人工智能如何改革人事部？分析求职者性格 用人工智能请人更好？
上文节录自第162期《香港01》周报（2019年5月14日）《人才招聘悄悄演变 AI做HR好过人类？》。
更多周报文章︰【01周报专页】《香港01》周报，各大书报摊、OK便利店及Vango便利店有售。你亦可按此订阅周报，阅读更多深度报道。
【科技．未来】更多人工智能相关文章：机器也有创意？ 人工智能成艺术家新宠艺术家以人工智能创作 是工具还是合作伙伴？诊症能力媲美人类 人工智能将成未来医生？要取代人类医生 人工智能还欠甚么？