当前位置:salon36沙龙技术探讨 → 正文

破除人工智能中的偏差

责任编辑:cres 作者:Sharon Florentine |来源:salon36沙龙  2018-04-16 10:05:55 原创文章 salon36沙龙
人工智能系统中的偏差会导致意想不到的后果。你要确保自己理解人工智能系统是如何解释它们所收到的数据的,这是解决问题的一种方法。
 
Alexa、Siri、小娜。这些虚拟数字助理正在成为我们日常生活的一部分,它们除了功能相似之外,还有一个共同的重要特征:她们都被编码为女性。
 
如果你从来没有考虑过为什么所有这些人工智能助手都是女性,你并不孤单。LivePerson是一个基于云计算的客户服务消息解决方案,它委托有关机构对1000名美国成年人进行调研,以确定他们对人工智能以及技术上的性别差距的看法。“Alexa,Siri和谷歌助理默认都是女性。你有没有想过这个事实?”总体而言,53.2%的人表示他们没有想过,这就是他们对这个问题的回应。
 
LivePerson的首席执行官Rob LoCascio说:与其它技术不同,“有了人工智能,你正在创造一些你赖以互动的东西,就仿佛和另一个真人在互动,或者你正在用它来补充人类活动,做出决策和推荐。他说:“所以我们必须问,为什么?为什么我们将这些‘助手’定性为女性?关于我们对世界上和工作场所中的女性的期望,这又说明了什么?女性天生就是‘助手’,她们是‘爱唠叨的人’;她们执行管理角色;她们擅长接单?”
 
偏差放大
 
当然,这不仅仅是数字助理存在偏见问题。正如彭博社所报道的那样,研究人员已经开始注意到人工智能系统的这样一个倾向——重复并放大它们的创造者所造成的偏差。
 
该文指出:“公司,政府机构和医院正日益转向机器学习、图像识别和其它人工智能工具,以帮助人们预测这些内容——从贷款申请者的信誉度到癌症患者的首选治疗方案。这些工具有很大的盲点,这些盲点尤其影响到女性和少数族裔。”
 
例如,在招聘中,人工智能通常用于确定理想的候选人。然而,如果对人工智能听之任之,它可能会使IT领域的多样性问题变得更加严重,在这些领域里已经缺少很多女性和没有得到充分代表的少数族裔。
 
人工智能招聘者AllyO的创始人Ankit Somani说:“在科技领域,如果你正在寻找技术职位的候选人,那么大多数候选人会是白人男性;所以如果你只是将所有这一切输入系统中,并接受任何结果,那么你会看到系统会做出这样的关联——比如说,一个开发人员,然后将其与白人男性关联起来”。他说:“根据它所收到的数据,这并没有错,但如果你不了解当前多样性的缺乏是如何影响这些系统的,那么你可能会加剧这个问题。”
 
人工智能中的偏差也会对业务产生影响。以零售为例。LoCascio说:“超过70%的网购是由女性完成的。女性拥有购买力并做出大部分预算决策,所以如果企业想要吸引和留住这些顾客,它们必须考虑这些事情”。他说:“对于企业本身来说,这不仅仅是一个问题,对于整个世界来说也是一个问题——如果大多数用户界面和用户体验都是由男性设计的,那么对于男性而言,那么你将无法获得竞争优势。”
 
人的因素
 
Somani说:你要确保自己理解这一点——人工智能系统是如何解释它们收到的数据的,并调整算法,这是解决偏差问题的一种方法。
 
他说:“人工智能技术对于处理数字和处理大量数据和发现模式是非常有用的。人所扮演的作用是理解模式,根据结果找出需要改变的地方,当然还有建立真正的情感联系。”
 
他说:“你可以一起致力于保持平衡并确保人工智能系统公平公正地执行,但你必须进行这些检查。如果你雇用一名员工,难道你不会有绩效考核?难道你永远不会考察他们的表现以及他们的表现是否达到标准?当然不是。那么你为什么不用这些技术来做这件事呢?”
 
人工智能职业平台Gloat的内容和社区经理Melanie Pasch补充道,持续检查你得到的结果并密切关注偏差是很关键的。
 
例如,Gloat的匿名招聘软件不仅通过删除姓名和任何其他可能与候选人的性别,性取向,种族或民族相关的因素,还删除可能指向社会经济阶层的其他因素,将简历匿名化。
 
她说:“我们观察某些业余爱好的结果(例如骑马),意识到社会经济阶层是无意识的指标。我们也积极地认识到,对于某些职位和学位,它们并不一定与工作上的成功相关,所以我们根据这些因素编码,将他们从考虑因素中排除,并专注于其它数据点。”
 
Pasch说,还应该有一个过程,让人类评估人工智能决策,确保它们按预期工作,并且不会加剧偏差。
 
Pasch说:“人们不应该仅凭算法的一面之词进行招聘,因为我们知道这些问题的存在。但是,随着我们取得进展并渐渐看到更好的代表,这项技术将与我们一起学习并发展。”
 
版权声明:本文为salon36沙龙编译,转载需注明出处为:salon36沙龙,如果不注明出处,salon36沙龙将保留追究其法律责任的权利。
关键字:人工智能 原创文章 salon36沙龙
破除人工智能中的偏差 扫一扫
分享本文到朋友圈
关于我们联系我们版权声明友情链接广告服务会员服务投稿中心招贤纳士 企业网版权所有©2010-2018 京ICP备09108050号-6
^
salon36