AI大咖:人工智能也会有偏见

发布时间:2019-07-11 发布者:亚洲时报

首届欧洲创新大会7月9日在米兰举办,主题为“超级智能的曙光”,旨在探讨数据和智能机器将如何改变未来。


这位带有口音的英裔美国设计师表示,“Siri从来就不适合我。”

(图源:Fast Company)

 

在9日的创新大会中,苹果人机界面前设计总监伊姆兰•乔杜里在会上袒露,人工智能受制于我们输入的数据,当我们提供的数据有缺陷时,我们就会得到带有偏见的产品和服务。

 

乔杜里在苹果工作了20多年,后来与迈克尔·琼斯共同创办了Humane,后者是客户关系管理软件开发商Salesforce人工智能研发部门的产品高级总监。

 

由于人工智能易受偏见影响,两人一致认为,要想创建超越社会偏见的自动化系统,关键是要拥有多样化的数据库,并且雇佣多样化、多学科的设计和工程团队。

 

乔杜里说:“我们的社会存在隐性偏见。而且,由于(人工智能)在很大程度上是在模仿现实世界,所以(计算机)继承了我们这个世界同样的问题。”

 

琼斯解释道,如果提供给自动语音识别系统所有数据都来自白人男性,它就会疏远所有把英语作为第二语言或带有口音的人。如果开发一个根据已有的员工数据来挑选简历的招聘系统,那么它将自动淘汰含有女性元素的简历,因为现实中受青睐的主要是男性高层管理人员。比如写有“女子象棋俱乐部”内容的简历就会被剔除,这显然指的是亚马逊之前的人工智能招聘系统。

 

乔杜里表示,目前人工智能还处于一个非常早期的阶段。“这意味着(人工智能系统的)训练就像在训练一个无知的孩子,计算机会吸收很多现实中的偏见。”

 

如何部署人工智能也是一个问题。琼斯说,有时,公司必须严格限制他人使用其技术的方式,但“这很大程度上取决于公司的价值观”。比如Salesforce就规定客户不能将该公司的技术用于面部识别应用。

 

琼斯说,现在硅谷在开发算法时都更加谨慎,“过去人们总是在想,‘我们能做到吗?’但现在潮流正在转变,更多的人问的是,‘我们应该这么做吗?’”

 

文章来源:Fastcompany

原文链接:

https://www.fastcompany.com/90372481/heres-why-we-need-more-diversity-in-ai

编译:李伯媛


特别声明: 本站转载或引用之图文若侵犯了您的合法权益,请与本站联系,本站将及时更正、删除。版权问题及网站合作,请通过亚时中文网邮箱联系:asiatimescn@sina.com

热门话题更多>>

扫一扫手机阅读

ATimesCN手机网站