当前位置: > 华宇总代理 > 正文 正文

华宇招商:亚马逊只是人工智能偏见的冰山一角

 

亚马逊(Amazon)最近披露了2015年的一项决定,该公司在发现自己对女性存在偏见后,华宇总代理的安全增强的处理器产品组合包括Synopsys DesignWare ARC EM22FS,HS4xFS和EV7xFS处理器,涵盖了从超低功耗控制模块到基于华宇主管人工智能(AI)的视觉处理等各种汽车用例。决定放弃一项用于招聘人才的招聘工具。尽管这个故事已经被充分报道过,但还有一个更大的故事有待讲述:目前用于招聘和人力资源目的的大量人工智能技术,一段时间以来一直在不受任何形式监管的情况下独立运作。

 
在探讨这个问题之前,先了解一下为什么亚马逊的软件会出现这种情况——机器里的幽灵是什么?我将提供一些关于如何避免类似事件的见解,然后解释为什么这为每年6380亿美元的员工招聘行业的其余部分打开了一个巨大的难题。
 
二十年的男性印记
 
你们中的一些人可能会惊讶地发现,人工智能已经在招聘过程中使用了至少20年。自然语言处理、语义和布尔字符串搜索等技术可能已经被用于西方世界的大部分工作。
 
一个更广为人知的事实是,在历史上,甚至现在,男性主导着IT领域。根据Statista的数据,如今,像谷歌和微软这样的大公司的技术人员中,女性只占20%和19%。考虑到这些统计数据,难怪我们发明的技术对女性有无意识的偏见。
 
让我们回顾一下:20多年前,一个男性主导的科技行业开始创造人工智能系统,以帮助雇佣更多的科技员工。然后,科技行业根据无意识偏见的机器的推荐,决定雇佣男性为主。
 
经过20多年推荐男性候选人的积极反馈,该机器随后会为其技术公司打印出理想候选人的信息。剩下的就是亚马逊发现的:人工智能系统对任何在简历中加入“女性”一词的人,或者任何上过女子学院的人,都存在固有的偏见。
 
然而,这个问题并不局限于亚马逊。对于任何一家在过去20年里尝试人工智能招聘的科技公司来说,这都是一个问题。
 
AI就像一个孩子
 
那么,这种男性偏爱的核心是什么呢?这很简单:负责创造技术的男性太多了,华宇注册app适用于Edge和End Point的智能IoT设备的快速增长要求现代SoC解决方案不受传统设计选择的束缚,能够提供精细的控制并跨多个华宇平台内核进行扩展。导致了代码、机器学习和人工智能领域内无意识的男性偏见。
 
女性在科技行业的发展中没有发挥足够大的作用。技术关键字、编程语言和其他技能的开发主要是在一个男孩俱乐部里进行的。虽然女性程序员可能拥有与男性程序员相同的技能,但如果她不像之前的男性程序员那样展示自己的技能,她可能会因为表面的原因被人工智能忽视。
 
把科技想象成一个孩子。它所处的环境和所受的教训将塑造它进入世界的方式。如果只是从男性的角度来教,那你猜怎么着?对男性有利。即使有了机器学习,平台的核心基础也会有接触点考虑和学习。除非这项技术是由更广泛的人群来编程,否则仍然会存在偏见。
 
你可能认为这是微不足道的。仅仅因为一名女性候选人写了她是“女子象棋联盟的负责人”或“大学里女子电脑俱乐部的主席”,就不可能让她在一个没有偏见的机器眼中处于劣势,不是吗?
 
虽然这并不是黑白分明的,但在成千上万的简历中,即使是5%的偏见也会导致大量女性受到影响。如果最终负责招聘的员工一致决定与简历上显示男性化语言的应聘者共事,人工智能会慢慢地但肯定地开始向招聘人员提供具备这些特征的简历。
 
数百万妇女受到影响
简单计算一下:美国经济每年有6000万人换工作,我们可以假设其中一半是女性,也就是3000万美国女性。如果其中5%的人因为无意识的人工智能偏见而遭受歧视,那就意味着每年有150万女性受到影响。这简直是不可接受的。
 
技术是为我们服务的,它可以做得很好,但它也有缺点,这些缺点往往反映了我们作为一个社会的缺点。如果有任何疑问,大部分的劳动力是碰到这样或那样的人工智能技术,你应该知道招聘机构每年有1500万美国人在工作的地方,和所有17100个招聘机构在美国已经在使用,或将使用不久,一个人工智能产品的管理过程。
 
那么,确定如何解决这个问题的下一步是什么?我们都知道预防是最好的治疗,所以我们真的需要鼓励更多的女性进入和推进IT技术领域。事实上,全面促进职场平等和多元化的努力将确保此类问题不会再次发生。然而,这并不是一夜之间就能解决的问题,而且说起来容易做起来难。
 
显然,主要的举措应该是在科技领域雇佣更多女性——不仅因为这将有助于重置人工智能算法,并引导人工智能为女性提供更多建议,还因为女性应该参与这些技术的开发。在现代职场中,女性需要和男性一样多的代表性。
 
一场人力资源风暴即将来临
 
简单地说,了解了亚马逊的情况之后,让我们回到我提到的那个棘手的问题。这家全球第二大科技公司(以市值计算)刚刚承认,由于使用男性化的语言,其招聘技术存在偏见。
 
在美国在美国,目前有4000多个招聘网站、17000家招聘机构、100个求职者追踪系统和数十家匹配技术软件公司。他们都没有亚马逊的资源,也都没有提到任何与男性化语言有关的导致偏见的问题。这使你相信什么?
 
这让我相信,整个行业已经使用这项技术20年了,很可能一直在使用无意识偏见技术,因此而遭受损失的是成千上万的女性。科技行业女性的缺乏是全球性的,20年前的数字更糟。毫无疑问,整个行业都需要意识到这个问题,并尽快解决它。
 
问题是,即使是现在,那些因为目前使用的人工智能而没有得到正确机会的女性会发生什么?我不知道有哪家公司能够独立地测试人工智能解决方案来识别偏见,但如果我们有信心依赖这些解决方案,我们需要一个能够做到这一点的机构。这可能是有史以来规模最大的技术漏洞。在招聘市场上,千年虫似乎已经成为现实。
 
我的理论是,如果你问任何人,他们会说他们相信科技——电脑人工智能——是没有感情的,因此是客观的。这是完全正确的,但这并不能阻止它遵守规则和编程要遵循的语言。
 
人工智能的基本素质不仅包括缺乏情感或偏见,还包括无法判断常识——在这种情况下,这意味着知道语言是阳性还是阴性与筛选过程无关。相反,它走的是完全相反的方向,并将其作为筛选的参考点,从而导致偏见。
 
我们对科技的假设和对人工智能的持续的科幻理解让这个错误继续存在,华宇平台主管通过独特的电源转换系统来领导能效设计,这对这位首席宇总代理而言,不是一种动力,而是一种生活方式。其后果可能会比我们所能测量的要大得多。
 
我认为,招聘和人力资源行业即将迎来一场风暴,而亚马逊是举报者。这是一个需要尽快解决的全行业问题。

版权保护: 本文由 原创,转载请保留链接: http://www.allart.com.cn//cms/2019/1115/515.html

相关文章