在我的教育生涯和早期职业生涯中，我花了大量的时间做大规模的研究。事实上，我进入IBM执行资源项目的途径是通过我的部门所承担的最大的研究项目之一。

 

对于那些试图解决多样性和包容性问题的人来说，华宇总代理一个反复出现的问题是，在不了解多样性和包容性问题的情况下，他们只关注症状。就像感冒时服用解充血剂一样，它可能会暂时缓解疼痛，但这种方法并没有成功地解决问题。

 

上周在戴尔科技世界(Dell Technology World)，我参加了由首席多样性官布莱恩•里夫斯(Brian Reaves)主持的一个关于多样性和包容性的会议。它关注的是面部识别技术的问题，这项技术在白人男性中很管用，但在其他群体中就不那么管用了。

 

演讲者是Joy Buolamwini，她自称为“代码的诗人”。如果她的演讲是一个TED演讲(这并不奇怪——她已经做了一个TED演讲)，这将是我所见过的最好的演讲之一。如果你看过TED演讲，你就会意识到这意味着演讲的质量和信息的质量都非常高。

 

我将分享我对这一重要会议的回应，并以我本周的产品结束。

 

专家会议

 

戴尔的每一个技术领域都有涉及广泛兴趣话题的会议。你真的应该参加这些会议。虽然不是所有的都很好，但它们通常提供了对市场中正在发展的关键问题的洞见，其广度可能是你在任何其他活动中都无法获得的。见鬼，反正你也在那里——你可能会学到一些东西。他们往往比大多数产品推销更有趣和相关。

 

过去的报告似乎表明，戴尔应该进军新兴市场，比如机器人和通用人工智能(那是去年的事了)，但戴尔似乎并没有认真对待这些宣传。今年让我着迷的是布莱恩·里夫斯就在现场，他显然打算把这件事牢记在心。事实上，他似乎已经采纳了乔伊的建议。

 

算法的偏见

 

乔伊雄辩地指出了我们科技界大多数人都知道或应该知道的一点，那就是白人男性工程师的同质文化对任何其他群体都是一无所知的。她的重点是面部识别，世界各国政府越来越多地使用这项技术来识别人。乔伊说，目前美国有1.3亿人参加面部识别项目。他们中的许多人不仅不知道，而且还被错误地识别了。

 

这对有色人种的女性来说尤其麻烦，她们经常被误认为是男性，甚至被误认为是动物或其他什么东西。例如，有些人被认为是男性的假发或胡须。这些程序被用来决定服务，个人是否应该被允许访问，他们是否是罪犯。

 

根本问题不在于人工智能工具在核心技术方面的失败。虽然这些错误的识别有时可能来自低质量的相机，但它们在很大程度上是由严重偏差的数据集造成的。这些数据通常来自科技公司(主要由白人男性组成)或媒体，从数量上看，媒体似乎更喜欢白人男性的照片。

 

这不仅仅是系统精度的问题——它实际上是大规模滥用。我的意思是，如果某个脑残的人工智能把你当成大猩猩会有多冒犯?这些节目常常将有色人种作为惯犯，错误地建议对他们判处更高的刑罚。

 

这些程序可能被用来通过分析面部表情来淘汰潜在的糟糕求职者(其中一种产品被称为“Hirevue”)，尽管事实证明，这些程序甚至无法可靠地识别性别，甚至无法确定求职者是否是人类。

 

IBM、微软、亚马逊

 

作为她努力的一部分，乔伊最初研究了微软、IBM和Face++的面部识别程序。Face++是一家总部位于中国的公司，我以前从未听说过。这些程序对白人来说几乎是完美的，但是当你接触到有色人种，尤其是有色人种的女性时，他们的准确性往往比抛硬币好不到哪去。在这些公司意识到这些问题后，他们开始着手解决这些问题。目前，他们的程序对有色人种的准确率要高得多——尽管还远远不够完美。

 

乔伊接着看了看亚马逊和凯洛斯，发现他们和其他人一样糟糕，没有从同行那里学到任何东西。令人恐惧的是，考虑到它的广泛使用，亚马逊是迄今为止最糟糕的。

 

然而，这表明，通过集中精力、修复问题的愿望和强大的执行，您可以在很大程度上减少问题，并且继续处理它最终会使错误识别的数量变得微不足道。

要解决这一问题

 

乔伊认为，要解决这个问题，就有必要增加用于训练人工智能的数据集的多样性，这样它们就能更好地匹配被派去测量的人群。今天，这些数据集中只有17%的女性和4%的有色人种女性。(有趣的是，乔伊发现她必须戴上一个白色的面具，才能让这些系统把她当作人来看待，这让她很尴尬。)

 

她建议的过程应该是永远不会结束的，首先要强调偏见，这样问题才能得到解决。然后找出产生偏差的原因，这样就可以把资源集中在问题上。然后执行以减少偏差。

 

我自己接受的研究培训表明，你永远无法消除偏见，因为偏见是人固有的，但你可以努力将其最小化，这样随着时间的推移，它的影响就不那么显著了。

 

乔伊提出了三个必要条件:

 

敢于提出令人不舒服的、具有交叉性的问题。如果有些事情看起来不太对劲，那就努力调查一下。不要因为它让人不舒服而回避它。改变是不舒服的，但你能取得进步的唯一方法是通过改变。

 

敢于倾听无声的声音。通常情况下，弱势群体被认为是无足轻重的，但如果你不倾听，你就不会看到或理解需要解决的关键问题——更不用说能够为解决这些问题提供资源了。

 

敢于梦想。我认为乔伊很清楚地活在这世上。对更美好世界的梦想，如果大家共同拥有，就能产生更美好的世界。如果你只是接受现状，那么你就不太可能实现其他可能实现的目标。

 

Joy赞扬了谷歌的员工，他们上周举行了一场小规模的抗议活动，抗议针对同行的报复行动，其中许多人因为抗议谷歌的一些不良行为而被降职或解雇。我同意这些人是英雄，如果我们想推动需要的变革，这类事情通常是必要的。

 

Joy建议使用分析工具的人认识到缓解是一个过程，当您向分析工具添加元素时，总是要对假设、数据的准确性和所使用的模型提出质疑。永远不要认为。

 

她还赞扬了大规模实施人脸识别的英国，因为它公开了人脸识别很糟糕的事实。它要求透明度，以解决问题的资源为目标;显然，把它们掩盖起来是行不通的。

 

结束

 

考虑到我在全国范围内做过研究，而且我自己的研究生工作也花了很多时间思考消除偏见的问题，我发现乔伊的演讲非常有趣。我们知道，多样化的团队，如果恰当地创建和管理，可以带来更好的产品，更好的性能，以及一个更加全面和包容的公司。

 

如果我们能认识到存在的问题，找出原因，并努力减轻它们，我们不仅能使我们的公司成为更好的工作场所，而且能使世界成为更美好的生活场所。

 

乔伊的谈话给了我希望，我们正在取得进展。如果我们当中有更多的人订婚，那么也许我们真的可以创造出乔伊和许多老白人梦寐以求的乌托邦。

 

Rob Enderle的本周产品

 

我们正在迈向一个被机器人包围的未来。我看到的一些预测表明，几年后，智能手机的市场规模将超过智能手机。我最担心的一个问题是，科技公司一直忽视机器人的崛起，就像之前的那些公司一样，它们基本上忽视了个人电脑和智能手机等其他主要颠覆性趋势。

 

嗯，Briggo是一个对比点，因为它是一个机器咖啡店，每英尺能产生12K美元，而且是我喝过的最好的摩卡咖啡。

 

Briggo Coffee Haus(基本上是一个机器人星巴克)是用戴尔的原始设备制造单元和Boomi，以及大量的机器人开发创建的。(这个团队基本上创造了一个克隆世界顶级咖啡师的机器人。)

 

布里格咖啡馆是我见过的最令人印象深刻的咖啡自动贩卖机之一。我为早晨的一杯咖啡而活，在我喝了第一杯布里戈咖啡后，我就迷上了它。遗憾的是，目前还没有很多这样的飞机，但它们很快就会抵达旧金山机场，而且已经在奥斯汀机场。戴尔的员工很幸运，因为他们在戴尔总部有两件事。我在戴尔的其他大型工厂也没有这样的设备吗?

他们使用的是收入分成模式，这样安装它们的人就能获得一定比例的收入，华宇代理而Briggo则主要负责支持这台机器的硬件和物流成本。这台机器是技术的展示，拥有完整的预测分析和软件堆栈，确保质量，会让领先的计算机科学家感到自豪。

 

它使用一个基于云的解决方案,这意味着如果你有这个应用程序,你可以点咖啡土地(你会得到一个使用代码),它将准备好当你冲刺,这样即使你有紧密连接你可以得到您的咖啡(我只是希望它是在拉斯维加斯机场,我写这篇文章)。

 

最终的产品比我通常喝的星巴克好多了，一点都不好玩。考虑到我现在希望我现在有一杯这种咖啡，布里格咖啡机，尤其是咖啡，是我本周的产品。如果你看到一个，试试吧，我敢打赌你会对它的选择和质量印象深刻。