文章来自微信民众号：学术头条（ID：SciTouTiao）

欧盟委员会 (European Commission) 克日公布《人工智能白皮书》，设计制订一套人工智能的新律例，以珍爱公民免受滥用人工智能手艺的危险。

同时，欧盟示意新律例将侧重于透明度和监视，以区别该区域与美国和中国的做法。有趣的是，西欧委员会将现在 AI 生长的现状比作“蛮荒的西部”，并示意将重点关注“高风险”案例。

AI 现状：蛮荒的西部？

现在，人脸识别已经成为一些执法机关追踪嫌犯时最强有力的武器；另有些医疗机构正通过剖析人的脸部特征，来诊断某些罕有遗传疾病……但它对公民隐私权组成的威胁，也亘古未有。

相较指纹等其他生物特征，人脸识别的最大差别就在于，它能远距离发生作用，而无需直接接触。这意味着，政府、公司等机构和小我私家可能未经当事人赞成、甚至完全不知情的情况下读取并搜集其数据，进而非法使用。

事实上，人脸不仅仅能解释身份，让人以为美或丑，还泄露许多其他信息。有研究解释，通过大数据和算法，有相当大概率能通过人脸特征来测算一小我私家的智力水平、性取向，甚至政治倾向……

因此，一旦这种手艺被不恰当地使用，就有可能发生严重后果——例如，保险公司或可更准确判断一小我私家的健康状况，从而制订出包赚不赔的保单价钱；雇主可能会雇佣或拒绝一些特定的雇员，以知足其私见；一些政府则可能加倍自动有用地对某些特定人群举行追踪、监控甚至迫害；在人种多元的国家，脸部特征数据的运算效果还可能造成对某些族群人士的不公正认知……

另有人以为，人脸识别会反过来影响人们的现实来往和信托关系。若是都知道自己的脸部特征会对自己将在社会上遭遇怎样的看待发生重大影响时，人们就会被训练成“演出大师”。长此以往，整个社会将陷入伟大的信托危机之中。

再好比，近几年来，基于 AI 手艺的 Deepfake 视频在网络上有泛滥之势，该手艺能够天生真切的假视频或音频片断，许多时刻足以乱真。这些真切的视频让人们发出“手艺无所不能”的赞叹，同时，也引发了更多的人对手艺滥用和不可控的担忧，甚至是恐惧。

Deepfake 的泛起实现了“以假乱真”的合成手艺

与恶搞娱乐和公益相比，Deepfake 更多地显示了手艺的“阴晦獠牙”。行使 Deepfake 伪造的演讲视频已经对马来西亚和加蓬的政治丑闻发生影响。

据 Deepfake 检测软件的 Deeptrace Labs 的一份讲述称，现在在线的 Deepfake 视频中有 96％是非自愿拍摄的“换头”色情片，片中人的脸往往被换成了女性名人的脸。这已经超出了恶搞的范围，触及违法的边缘。

禁用人脸识别？

凭据欧盟公布的白皮书内容，在未来的五年中，欧盟委员会将专注于数字化的三个要害目的：为人民服务的手艺；公平竞争的经济；开放、民主和可连续的社会，白皮书还提出一系列人工智能研发和羁系的政策措施，并提出确立“可信赖的人工智能框架”。

近年来，欧洲一直在追求在手艺政策方面强调公平和伦理。

欧洲内部市场和服务专员蒂森·布雷顿（Thierry Breton）示意，新律例将与《一样平常数据珍爱条例》(General Data Protection Regulation) 相媲美。这部影响深远的数据隐私法于 2018 年生效，也被称为史上最严数据珍爱法，对侵略网民隐私的违法企业，罚金最高可达 2000 万欧元（约合 1.5 亿元人民币）或者其全球营业额的 4%，以高者为准。律例出台不久，Facebook 和谷歌等美国企业也都成为 GDPR 法案下的第一批被告。

凭据新规，欧盟将建议克制在公开场合使用面部识别手艺，而且提到这些系统的运行将需要人的监视和审计。作为建议的一部分，欧盟还希望成员国任命相关部门监视人工智能政策规则的执行情况。

固然，这些划定吓坏了硅谷的公司。纵然 GDPR 这样的律例只针对欧洲，也往往具有全球影响。布雷顿示意:“与 GDPR 一样，我们有自己的规则，我们将在这里执行。他们将确保我们在欧洲珍视的小我私家和基本权利获得尊重。”

欧洲是世界上最大的工业大陆，只管人工智能等转型手艺被称为要害手艺，但人们普遍以为欧洲落后于美国，美国的生长由财力雄厚的科技巨头主导，而中国则是中央政府主导。现在，通过欧盟引入有关人工智能和面部识别等手艺数据网络透明度的规则，将领先迈出主要一步。

欧盟科技主管玛格丽特·维斯特格 ( Margrethe Vestager ) 在之前的新闻公布会上指出，该规则将涵盖自动驾驶汽车和生物识别 ID 等用途。欧盟以外想要在欧洲部署其手艺的公司，可能需要接纳详细步骤，例如使用欧洲数据集重新训练面部识别功效。欧盟希望积累在制造业，交通运输，能源和医疗保健等领域网络的数据，以珍爱民众利益，并加速欧洲自己的初创公司。

同时，欧盟将提议每年破费近 220 亿美元用于构建可以用作 AI 开发基础的新数据生态系统。该设计假设欧洲拥有大量的政府和工业数据，而且希望提供羁系和财政激励措施以汇总这些数据，然后这些数据将提供给赞成遵守欧盟律例的 AI 开发人员。

谷歌：支持政府羁系，但制订规则应郑重

谷歌 CEO Pichai 克日在布鲁塞尔举行的 Bruegel 智库组织的一次集会上说：“我以为政府和羁系律例应尽早解决此问题，并出台治理的框架划定，这是很主要的。”

“现在这样做可能会立竿见影，但也可能要守候一段时间才气奏效，届时我们才气真正思量若何使用它。使用这种手艺取决于政府制订的门路。”

Pichai 示意，羁系机构在起草规则时应郑重行事。欧盟委员会在该问题上公布的建议将在很大程度上决议人脸识别手艺未来在欧洲的运气。

微软：不应一刀切

相比之下，微软总裁 Brad Smith 对此表达了两点差别的看法，他以为，面部识别手艺在某些情况下是可以造福社会的，好比非政府组织可以使用它来寻找失踪的孩子。

Smith 说：“我真的不愿意讨论让人们禁用某项手艺，人脸识别手艺可以让久别的家人团圆。”

他还说，若是能有一个合理的选择，让我们能用“手术刀”，而不是“切肉刀”来解决这个问题，那就不要一刀切都禁了。

现在主要的是首先确定问题所在，然后制订规则，确保该手艺不会用于大规模监视。他以为，最终要让一项手艺变得更好的方式只有一种，就是多用，而不是禁用。

Faceboo：呼吁增强羁系

Facebook 首席执行官马克·扎克伯格（Mark Zuckerberg）克日还专门到访布鲁塞尔与 Vestager 会晤并讨论拟议的律例。扎克伯格在《金融时报》周末揭晓的看法文章中再次呼吁增强对 AI 和其他手艺的羁系，以辅助确立民众信托。

“我们需要更多的监视和问责，”扎克伯格写道。“人们需要感觉到，全球手艺平台是对某人的回应，因此羁系应该让企业在犯错时负担责任。”

据了解，民众有 12 周时间就这些划定揭晓谈论，欧盟委员会将在今年晚些时刻正式提出立法。

前进照样倒退？

白皮书标志着一个新历程的最先，这一历程可能指导针对人工智能系统及其企业的新立法。“这将使大规模（对人工智能的）监控合法化，”自力研究员斯蒂芬妮·黑尔博士说。

黑尔博士以为，委员会应暂停使用面部识别手艺多年，以便就若何或是否可以合乎道德地使用这类系统征询专家的意见。

而实际上，一些英国警员已经在公共场合使用面部识别系统。英国警方使用人脸识别摄像头监控威尔士足球比赛的人群时，一些球迷捂着脸抗议。这项手艺存在争议的一个迹象是，甚至一个相近警员局的负责人也示意否决这项手艺。

南威尔士警方在卡迪夫体育场外部署了装有人脸识别的货车，作为历久试验的一部分。在这个试验项目中，警方实时扫描球迷，并拘留因已往行为不端而被列入黑名单的任何人。维权人士和球队支持者在卡迪夫市和斯旺西城之间的比赛前举行了抗议，他们戴着口罩、头套或围巾。

“这与风险不相称，”威尔士足球支持者协会主席文斯·阿尔姆说，该协会辅助组织了这次抗议流动。“球迷们以为他们似乎被选中当做试验品。”

英国拥有世界上最高密度的监控摄像头之一，几十年来，英国平安部门一直在公开场合使用摄像头，然则在 2001 年 9 月 11 日之后，英国还遭遇了海内恐怖袭击。

伦敦大学学院 (University College London) 的迈克尔·维尔 (Michael Veale) 示意，这份白皮书是一个“错失生长机会的设计”。“它过于专注于伶仃的系统，而没有思量周围的环境、商业模式、它的用途，以及推动人工智能的经济和政治系统。”

Veale 博士弥补说，包罗 GDPR 在内的现有执法为防止滥用面部识别提供了珍爱，然则他以为，与其制订新的执法，不如把重点放在执行这些执法上。

他小我私家已经向羁系机构提交了针对科技公司的“几起”投诉，但他还没有被见告任何由此导致的行动。

数字权益组织 Access Now 的丹尼尔·洛伊弗 (Daniel Leufer) 也在 twitter 上发帖称，这份白皮书在面部识别和人工智能生物识别方面的内容“令人失望”地微弱。

也有些人对现在在人脸识别方面缺乏详细的建议示意迎接。

法国格勒诺布尔阿尔卑斯大学 (Grenoble Alpes) 的西奥多·克里斯塔基斯 (Theodore Christakis) 是法国国家数字委员会 (French National Digital Council) 的成员。他在采访中示意：“欧盟委员会需要更多时间来研究云云庞大的问题，并在这一领域郑重推进，这似乎是合理的。”

AI 未来何去何从？

凭据一份新的政府讲述，英国将不会设立专门的人工智能羁系机构，但需要对公共部门的使用和道德规范给予更明确的说明。

这份名为《人工智能与公共尺度:公共生活尺度委员会》的讲述称，政府“在开放性上失败了”，人们对“人工智能黑箱”的担忧在很大程度上是错误的。

讲述指出:“公共部门组织在使用人工智能方面不够透明，而且很难发现政府现在在哪些领域使用了机械学习。”

该讲述主张，“所有公营机构在提供公共服务前，应揭晓声明，说明使用人工智能是否相符有关法则及规例；不需要特定的人工智能羁系机构，但应建立羁系保证机构，以确定羁系领域的空缺，并就与人工智能相关的问题向个体羁系机构和政府提供建议”

IT 服务提供商 Insight 的手艺策略师亚历克斯·吉兰 (Alex Guillen) 在讲述公布后谈论称，“首先，公共部门需要记着，现在人工智能和机械学习等手艺的最有用使用，是为了提高而不是取代人类。辅助公共部门的事情人员做出更明智的决议，以改善公共服务。然而，无论人工智能若何应用于公共部门，它都需要被看成雇员看待——并给予需要的培训和信息，以完成其事情。”

Guillen 弥补说，“与任何依赖数据的手艺一样，垃圾输入意味着垃圾输出。从警务中的面部识别，到辅助国民保健服务 (NHS) 诊断和治疗病人，人工智能需要准确的数据和准确的治理，以制止造成比解决更多的问题。否则，任何执行都市受到道德问题和数据私见或歧视指控的困扰。”

在美国，一些政界人士对人脸识别软件的准确性和越来越多的使用也示意担忧。一些人脸识别手艺错误地识别了女性和有色人种，公民自由和隐私整体对若何网络这些项目的数据示意担忧。

但与欧盟的郑重作风差别，美国白宫在 2020 年 1 月 7 日提出 10 条人工智能羁系原则，要求制止联邦机构对人工智能应用的过分干预，强调羁系的灵活性。

其中，灵活性原则指出，大多数情况下，试图划定死板的人工智能应用规则是不切实际且无效的，由于人工智能将以预期的速率生长，机构需要对新的信息和证据做出反映。

熟悉此事的官员告诉《国防一号》(Defense One)，美国国防部 (Defense Department) 也将很快制订一套详细的规则，以治理若何开发和使用人工智能。2019 年 10 月，美国国防创新委员会 (DIB) 公布了一份规则草案，名为“关于人工智能的道德使用的建议”。

“国防部已经进入接纳人工智能原则的最后阶段，这些原则将在美国军方全面实施。”五角大楼团结人工智能中央 (Joint Artificial Intelligence Center) 发言人阿罗·亚伯拉罕森中校 (Lt. Cmdr. Arlo Abrahamson) 说。

DIB 的指导目标和附带的实现目标，远远超出了谷歌、Facebook 和微软等科技巨头公布的有关人工智能的简短而基本上是肤浅的愿景声明。一些人工智能和武器领域的伦理学家和学者对美国国防部接纳人工智能的新闻示意迎接，但他们弥补称，这方面另有进一步的事情要做，人工智能在军事上使用的风险和担忧仍将存在。

参考资料：

欧盟拟在公开场合禁用人脸识别五年，防止滥用. (n.d.). Retrieved February 24, 2020, from https://www.secrss.com/article/16692

EU plans new rules for AI but experts seek more detail. (2020, February 19). BBC News. https://www.bbc.com/news/technology-51559010

Pentagon to Adopt Detailed Principles for Using AI - Defense One. (n.d.). Retrieved February 24, 2020, from https://www.defenseone.com/technology/2020/02/pentagon-adopt-detailed-principles-using-ai/163185/?oref=d-channelriver

UK govt 'failing on openness' around public sector AI – but specific regulator not the answer—AI News. (n.d.). Retrieved February 24, 2020, from https://artificialintelligence-news.com/2020/02/11/uk-govt-failing-on-openness-around-public-sector-ai-but-specific-regulator-not-the-answer/

  

文章来自微信民众号：学术头条（ID：SciTouTiao）