人脸识别登上Nature封面！看脸的世界，AI却心怀偏见

编者按：本文来自微信公众号“新智元”（ID:AI_era），作者：新智元，来源：Nature，36氪经授权发布。

面部识别系统早已在机场、火车站和智能手机上使用，但它们的应用范围正日益扩大到公共和私人空间。本期Nature探讨了这项技术的力量和缺陷。从误判到隐私、道德与人权，面部识别是否被滥用了呢？

人在家中坐，锅从天上来。

威廉姆斯正在密歇根州底特律的家中，一通电话打进来：我们是警察局的，已经掌握了你盗窃的事实，你可以投案自首。

他不以为然，直到一小时后，警车驶来，在妻子和女儿的面前，威廉姆斯被戴上了手铐，以「盗窃罪」被逮捕。

茫然而愤怒的威廉姆斯被押上了警车。

在审讯室，威廉姆斯才知道了自己「犯案」的过程：偷盗了当地的高档商品店铺，偷走了5只价值3800美元的手表。

威廉姆斯当然喊冤，一位老老实实的上班族又怎么可能去偷东西呢？

可警察接下来拿出来的「证据」，却让他有口难辩。

这是一张监控画面的截图：画面中的男子身穿黑色衣服，头戴红色帽子，那是一顶圣路易斯红雀队的队帽。

画面中的人与威廉姆斯唯一相同的点就是：他们是身材相似的黑人。

「这不是我！你以为所有黑人都长一样吗？」威廉姆斯愤怒地质问道。

 「电脑说是你。」警察说。

根据人脸识别算法，系统给威廉姆斯定了罪。

人脸识别技术不只在底特律的警察局使用，事实上，这已经成为警察办案的重要工具。

而且，深受警察们信任。

故事中的主人公威廉姆斯被证明了清白，因为他有比面部识别更强有力的证据——不在场证明。

但疑问也来了，面部识别真的奏效吗？毕竟，误判的后果会给被害人带来不可弥补的伤害。

2016年至2019年间，伦敦的首都警察实验室测试了实时面部识别技术，他们在一辆警车的控制室里监控一些试验。

「这就像你在电影里看到的一样，」 达拉格·默里说，他是尔切斯特埃塞克斯大学的一名法律学者。当摄像机扫描购物中心和广场上的路人时，图像会传回货车内的电脑。

系统在人脸周围画出矩形，并在直播中识别出人脸。然后提取出关键特征，并将其与观察名单中的嫌疑人进行比较。如果有匹配，它就会从直播中提取图像，同时从观察列表中提取图像。

图源：《编码偏见》

在查看对比结果后，警方会决定是否冲出去阻止这名「嫌疑人」，或者逮捕他们。

该系统由总部位于东京的科技巨头 NEC 销售，该软件标记出了42个人；警察以「不可信」为由驳回了16个，但还是冲出去阻止了其他人。最后，其中4人在人群中消失了。在剩下的22人中，有8人被证明是的确有罪的。

警察们认为，考虑到系统已经扫描了成千上万张面孔，其准确率还是不错的。

2018年，计算机科学家 Timnit Gebru、当时还在纽约市微软研究院的 Joy Buolamwini 发表了一篇开创性的论文。他们发现，在识别女性和有色人种的性别方面，领先的面部识别软件包的表现要比识别男性和白人的表现差得多。

这引起了人们对面部识别的巨大争议。

今年6月，全球最大的科学计算机协会——位于纽约市的计算机协会敦促私人和政府暂停使用人脸识别技术，理由是「基于民族、种族、性别和其他人类特征的明显偏见」。

十年前，「深度学习」被引入这个领域以来，从那时起，人脸识别的准确性已经有了很大的提高。

但是，这是否意味着它足够好，可以用于低质量的「野外」图像，是一个极具争议的问题。

这大多数都涉及一个多阶段的过程，使用深度学习来训练大量数据集上的大规模神经网络来识别模式。

人脸识别系统通过分析人脸的几何形状来生成「faceprint」，这是一种可以用来识别或确认一个人的生物特征识别系统。另一种用法是面部分析，通过性别、年龄、种族、情绪等标签，给一张面孔下定义。

典型系统中的第一阶段，定位图像中的一个或多个人脸。

监控摄像头拍摄的人脸，可能会在不同的光照条件下从不同的角度观看，这使得他们比标准护照照片更难识别。算法将在数百万张照片上进行训练，以定位人脸上的「标志」 ，比如眼睛、鼻子和嘴巴，它将信息提炼成一个简洁的文件，大小从小于100字节到几千字节不等。

接下来的任务是将面部「正常化」 ，人为地将其旋转成一个正面、光线充足的图像。这样就产生了一组面部特征，可以与从现有的面部数据库中提取的特征进行比较。这通常包括在受控条件下拍摄的照片，比如警察的哑照。由于特征表示是紧凑的、结构化的文件，计算机可以快速扫描数以百万计的文件以找到最接近的匹配。

将人脸与大型数据库(称为一对多识别)进行匹配是人脸识别系统的两种主要类型之一。另一个是一对一的验证，这是一个相对简单的任务，确保一个人符合自己的照片。它可以应用于任何事情，从解锁智能手机到国家边境的护照检查。

在进行了一些对比试验后，得出结论: 大多数数据包对白人男性面孔的准确度往往高于对有色人种或女性面孔。特别是，在数据库中被归类为非洲裔美国人或亚洲人的面孔，被错误识别的可能性是被归类为白人的面孔的10-100倍。女性也比男性更容易出现假阳性。

另外，户外、光线不好或者图像颗粒状可能会影响匹配率。

在一对一的验证方面，例如确认护照或智能手机的合法拥有者，人工智能已经变得极其准确，甚至与眼睛最敏锐的人类一样娴熟。

在这个领域，前沿的研究目前集中在侦测恶意攻击上。例如，用于解锁手机的面部识别系统，很容易被照片欺骗。

「3D 面部识别效果更好。」Jain 说，「但现在最大的挑战是高质量的面具。」在一个项目中，Jain 和他的合作者正在通过运用皮肤纹理来检测出「假面孔」。

但是，正如默里所发现的那样，一对多的验证却并没有想象中那么简单。尽管有了足够多的观察名单，但被标记为假阳性的数量很容易超过真实的结果。

今年一月在英国加的夫举行的一场足球比赛中，抗议面部识别的横幅(在2019冠状病毒疾病流感大流行之前)。

当警察通过面部识别监测犯罪行为，必须迅速做出阻止某人的决定时，这个问题就显现出来。而在缓慢的调查中，面部识别同样也会发生错误。

文章开头所说的威廉姆斯被警察的面部识别办案系统误判的事情，就是一个典型的例子。

美国公民自由联盟的律师菲尔 · 梅耶尔认为，这项技术应该被禁止。「这种方法行不通，即使它行得通，对于政府来说，如果没有令人信服的结果，用这种方法来监视自己的公民仍然是非常危险的。」

在美国公民自由协会的投诉发生后不久，底特律警察局长詹姆斯 · 克雷格承认：如果该软件单独使用，「96% 的情况下」会错误识别案件。

出于对种族偏见和歧视的担忧，在过去的18个月里，至少有11个美国城市禁止公共部门进行面部识别。但底特律警方仍在使用这项技术。

2019年底，警方采取了禁止直播监控的政策，并且规定只对静态图像和用于刑事调查的一部分动态图像使用该软件。

「而威廉姆斯是在该政策实施前被捕的」克雷格在6月份时说。

面部识别分析的其他方面研究，比如试图根据一个人的面部表情推断出他的性格，则更具争议性。

研究人员已经证明，这种方法并不奏效ーー即使是最好的软件也只能根据人猜测的图像进行训练。

但是世界各地的公司仍然在购买未经证实的技术，这些技术被一些企业用在面试中，根据求职者谈话的视频评估求职者的个性。

阿利坎特的计算机科学家纽里亚 · 奥利弗认为，政府应该规范面部识别和其他潜在技术的使用，以防止滥用。

奥利弗是一家名为欧洲学习与智能系统实验室(European Laboratory for Learning and Intelligent Systems)的区域网络的联合创始人兼副总裁。他表示:

「系统在未经适当评估其性能，没有经过验证和再现性的情况下就被广泛使用，后果是难以预测的。」

一些法规提案要求当局建立准确性标准，并要求人类审查任何算法的结论。

但是，渥太华互联网基金会 Mozilla 的技术研究员、专门审计面部识别系统的德博拉?拉吉(Deborah Raji)表示：基于 NIST 基准的标准本身太低，不足以证明部署该技术是合理的。

Deborah Raji 专长于审计面部识别系统

今年，Raji，Buolamwini 和 Gebru等人发表了另一篇有关商业系统性能的论文，他们指出，尽管一些公司在对浅肤色和深肤色面孔进行性别分类方面有所改进，但他们仍然无法准确猜测一个深肤色面孔的年龄。

「目前的评估过程非常不成熟，每当我们建立了一个新的评估维度，我们就会发现，这个行业的表现并不像它认为的那样。」Raji 表示。

「重要的是，公司应该更多地披露它们如何测试和训练面部识别系统，并与使用该技术的社区进行磋商。」

纽约大学人工智能研究所的法律学者 Amba Kak 认为，技术标准不能阻止面部识别系统被用于歧视性用途。

「这些系统是否会成为警务中普遍存在的歧视做法的另一个工具? 」卡克补充说，「人类操作员往往最终只是确认系统的偏差，而不是纠正它。」

诸如苏格兰场的外部审查等研究表明，人类往往高估这项技术的可信度，即使他们看到了电脑的虚假匹配旁边的真实面孔。

Kak和其他人支持暂停使用任何面部识别技术，这不仅是因为该技术还不够好，还因为需要就如何防止其被滥用进行更广泛的讨论。

默里表示，「这项技术将得到改善，但是人们仍然怀疑对无辜的人们进行永久搜索的合法性，以及把人们列入观察名单的标准。」

对隐私、道德和人权的担忧正在增长。

印度有世界上最大的生物识别计划，其中涉及使用面部识别来建立名为Aadhaar的巨型国家身份证系统。

生活在印度的任何人都可以去Aadhaar中心拍照，系统会将该照片与13亿人的现有记录进行比较，以确保申请人尚未使用其他名称进行注册。

「这是一个令人难以置信的体系，」曾担任该体系顾问的贾恩表示，「它的美妙之处在于，它确保了一个人只有一个身份证。」

但批评人士称，这项法案将非身份证持有者变成了二等公民。还有人称，这项法案被用来在选举前将合法公民从选民名单中清除。

纽约大学(New York University)计算机科学家、现代人工智能研究所(AI Now Institute)联席主任凯特?克劳福德(Kate Crawford)表示:

「在历史的这一点上，我们需要更加怀疑那些声称我们需要更加精确的公共监控形式的说法。」

2019年8月，克劳福德呼吁政府暂停使用面部识别算法。

但与此同时，在宣布其试点项目成功后，苏格兰场在一月份宣布，它将开始在伦敦各地部署实时面部识别系统。