美国面部识别系统咋回事?认错黑人致其入狱,认白人比较准

(注:韦恩县检察官办公室在回应本文时表示,可能会撤销罗伯特·朱利安-博尔恰克·威廉姆斯的案件,并删除他的指纹数据。检察官金·沃西在一份声明中表示:“我们深表歉意。但这丝毫不能弥补威廉姆斯先生在监狱中度过的时间。”)

美国面部识别系统咋回事?认错黑人致其入狱,认白人比较准

今年1月的一个星期四下午,罗伯特·朱利安-博尔恰克·威廉姆斯坐在自己位于一家汽车用品公司的办公室里。当时他接到了底特律警察局的电话,让他到警察局自首。他一开始以为是恶作剧。

一小时后,当他把车停在密歇根州法明顿希尔区一个安静的住宅区的车道上时,一辆警车在他身后停下,把他堵在里面。两名警察下了车,当着他的妻子和两个年幼女儿的面,在他家门前的草坪上给威廉姆斯戴上了手铐。他的妻女极其不安。警察不肯说为什么要逮捕他,只给他看了一张纸,上面有他的照片,并写着“重罪逮捕令”和“盗窃罪”的字样。

他的妻子梅丽莎问警察,他要被带去哪里去。据她回忆,当时一名警官回答说:“你自己上网搜一下”。

警察开车把威廉姆斯送到一个拘留中心。他被拍了嫌疑犯大头照,提取了指纹和DNA,并被拘留了一夜。周五中午时分,两名警探把他带到审讯室,在桌上放了三张正面朝下的纸。

“你上一次去Shinola商店是什么时候?”据威廉姆斯回忆,其中一名警探问道。Shinola是一家高档精品店,在底特律时尚的中城街区销售手表、自行车和皮具。威廉姆斯说,2014年该店刚开张时,他和妻子曾去过。

这名警探把第一张纸翻过来。这是一张从监控视频中截取的静止图像,显示一名身材魁梧的男子站在一个手表展示台前。他身穿黑色衣服,头戴圣路易斯红雀队(注:美国职业棒球大联盟的球队之一,主场位于密苏里州的圣路易斯)的红色帽子。该店里价值3800美元的5只手表被盗。

“这是你吗?”这名警探问道。

第二张纸上是一张特写照片。照片很模糊,但显然不是威廉姆斯。他拿起照片,把它放在自己的脸旁。

“不,这不是我。”威廉姆斯说,“你以为所有的黑人都长得一样吗?”

威廉姆斯知道,他并没有犯下警察盘问他的罪行。当时坐在审讯室里,他还不知道的是,根据技术和法律专家的说法,他可能是已知的首个因面部识别算法匹配错误而被误捕的美国人。

一、一个有问题的系统:识别白人男性准确率高

一场关于警察执法中存在种族主义的全国性辩论正在激烈进行。在全国各地,数以百万计的人们不仅对个别警察的行为表示抗议,还抗议用于监控社区、确定起诉对象的系统性偏见。

美国警察使用面部识别系统已有二十多年的历史。麻省理工学院和美国国家标准与技术研究院最近的研究发现,虽然该技术对识别白人男性的准确率相对较高,但对其他人种的识别结果却不太准确,部分原因是用于开发基础数据库的图像缺乏多样性。

去年,在底特律举行的一场有关使用面部识别的公开听证会上,助理警察局长詹姆斯·怀特也提出了担忧。他说:“关于假性匹配的问题绝对是事实,而且是有据可查的。作为一个非裔男性,这让我感到担忧。”

本月,亚马逊、微软和IBM宣布将停止或暂停为执法部门提供面部识别服务。考虑到这几家公司在该行业并不占主流,这些表态在很大程度上只是象征性的。警察部门使用的面部识别技术是由那些并不家喻户晓的公司提供的,比如Vigilant Solutions、Cognitec、日本电气(NEC)、Rank One Computing和Clearview AI。

乔治城大学隐私与技术中心的律师克莱尔·加维曾撰文指出政府使用面部识别技术的问题所在。她认为,低像素的搜索图像(比如来自监控视频的颗粒状静止图像)应该被禁止使用,而且应该严格测试目前使用的识别系统的准确性和偏差。

加维说:“有的算法一般,有的算法很好,执法部门应该只采购算法好的面部识别系统”。

关于威廉姆斯在密歇根的经历,她补充说:“我强烈怀疑,这不是第一起因为系统认错人而以莫须有的罪行被误捕的案件了。这只是我们第一次知道有这种事。”

二、面部识别技术到底如何出错的?

美国面部识别系统咋回事?认错黑人致其入狱,认白人比较准

2018年10月,有人在底特律的一家Shinola商店盗走了5只手表,价值3800美元。

威廉姆斯的案件结合了有缺陷的技术和糟糕的警察工作,说明了面部识别技术是如何出错的。

Shinola商店盗窃案发生在2018年10月。据底特律警方的报告显示,防损公司Mackinac Partners的调查人员凯瑟琳·约翰斯顿看了商店的监控录像,并将一份副本发给了底特律警方。

5个月后,也就是2019年3月,密歇根州警方的数字图像审查员珍妮弗·库尔森将一张“调查图像”上传到了到该州的面部识别数据库。这是一张从视频中截取的照片,上面显示了一位戴着红雀队队帽的男子。数据库会据此绘制出该男子的面部,并在4900万张照片中搜索相似的面部特征。

该州的面部识别技术由一家名为DataWorks Plus的公司提供,价格为550万美元。该公司于2000年成立于南卡罗来纳州,其总经理托德·帕斯托里尼说,该公司最早提供的是嫌疑犯照片管理软件。2005年,该公司开始扩展产品线,增加了由外部供应商开发的面部识别工具。

当该公司其中一个分包商开发出了一种面部识别算法时,DataWorks尝试通过用该算法对系统中已有的低像素人像照片进行搜索,以判断其有效性。帕斯托里尼说:“我们已经测试出很多垃圾算法了”。他还表示,这些检查并不是“科学的”,该公司并没有正式衡量识别系统的准确性或偏差。

帕斯托里尼说:“我们已经成为这项技术的伪专家了”。

据帕斯托里尼和密歇根州警方发言人说,该州警察使用的DataWorks软件包含了日本科技巨头NEC和位于科罗拉多州的Rank One Computing公司开发的组件。2019年,这两家公司的算法都被纳入了一项针对100多个面部识别系统的联邦研究中。该研究发现,这两种算法都存在偏差,错误识别非裔美国人和亚裔面孔的次数是高加索人(即白人)面孔的10倍到100倍。

Rank One的首席执行官布伦丹·克莱尔表示,该公司已经开发了一种新的算法供美国国家标准与技术研究院审查,该算法“缩小了不同人种之间的准确性差异”。

在密歇根州警察局的库尔森对调查图像进行搜索后,系统会提供一排由NEC生成的匹配结果和一排来自Rank One的结果,以及这些照片它们的置信度。威廉姆斯的驾照照片也在匹配结果之列。库尔森把驾照照片作为 “调查线索报告”发给了底特律警方。

文件顶部用粗体大写字母写着:“这份文件不是一个确定的身份识别结果。这只是一个调查线索,不能作为可能的逮捕依据。”

这也是技术供应商和执法部门在为面部识别辩护时总是会强调的一点,即该技术只是案件中的一条线索,而不是确凿的证据。在逮捕威廉姆斯之前,调查人员可能会寻找他实施盗窃的其他证据,比如目击证人的证词、他手机上的定位数据或者证明他拥有嫌疑人所穿的衣服。

然而,底特律警方的报告显示,在这起案件中,调查人员只是将威廉姆斯的照片放入了他们制作的六套指认照片中,并拿给了Shinola的防损公司调查员约翰斯顿看,她认出了威廉姆斯就是视频里的人。(约翰斯顿对此拒绝置评。)

三、“我想是电脑搞错了”

美国面部识别系统咋回事?认错黑人致其入狱,认白人比较准

威廉姆斯在底特律拘留中心被拘留了30小时。

当记者向帕斯托里尼描述这个过程时,他吃了一惊。他说:“听起来从头到尾都很牵强”。

克莱尔对约翰斯顿在这个过程中扮演的角色提出了批评。他说:“我不确定他们是否有资格成为目击者,也不确定和事后看过同一段视频的其他人相比,是否要更倚重他们的经验。”NEC公司的发言人约翰·怀斯说:“单靠面部识别来匹配并不能作为确定性身份识别的手段”。

威廉姆斯坐在底特律警方审讯室里的那个星期五,是他42岁生日的前一天。那天早上,他的妻子给他的老板发了邮件,说他会因为家庭紧急情况而缺勤;这打破了他四年来的全勤记录。

据威廉姆斯回忆,当他把监控录像拿稳放在脸旁后,两名警探靠在椅子上,彼此对视。其中一名警探似乎很懊恼,对他的搭档说:“我想是电脑搞错了”。

他们又翻开第三张纸,那是另一张Shinola商店里出现的男子照片,这张照片就摆在威廉姆斯驾照的旁边。威廉姆斯再次指出,他们不是同一个人。

威廉姆斯问自己是否可以走了。“很遗憾,还不能。”一名警探说。

威廉姆斯在被捕30小时后一直被拘留到周五当晚,在缴纳了1000美元的个人保释金后获释。他在警察局外淋着雨等了30分钟,等他的妻子来接他。当他晚上10点回到家时,他五岁的女儿仍然醒着。女儿说,她之所以在等他,是因为他在被捕时说过,马上就会回家。

从那以后,她开始玩“警察和强盗”的游戏,指责父亲偷东西,坚持要把他“拘留”在客厅里。

四、得到美国公民自由联盟的帮助

美国面部识别系统咋回事?认错黑人致其入狱,认白人比较准

威廉姆斯和妻子梅丽莎以及女儿们在密歇根州法明顿希尔区的家中。

威廉姆斯一家联系了辩护律师,他们说,大多数律师都以为威廉姆斯有罪,并报出了约7000美元的价格来为他辩护。威廉姆斯的妻子是一名房地产营销总监和美食博主,她还给密歇根州的美国公民自由联盟发推文,该组织立即对此产生了兴趣。

(注:美国公民自由联盟是一个美国的大型非营利组织,总部设于纽约市,其目的是为了“捍卫和维护美国宪法和其他法律赋予的、这个国度里每个公民享有的个人的权利和自由”。该组织帮助那些公民自由和权利受到侵犯的人打官司。)

该组织的一位律师菲尔·马约尔说:“我们一直在积极努力,为面部识别敲响警钟。当它起作用时,是对个人隐私的威胁;当它无效时,是对每个人的种族主义威胁。我们知道有这样的事发生,但它们很难被关注到,因为人们通常不会意识到他们已经成为了糟糕的面部识别搜索技术的受害者。”

被捕两周后,威廉姆斯休了一天假前往韦恩县法院接受传讯。当案件被传讯时,检察官提出了撤销指控的动议,但是“保留权利”,这意味着威廉姆斯以后可能会再次受到指控。

(注:“保留权利”指当事人的法律权利或特权未受损害或丧失。当事人就同一争议以后还可以再次发起诉讼。)

检察官发言人玛丽亚·米勒说,2018年店内行窃发生时,有第二名证人也在这家店里,但没被要求看照片指认。她说,如果该证人将来进行了身份指认,检察官办公室将决定是否提出指控。

底特律警方发言人妮可·柯克伍德表示,目前该部门“接受检察官撤销案件的决定”。她还表示,该部门在2019年7月更新了面部识别政策,使其仅用于调查暴力犯罪。

她在另一份声明中说,该部门“不会仅仅根据面部识别进行抓捕。调查员查看了视频,采访了目击者,对照片进行了指认。”

周三,密歇根州的美国公民自由联盟向该市提出申诉,要求彻底撤销此案、向威廉姆斯道歉,并将其个人信息从底特律的犯罪数据库中删除。

马约尔在申诉中写道:“底特律警察局应该停止将面部识别技术作为调查工具,因为威廉姆斯的案件事实既证明了该技术存在缺陷,也证明了底特律警察局的调查人员没有能力使用这种技术。”

威廉姆斯的律师维多利亚·伯顿-哈里斯说,尽管她的当事人经历了这些事,但他还是“很幸运的”。

伯顿-哈里斯说:“至少他还活着。威廉姆斯是一个非常魁梧的人。作为一名辩护律师,我的经验是,当警察与魁梧的男性,特别是魁梧的黑人男性打交道时,他们会立即出于恐惧而采取行动。他们不知道如何缓和局势。”

“这件事令我感到羞耻”

威廉姆斯和他的妻子还没有向邻居们讲述发生了什么。他们不知道是否需要让女儿接受心理治疗。威廉斯的老板建议他不要把这件事告诉公司里的任何人。

威廉姆斯说:“我的母亲还不知道这件事。这不是件让我引以为傲的事。这件事令我感到羞耻。”

此后,他终于弄清楚了商店失窃那晚他在做什么。他当时正开车下班回家,在自己私密的Instagram上发了一段视频,因为车里想起了他喜欢的一首歌,是1983年由迷宫乐队和弗兰克·贝弗利演唱的《We Are One》。歌词是这样说的:

“我无法理解

为什么我们要这样对待对方

我们占用时间

玩傻傻的游戏”

他有不在场证明,底特律警方也已经核实过了。

未经允许不得转载:国际 » 美国面部识别系统咋回事?认错黑人致其入狱,认白人比较准

相关推荐