今天 星期五
2020-06-08 19:30:10
人脸识别技术的出错率令人担忧

本文由AXEL团队编译

原文作者:Maya shwayder

原文标题:Police facial recognition tech could misidentify people at protests, experts say

即使你躺在自家沙发上,也有可能因抗议被捕。

怎么会呢?如果你居住地的辖区警察使用人脸识别软件来识别抗议者,这种情况很有可能发生。

专家告诉Digital Trends,大多数人脸识别技术都训练过识别白人男性面孔,也就是说非白人以及女性的出错率很高。

ImageWare Systems是与执法部门进行人脸识别合作的网络安全公司。其首席技术官David Harding表示,“实际上,人脸识别每次都是猜测最佳答案,正确率属于概率问题。只要你位于他们【执法部门或政府】使用人脸识别技术的区域,你就要担心自己是否被误认成别人。更糟的是,别人被误认成自己。”

针对抗议者部署人脸识别

越来越多的执法部门使用人脸识别技术。

据数字安全公司Surfshark,美国最近发生的警察杀害弗洛伊德事件引起民愤,明尼苏达州示威者走上街头抗议数天,警察仍在使用备受争议的人脸识别软件Clearview AI。

Clearview AI违反其服务条款,通过用户社交媒体获得用户照片,受到公众谴责。包括推特在内的众多公司均已发布禁止令。

Surfshark告诉Digital Trends,除了明尼苏达州外,纽约等州都还在使用Clearview AI软件。明尼苏达州华盛顿县,警察也在使用亚马逊Rekognition软件。

但是,明尼阿波利斯警察局在Digital Trends上发表声明,否认其拥有任何面部识别技术。

麻省理工学院同行评审研究发现,与其他类似软件相比,Rekognition识别女性和黑人的正确率很低。据《纽约时报》报道,该软件将女性误认为男性的比例高达19%。如果纳入肤色进行统计,错误率更高:有31%的黑人女性被标记为男性。

Surfshark新闻官Gabreille Hermier表示:“错误的人脸识别结果会引发冤假错案,因为事实证明,FRT【面部识别技术】难以在人群中侦查罪犯。”

不可靠系统

哈佛大学伯克曼•克莱因互联网与社会中心研究员兼斯坦福大学慈善与公民社会研究中心数字公民社会实验室客座研究员Mutale Nkonde表示,容易产生误报的人脸识别系统可能会让无辜者被捕。

Nkonde说:“警方利用其他罪犯的画像进行人脸识别训练。他们认为,如果一个人犯了罪,以后还会犯罪。首先,此举有违宪法。其次,这意味着如果你有抢劫被捕的经历,即使你最近没有抢劫,警察还是可以在之后发生抢劫事件后逮捕你,因为你的照片已录入系统,出现误报。”

Harding表示,非白人和女性“极有可能被误认”。他强调,将人脸识别作为大规模监控的唯一工具与在可控环境下使用画像、指纹和其他证据以及面部识别软件来发现特定嫌疑人的执法方式之间存在很大差异。

电子前哨基金会高级律师Saira Hussain表示,“即使人脸识别准确率达到100%,也不符合民主社会理念。因为人脸识别总有出错的时候。”

危险先例

批评人士认为,Eric Loomis案件就凸显了人脸识别技术的应用问题。

2013年,Loomis被捕后被判处六年监禁,这在很大程度上归因于一家私人安全公司软件的评估。《纽约时报》报道称,编写该算法的公司保留了该软件的所有权,即使该公司知道会使用该软件裁定被告服刑期。

这篇报道让人不寒而栗。抗议者和示威者担心在某些情况下警方有充分的监控理由。《基督科学箴言报》发现,有证据表明,在密苏里州弗格森Michael Brown枪击案后,发生了很多有关“黑人生命很重要”的抗议活动。2014年,芝加哥警方开始通过手机追踪用户。

Hussain表示,在围绕巴尔的摩Freddie Gray之死展开的抗议活动之后,2015年,警方再次通过手机监控用户活动。

他说:“执法人员利用人们的社交媒体动态识别抗议活动附近的人员、识别抗议者,然后以非相关指控逮捕他们。”

“目前,人们抗议的主题是种族不公。如果他们正面临州政府监管风险,那么有何民主性可言呢?