面部识别技术与警务中的种族不平等

面部识别技术（FRT）再次受到审查，原因是人们担心它可能会加剧警务中的种族不平等。《科学美国人》在线最近进行的一项研究揭示了嵌入在FRT算法中的潜在偏见及其现实世界的后果。

该研究发现，使用自动面部识别的执法机构不成比例地逮捕黑人，这引发了对该技术公平性和可靠性的关键质疑。

FRT算法的缺陷

报告背后的研究人员认为，有几个因素导致了FRT对黑人社区不成比例的影响。一个主要担忧是算法训练数据集中缺乏多样性，这些数据集通常缺乏对黑人面孔的充分代表。这种缺陷可能导致在识别少数群体成员时出现不准确。

另一个促成因素是执法部门认为这些程序是万无一失的。对技术的过度依赖可能导致警官无条件信任FRT结果，即使结果有缺陷。 

此外，该研究表明，警官固有的偏见可能会放大FRT中的问题，导致错误逮捕并对无辜个人产生不利后果。

FRT误认现实世界后果的一个显著例子是Harvey Eugene Murphy Jr.的案件。这位61岁的祖父目前正在起诉Sunglass Hut的母公司，因为该店的面部识别技术错误地将他识别为抢劫犯。 

抢劫发生在德克萨斯州休斯顿的一家Sunglass Hut商店，两名持枪人员偷走了现金和商品。

休斯顿警方依靠FRT将Murphy确定为嫌疑人，尽管他在犯罪发生时居住在加利福尼亚州。他在返回德克萨斯州更新驾照时被逮捕。在狱中，Murphy声称他在浴室遭到三名男子的性侵犯，导致终身残疾。

虽然哈里斯县地区检察官办公室最终确定Murphy没有参与抢劫，但在他被拘留期间损害已经造成。他的律师认为，这个案例例证了FRT在实际应用中的固有缺陷和后果。

专家见解和行动呼吁

华盛顿大学的Ada Lovelace研究员和博士候选人Os Keyes断言，这些系统旨在自动化和加速现有的警察偏见，特别是针对已经边缘化或处于刑事司法系统中的人群。 

Keyes强调，FRT的负面后果既是不可避免的，也是令人恐惧的，强调需要对警务和FRT监管进行更广泛的改革。

《科学美国人》的研究人员指出，像亚马逊、Clearview AI和微软这样的私营公司通常开发执法机构使用的FRT算法。 

尽管深度学习技术取得了进步，但联邦测试显示，大多数面部识别算法难以准确识别人，尤其是那些非白人男性的人。

2023年，联邦贸易委员会（FTC）采取行动禁止使用FRT，禁止Rite Aid使用这项技术。Rite Aid曾根据FRT匹配错误地指控个人盗窃。在一件令人震惊的事件中，一名11岁的女孩因错误匹配而被Rite Aid员工拦截和搜查。

同样，底特律警察局因FRT错误识别孕妇Porcha Woodruff为汽车抢劫嫌疑人而面临诉讼。Woodruff当时怀孕八个月，并被错误地关押。

FTC承认，在使用FRT时，有色人种经常被误认。训练数据集中白人男性的过度代表导致算法偏差，导致黑人面孔被不成比例地标记为罪犯。这反过来导致无辜的黑人个体受到不公正的 targeting 和逮捕。

问责与改革呼吁

鉴于这些担忧，研究人员强调，开发FRT产品的公司需要在开发过程中优先考虑员工和图像的多样性。然而，他们也强调，执法机构必须批判性地审查其方法，以防止技术加剧种族差异和侵犯个人权利。

随着围绕面部识别技术的辩论继续，越来越清楚的是，需要进行全面的改革和监管，以解决其实施中的系统性问题。 

有缺陷的FRT算法的后果远远超出技术故障，影响个人的生活和福祉，特别是那些来自边缘化社区的人。