Rite Aid在FTC和解后停止使用AI面部识别

著名的零售药店连锁公司Rite Aid已同意停止使用基于AI的面部识别技术作为其防盗措施的一部分。这一决定是对联邦贸易委员会（FTC）法律和解的回应，并伴随着种族定性的指控。自2012年以来使用的AI系统据称存在偏见，不成比例地针对黑人、拉丁裔和亚裔购物者，而非白人。

种族定性指控引发行动

Rite Aid使用基于AI的面部识别技术因其据称对某些种族群体进行定性而受到审查。具体来说，该系统用于识别被认为可能参与盗窃的顾客，当这些人员进入场所时触发匹配警报给商店员工。令人不安的是，法律文件中提出的证据表明，有色人种更频繁地遭受不必要的监视、骚扰和公开羞辱。

所谓的“黑人购物”现象是一个长期存在的问题，涉及从他们进入商店的那一刻起对黑人购物者进行不必要的怀疑、持续监视和不公正的盗窃指控。这个问题还延伸到歧视性做法，例如将黑人护发和美容产品锁在玻璃柜后面，而将类似物品放在白人顾客容易拿到的开放货架上。

Rite Aid对面部识别技术的滥用凸显了一个令人不安的案例研究，一些专家称之为“零售种族主义”，突显了AI在强化和加剧种族不平等方面可能扮演的有问题的角色。

AI中的偏见

马里兰大学社会学教授、布鲁金斯学会高级研究员Rashawn Ray指出，AI技术往往反映现有的不平等，因为它们是在缺乏多样性和包容性的环境中设计和开发的。当渗透日常遭遇的相同刻板印象被编码到算法中时，结果就是面部识别技术延续了种族刻板印象，类似于人类偏见。

隐性偏见植根于将特定群体与某些特征或行为无意识联系起来的心理捷径，是这一问题的重要因素。在零售环境中，这些偏见通常表现为员工错误地将有色人种顾客与缺乏数据支持的盗窃趋势联系起来。尽管统计数据表明，美国大多数扒手是白人，但人工智能技术的滥用仍在传播关于大多数扒手的错误叙事。

虽然商品盗窃给企业带来了巨大的财务风险，但 Rite Aid 依赖人工智能进行监控却导致了意想不到的后果。被错误针对的有色人种顾客遭受了羞辱，导致商店收入损失。一些社区，特别是那些缺乏其他购物选择的社区，别无选择，只能光顾那些让他们面临歧视和虐待的商店。

人工智能在零售之外的作用

有偏见的人工智能的影响超出了零售行业，人们担心其对警务和公共安全的影响。一些备受瞩目的案件，例如底特律一名怀孕的黑人女性因面部识别技术错误而被错误逮捕，引发了人们对人工智能监控系统的可靠性的质疑。

皮尤研究中心的数据显示，黑人受访者对面孔识别技术在警务中的应用信任度最低。近一半接受调查的黑人表示担心，警官会更频繁地使用人工智能技术监控以黑人和拉丁裔为主的社区，而不是种族多样化的居住区。

呼吁谨慎和测试

今年早些时候，五名美国参议员反对美国运输安全管理局（TSA）在美国机场使用面部识别技术。他们引用的一项研究显示，与白人男性相比，黑人和亚裔人士被此类技术错误识别的可能性显著更高。作为其与联邦贸易委员会（FTC）和解协议的一部分，Rite Aid 承诺在未来五年内暂停使用人工智能监控系统。专家建议其他零售商效仿，进行严格且反复的测试，以消除这些技术中的偏见。