在与美国联邦贸易委员会达成和解后，来德爱停止使用人工智能面部识别技术

 知名连锁药店Rite Aid已同意停止使用人工智能面部识别技术来预防盗窃。此举是该公司 与美国联邦贸易委员会（FTC）达成法律和解 ，此前该公司被指控存在种族歧视。据称，自2012年以来投入使用的这套人工智能系统存在偏见，对黑人、拉丁裔和亚裔顾客的识别频率远高于白人顾客。

种族歧视指控引发行动

由于涉嫌对特定种族群体进行种族定性，Rite Aid公司使用人工智能面部识别技术的做法一直备受关注。具体而言，该系统被用于dent可能实施盗窃的顾客，并在这些人进入店内时向店员发出匹配警报。令人不安的是，法律文件中提供的证据表明，有色人种更容易遭受不必要的监视、骚扰和公开羞辱。.

所谓“黑人购物歧视”现象由来已久，指的是黑人顾客从进入商店的那一刻起，就遭受毫无根据的怀疑、持续的监视，甚至被不公正地指控偷窃。这种歧视性做法还包括将黑人顾客购买的护发和美容产品锁在玻璃柜里，而将类似的商品放在开放式货架上，方便白人顾客取用。.

Rite Aid滥用面部识别技术，凸显了一个令人不安的案例研究，一些专家称之为“零售种族主义”，强调了人工智能在强化和加剧种族不平等方面可能发挥的matic 作用。.

人工智能中的偏见

马里兰大学社会学教授、布鲁金斯学会高级研究员拉肖恩·雷指出，人工智能技术往往反映了现有的不平等现象，因为它们的设计和开发环境缺乏多样性和包容性。当日常生活中普遍存在的刻板印象被编码到算法中时，其结果就是面部识别技术会像人类偏见一样，延续种族刻板印象。.

隐性偏见源于人们无意识地将某些群体与特定特征或行为联系起来的思维捷径，是造成这一问题的重要因素。在零售环境中，这些偏见常常表现为员工错误地将有色人种顾客与盗窃趋势联系起来，而这种联系并没有数据支持。尽管统计数据显示，美国大多数商店扒手是白人，但人工智能技术的滥用仍在不断传播关于大多数商店扒手是白人的错误说法。.

虽然商品盗窃给企业带来巨大的经济风险，但Rite Aid对人工智能监控的依赖却导致了意想不到的后果。一些有色人种顾客被错误地列为监控目标，遭受羞辱，导致商店收入损失。一些社区，特别是那些缺乏其他购物选择的社区，别无选择，只能tron那些让他们遭受歧视和虐待的商店。.

人工智能在零售业之外的作用

人工智能偏见的危害远不止零售业，它对警务和公共安全的影响也令人担忧。一些备受瞩目的案例，例如底特律一名怀孕的黑人妇女因面部识别技术故障而被错误逮捕，引发了人们对人工智能监控系统可靠性的质疑。.

皮尤研究中心的数据显示，黑人受访dent对警务中使用面部识别技术的信任度最低。近一半受访的黑人表示担忧，认为警察会滥用人工智能技术，更频繁地监视以黑人和拉丁裔为主的社区，而不是种族多元化的dent区。.

呼吁保持谨慎并进行检测

今年早些时候，五位美国参议员反对美国运输安全管理局（TSA）在机场使用面部识别技术。他们援引一项研究指出，与白人男性相比，黑人和亚裔人士更容易被此类技术错误dent。作为与联邦贸易委员会（FTC）达成的和解协议的一部分，来德爱（Rite Aid）承诺在未来五年内暂停使用人工智能监控系统。专家建议其他零售商效仿，进行严格且反复的测试，以消除这些技术中的偏见。.