ライトエイド、FTCとの和解を受けてAI顔認識を停止

 大手ドラッグストアチェーンのライトエイドは、万引き防止策の一環として、AIを活用した顔認識技術の使用を中止することに同意した。この決定は、 連邦取引委員会（FTC）との和解 、および人種プロファイリング疑惑を受けて行われた。2012年から運用されていたこのAIシステムは、黒人、ラテン系、アジア系の買い物客を白人よりも不当にターゲットにするといった偏った認識を示していたとされている。

人種プロファイリング疑惑が行動につながる

ライトエイドによるAI顔認識技術の活用は、特定の人種グループに対するプロファイリング疑惑により、厳しい監視の対象となっている。具体的には、このシステムは窃盗に関与する可能性が高いと判断された顧客をdentために使用され、これらの人物が店舗に入店すると、店舗従業員にアラートが通知される仕組みだった。しかし、法廷文書に示された証拠は、有色人種が不当な監視、嫌がらせ、そして公の場での羞恥行為に晒される頻度が高かったことを示唆しており、憂慮すべき事態となっている。.

長年の懸念事項である、いわゆる「黒人ショッピング」現象は、黒人の買い物客が入店した瞬間から、不当な疑い、絶え間ない監視、そして不当な窃盗の容疑をかけられることを意味します。この問題は、黒人向けのヘアケア製品や美容製品をガラスケースの奥に施錠する一方で、白人向けの類似品はオープンシェルフで容易に取り出せるようにしておくといった差別的な慣行にも及んでいます。.

ライト・エイドの顔認識技術の誤用は、一部の専門家が「小売業における人種差別」と呼ぶ憂慮すべき事例研究を強調し、人種的不平等を強化し、悪化させる上でAIが果たす問題matic ある役割を浮き彫りにしている。.

AIのバイアス

メリーランド大学の社会学教授であり、ブルッキングス研究所のシニアフェローでもあるラショーン・レイ氏は、AI技術は多様性と包摂性に欠ける環境で設計・開発されているため、しばしば既存の不平等を反映すると指摘しています。日常の出会いに浸透しているのと同じステレオタイプがアルゴリズムに組み込まれると、人間の偏見と同様に、人種的ステレオタイプを永続させる顔認識技術が生まれます。.

特定の集団を無意識のうちに特定の特徴や行動と結びつける精神的な近道に根ざした暗黙の偏見が、この問題の大きな要因となっています。小売業界では、こうした偏見は、従業員がデータに裏付けられていない窃盗傾向を有色人種の買い物客と誤って結びつけるという形で現れることがよくあります。米国では万引き犯の大半が白人であるという統計があるにもかかわらず、AI技術の誤用によって、万引き犯の大半に関する誤った情報が拡散され続けています。.

商品の盗難は企業にとって大きな経済的リスクとなるものの、ライトエイドが監視にAIを頼ったことで、意図せぬ結果が生じました。誤って標的とされた有色人種の買い物客は屈辱感を味わい、店舗の収益が減少する結果となりました。特に代替の買い物手段を持たないコミュニティでは、差別や虐待を受ける可能性のある店舗をtronするしか選択肢がありませんでした。.

小売業を超えたAIの役割

偏向したAIの影響は小売業界にとどまらず、警察や公共の安全への影響が懸念されています。デトロイトで妊娠中の黒人女性が顔認識技術のエラーによって不当逮捕された事件など、注目を集めた事例は、AIを活用した監視システムの信頼性に疑問を投げかけています。.

ピュー・リサーチ・センターのデータによると、黒人回答dentは警察における顔認識技術への信頼度が最も低いことが明らかになりました。調査対象となった黒人のほぼ半数が、警察官がAI搭載技術を悪用し、人種的に多様な居住地域よりも黒人やラテン系住民が多数をdent地域を監視するのではないかと懸念を示しました。.

注意と検査の呼びかけ

今年初め、5人の米国上院議員が、運輸保安局（TSA）による米国空港での顔認識技術の使用に反対しました。彼らは、黒人とアジア人は白人男性に比べて、こうした技術によってdentされる可能性が著しく高いことを示した研究結果を引用しました。FTCとの和解の一環として、ライトエイドは今後5年間、AIを活用した監視システムの使用を停止することを約束しました。専門家は、他の小売業者もこれに倣い、これらの技術におけるバイアスを排除するための厳格かつ反復的なテストを実施することを提案しています。.