FTC和解後、Rite AidはAI顔認識技術の使用を中止

主要な小売ドラッグストアチェーンであるRite Aidは、万引き防止措置の一環として、AI搭載の顔認識技術の使用を中止することに合意しました。この決定は、連邦取引委員会（FTC）との法的和解への対応、および人種プロファイリングの告発を受けてなされました。2012年から採用されていたこのAIシステムは、バイアスを示し、白人の顧客と比較して黒人、ラテン系、アジア系の顧客を不当に多く標的にしていたとされています。

人種プロファイリングの告発による措置

Rite AidによるAI搭載の顔認識技術の使用は、特定の人種グループのプロファイリングを行ったとして非難を受けていました。具体的には、このシステムは窃盗を行う可能性が高い顧客を識別するために使用され、これらの個人が店舗に進入した際に従業員にマッチアラートを引き起こしました。法的文書で提示された証拠は、有色人種が不当な監視、嫌がらせ、公の恥辱をより頻繁に被っていたことを示唆しています。

「黒人としてのショッピング」と呼ばれる現象は、長年の懸念事項であり、店舗に入った瞬間から黒人顧客に対する不当な疑念、絶え間ない監視、そして不正な窃盗の告発を伴います。この問題は、黒人のヘアケアや美容製品をガラスキャビネットの奥にしまい込み、白人顧客向けの類似製品をオープンな棚に容易にアクセスできるようにするという差別的な慣行にも及びます。

Rite Aidによる顔認識技術の誤用は、一部の専門家が「小売における人種差別」と呼ぶ恐ろしい事例を浮き彫りにし、AIが人種的不平等を強化し悪化させる上で問題のある役割を果たし得ることを強調しています。

AIにおけるバイアス

メリーランド大学の社会学教授であり、ブルッキングス研究所のシニアフェローであるRashawn Ray氏は、AI技術は多様性と包摂性のない環境で設計・開発されることが多く、既存の不平等を反映することが多いと指摘しています。日常の出来事に行き渡っているのと同じステレオタイプがアルゴリズムにエンコードされると、その結果、人間のバイアスと同様に人種的ステレオタイプを永続させる顔認識技術が生み出されます。

特定のグループを特定の特性や行動と無意識に結びつける精神的なショートカットに根ざした暗黙のバイアスは、この問題の重要な要因です。小売環境では、これらのバイアスは、データで支持されていない窃盗傾向を有色人種の顧客と誤って関連付ける従業員として現れることがよくあります。米国の窃盗犯の大多数が白人であることを示す統計にもかかわらず、AI技術の誤用は、窃盗犯の大多数に関する誤った物語を継続的に流布し続けています。

商品の盗難は企業にとって大きな財務リスクをもたらしますが、Rite Aidが監視にAIに依存したことは意図しない結果を招きました。不当に標的にされた有色人種の顧客は屈辱を被り、店舗は収入を失いました。代替のショッピングオプションがないコミュニティ、特にそのようなコミュニティでは、差別や虐待に直面する店舗を利用する以外に選択肢がありませんでした。

小売業を超えたAIの役割

バイアスのあるAIの影響は小売業界を超えて広がり、警察活動や公共安全への影響について懸念が高まっています。Detroitで妊娠中の黒人女性が顔認識技術のエラーにより誤って逮捕されたような高プロファイルな事件は、AI搭載の監視システムの信頼性に対する疑念を呼び起こしています。

ピュー・リサーチセンターのデータによると、黒人の回答者は警察における顔認識技術に対して最も低い信頼を示しています。調査された黒人のほぼ半数が、警官がAI搭載の技術を使用して、人種的に多様な住宅地域よりも主に黒人およびラテン系の近隣地域をより頻繁に監視するためにこれらの技術を悪用する懸念を表明しました。

注意とテストの呼びかけ

今年初め、米上院議員5名は、米国空港における運輸保安局（TSA）の顔認識技術の使用に反対しました。彼らは、黒人およびアジア系の人々が白人男性と比較して、そのような技術によって誤って識別される可能性が著しく高いことを示した研究を引用しました。FTCの和解の一環として、Rite Aidは今後5年間、AI搭載の監視システムの使用を中止することにコミットしました。専門家は、他の小売業者もこれに従い、これらの技術におけるバイアスを排除するために厳格で反復的なテストを実施するよう提案しています。