라이트 에이드, FTC 합의에 따라 AI 얼굴 인식 기능 중단

 유명 약국 체인인 라이트 에이드(Rite Aid)는 절도 방지 조치의 일환으로 인공지능(AI) 기반 얼굴 인식 기술 사용을 중단하기로 합의했습니다. 이러한 결정은 연방거래위원회(FTC)와의 법적 합의 것이며, 인종 프로파일링 의혹이 제기된 가운데 이루어졌습니다. 2012년부터 사용된 해당 AI 시스템은 백인 고객보다 흑인, 라틴계, 아시아계 고객을 불균형적으로 표적으로 삼는 편향된 모습을 보였다는 의혹을 받고 있습니다.

인종 프로파일링 의혹으로 조치가 취해졌습니다

라이트 에이드(Rite Aid)의 인공지능 기반 얼굴 인식 기술 사용이 특정 인종 집단을 대상으로 한 인종 프로파일링 의혹으로 논란이 되고 있습니다. 특히, 이 시스템은 절도 가능성이 높은 고객을dent데 사용되었으며, 이러한 고객이 매장에 들어오면 직원들에게 알림이 전송되었습니다. 더욱 충격적인 것은 법률 문서에 제시된 증거에 따르면 유색 인종이 부당한 감시, 괴롭힘, 그리고 공개적인 망신을 당하는 경우가 더 빈번했다는 점입니다.

이른바 ‘흑인이라는 이유로 쇼핑하는 것’에 대한 차별은 오랫동안 지속되어 온 문제로, 흑인 쇼핑객이 매장에 들어서는 순간부터 근거 없는 의심, 끊임없는 감시, 그리고 부당한 절도 혐의를 받는 것을 의미합니다. 이러한 차별은 백인 고객을 위한 유사한 제품은 진열대에 그대로 두고 흑인 전용 헤어케어 및 미용 제품은 유리 진열장 안에 잠가두는 등의 관행으로까지 이어집니다.

라이트 에이드의 얼굴 인식 기술 오용은 일부 전문가들이 "소매업계 인종차별"이라고 부르는 현상의matic 사례를 보여주며, 인공지능이 인종 불평등을 강화하고 악화시키는 데 어떤 문제를 야기할 수 있는지를 부각시킨다.

AI의 편향성

메릴랜드 대학교 사회학과 교수이자 브루킹스 연구소 선임 연구원인 라숀 레이는 인공지능 기술이 다양성과 포용성이 부족한 환경에서 설계 및 개발되기 때문에 기존의 불평등을 그대로 반영하는 경우가 많다고 지적합니다. 일상적인 만남에 만연한 고정관념이 알고리즘에 그대로 반영될 때, 그 결과는 인간의 편견과 유사하게 인종적 고정관념을 영속시키는 안면 인식 기술로 이어진다는 것입니다.

무의식적으로 특정 집단을 특정한 특징이나 행동과 연관시키는 사고방식에 뿌리를 둔 암묵적 편견은 이 문제의 중요한 요인입니다. 소매 환경에서 이러한 편견은 종종 직원들이 데이터로 뒷받침되지 않는 방식으로 유색인종 쇼핑객을 절도 성향과 잘못 연관시키는 형태로 나타납니다. 미국에서 절도범의 대다수가 백인이라는 통계에도 불구하고, 인공지능 기술의 오용은 절도범의 대다수가 백인이라는 잘못된 인식을 계속해서 퍼뜨리고 있습니다.

상품 절도는 기업에 상당한 재정적 위험을 초래하지만, 라이트 에이드가 인공지능(AI)을 감시 수단으로 사용한 것은 의도치 않은 결과를 낳았습니다. 잘못된 표적이 된 유색인종 쇼핑객들은 모욕감을 느꼈고, 이는 매장의 매출 손실로 이어졌습니다. 특히 다른 쇼핑 선택지가 부족한 일부 지역 사회는 차별과 학대에tron하는 매장을 이용할 수밖에 없었습니다.

소매업을 넘어선 AI의 역할

편향된 AI의 영향은 소매업계를 넘어 치안 및 공공 안전에 미치는 영향에 대한 우려를 낳고 있습니다. 디트로이트에서 안면 인식 기술 오류로 인해 임신한 흑인 여성이 부당하게 체포된 사건과 같은 주목할 만한 사례들은 AI 기반 감시 시스템의 신뢰성에 대한 의문을 제기합니다.

퓨 리서치 센터의 데이터에 따르면 흑인dent들은 경찰의 얼굴 인식 기술에 대한 신뢰도가 가장 낮은 것으로 나타났습니다. 조사 대상 흑인의 거의 절반은 경찰관들이 인공지능 기반 기술을 악용하여 인종적으로 다양한dent지역보다 흑인과 라틴계 주민이 주로 거주하는 지역을 더 자주 감시할 것을 우려했습니다.

주의와 검사 촉구

올해 초, 미국 상원의원 5명은 미국 공항에서 교통안전청(TSA)의 얼굴 인식 기술 사용에 반대했습니다. 이들은 흑인과 아시아인이 백인 남성에 비해 해당 기술에 의해 잘못dent될 가능성이 훨씬 높다는 연구 결과를 근거로 들었습니다. 라이트 에이드(Rite Aid)는 연방거래위원회(FTC)와의 합의의 일환으로 향후 5년간 인공지능 기반 감시 시스템 사용을 중단하기로 했습니다. 전문가들은 다른 소매업체들도 이와 같은 조치를 취하여 해당 기술의 편견을 제거하기 위해 철저하고 반복적인 테스트를 실시해야 한다고 제안합니다.