얼굴 인식 기술과 경찰 활동에서의 인종 불평등

얼굴 인식 기술(FRT)이 경찰 활동에서 인종 불평등을 악화시킬 수 있다는 우려로 다시 한번 scrutiny(감시/검토)를 받고 있습니다. Scientific American 온라인에서 수행한 최근 연구는 FRT 알고리즘에 내재된 잠재적 편향과 그 실제 세계의 결과에 대한 빛을 비췄습니다.

이 연구는 자동 얼굴 인식을 사용하는 법 집행 기관이 흑인 개인을 불균형적으로 체포한다는 사실을 밝혀냈으며, 이는 해당 기술의 공정성과 신뢰성에 대해 중요한 의문을 제기합니다.

FRT 알고리즘의欠陥

보고서의 저자들은 FRT가 흑인 커뮤니티에 불균형적인 영향을 미치는 데 기여하는 여러 요인이 있다고 주장합니다. 주요 우려 중 하나는 알고리즘의 학습 데이터셋에 다양성이 부족하여 종종 흑인 얼굴의 적절한 표현이 누락되어 있다는 점입니다. 이러한 결핍은 소수 집단의 개인을 식별하는 데 오류를 초래할 수 있습니다.

또 다른 기여 요인은 법 집행 기관이 이러한 프로그램이 결함이 없다고 믿는 것입니다. 기술에 대한 이러한 과도한 의존은 officers가 결함이 있는 경우에도 FRT 결과를 의심 없이 신뢰하게 만들 수 있습니다. 

더욱이, 이 연구는 officers의 내재된 편향이 FRT 내의 문제를 증폭시켜 무고한 개인에게 잘못된 체포와 해로운 결과를 초래할 수 있다고 제안합니다.

FRT 오식별의 실제 세계 결과에 대한 한 가지 주목할 만한 예는 하비 유진 머피 주니어(Harvey Eugene Murphy Jr.)의 사례입니다. 61세의 할아버지는 현재 Sunglass Hut의 모회사에 대해 소송을 제기하고 있으며, 이는 매장의 얼굴 인식 기술이 그를 강도범으로 잘못 식별했기 때문입니다. 

강도는 텍사스 휴스턴에 있는 Sunglass Hut 매장에서 발생했으며, 두 명의 무장한 개인이 현금과 상품을 훔쳤습니다.

휴스턴 경찰은 FRT에 의존하여 머피를 용의자로 식별했으며, 그는 당시 캘리포니아에 거주하고 있었습니다. 그는 운전 면허증을 갱신하기 위해 텍사스로 돌아왔을 때 체포되었습니다. 구치소에 있는 동안 머피는 화장실에서 세 명의 남성에 의해 성폭행을 당했으며, 이로 인해 인생을 바꿀 정도의 부상을 입었다고 주장합니다.

하리스 카운티 지방 검사 사무소는 결국 머피가 강도에 관여하지 않았다고 결정했지만, 구치소에 있는 동안 이미 피해가 발생했습니다. 그의 변호인단은 이 사례가 FRT의 본질적인欠陥과 실제 적용에서의 결과를 예시한다고 주장합니다.

전문가의 통찰과 행동 촉구

워싱턴 대학교의 아다 로블레이스 펠로우이자 박사 과정 학생인 오 키스(Os Keyes)는 이러한 시스템이 이미 소외되거나 형사 사법 시스템에 있는 개인, 특히 기존 경찰 편향을 자동화하고 가속화하도록 설계되었다고 주장합니다. 

키는 FRT의 부정적인 결과가 불가피하고 끔찍하며, 경찰 활동과 FRT 규제에 대한 광범위한 개혁이 필요하다고 강조합니다.

Scientific American의 연구원들은 아마존, 클리어뷰 AI, 마이크로소프트와 같은 민간 기업이 일반적으로 법 집행 기관이 사용하는 FRT 알고리즘을 개발한다고 강조합니다. 

딥러닝 기술의 발전에도 불구하고, 연방 테스트는 대부분의 얼굴 인식 알고리즘이 특히 백인 남성이 아닌 개인을 정확하게 식별하는 데 어려움을 겪는다는 것을 보여주었습니다.

2023년 연방거래위원회(FTC)는 라이트에이드(Rite Aid)가 이 기술을 사용하는 것을 금지함으로써 FRT 사용에 대한 조치를 취했습니다. 라이트에이드는 FRT 일치 결과를 기반으로 개인을 잘못 소매 절도 혐의로 기소했습니다. 한 가지 놀라운 사건에서 11세 소녀가 잘못된 일치로 인해 라이트에이드 직원에 의해 정지 및 수색당했습니다.

마찬가지로 디트로이트 경찰국은 FRT가 임산부인 포차 우드러프(Porcha Woodruff)를 차량 강도 용의자로 잘못 식별한 후 소송에 직면했습니다. 우드러프는 당시 임신 8개월이었고 불법적으로 구금되었습니다.

FTC는 인종 소수자가 FRT 사용 시 종종 잘못 식별된다고 인정했습니다. 학습 데이터셋에서 백인 남성의 과대표현은 편향된 알고리즘을 초래하여 흑인 얼굴을 범죄자로 불균형적으로 표시하게 만듭니다. 이는 무고한 흑인 개인의 부당한 표적 지정과 체포에 기여합니다.

책임과 개혁에 대한 촉구

이러한 우려를 고려할 때, 연구원들은 FRT 제품을 개발하는 회사가 개발 과정에서 직원과 이미지의 다양성을 우선시해야 한다고 강조합니다. 그러나 그들은 또한 법 집행 기관이 기술이 인종 격차를 악화시키고 개인의 권리를 침해하는 것을 방지하기 위해 그들의 방법을 비판적으로 검토해야 한다고 강조합니다.

얼굴 인식 기술을 둘러싼 논쟁이 계속됨에 따라, 그 구현의 체계적인 문제를 해결하기 위해 포괄적인 개혁과 규제가 필요하다는 것이 점점 더 명확해지고 있습니다. 

欠陥 있는 FRT 알고리즘의 결과는 기술적 결함을 훨씬 넘어 개인의 삶과 웰빙, 특히 소외된 커뮤니티에 속한 사람들에게 영향을 미칩니다.