FRT 알고리즘에 내재된 잠재적 편견과 그로 인한 실제적인 결과에 대해 조명했습니다
이 연구는 자동 얼굴 인식 기술을 사용하는 법 집행 기관이 흑인들을 불균형적으로 많이 체포한다는 사실을 밝혀냈으며, 이는 해당 기술의 공정성과 신뢰성에 대한 중요한 의문을 제기합니다.
FRT 알고리즘의 결함
보고서 작성에 참여한 연구진은 얼굴 인식 기술이 흑인 커뮤니티에 불균형적인 영향을 미치는 데에는 여러 요인이 있다고 주장합니다. 주요 문제점 중 하나는 알고리즘 학습 데이터 세트의 다양성 부족으로, 흑인 얼굴이 충분히 반영되지 않은 경우가 많다는 것입니다. 이러한 defi은 소수 집단 구성원을dent데 있어 정확도 저하로 이어질 수 있습니다.
또 다른 원인은 법 집행 기관이 이러한 프로그램이 절대 오류가 없다고 믿는 것입니다. 기술에 대한 이러한 과도한 의존은 경찰관들이 FRT 결과에 결함이 있더라도 의심 없이 신뢰하게 만들 수 있습니다.
더 나아가, 이 연구는 경찰관의 내재된 편견이 FRT 내의 문제점을 증폭시켜 부당한 체포와 무고한 사람들에게 해로운 결과를 초래할 수 있음을 시사합니다.
dent인식 기술의 오인으로 인한 실제적인 결과의 대표적인 사례는 하비 유진 머피 주니어의 경우입니다. 61세의 할아버지인 그는 선글라스 헛의 안면 인식 기술이 자신을 강도로 잘못dent했다며 해당 매장의 모회사를 상대로 소송을 제기했습니다.
텍사스주 휴스턴의 선글라스 헛 매장에서 두 명의 무장 강도가 cash 과 상품을 훔쳐 달아나는 사건이 발생했습니다.
휴스턴 경찰은 FRT(Friction Recognition Technology)를 통해 범행 당시 캘리포니아에 거주했던 머피를 용의자로dent. 그는 운전면허증 갱신을 위해 텍사스로 돌아오던 중 체포되었습니다. 머피는 구금 중 화장실에서 세 명의 남성에게 성폭행을 당해 평생 후유증을 남길 만한 부상을 입었다고 주장했습니다.
해리스 카운티 지방검찰청은 결국 머피가 강도 사건에 연루되지 않았다고 결론지었지만, 그가 구금되어 있는 동안 이미 피해는 발생했습니다. 그의 변호인들은 이 사건이 FRT(강도방지법)의 내재적인 결함과 그로 인한 실제적인 결과를 보여주는 대표적인 사례라고 주장합니다.
전문가 의견 및 실천 방안 제안
워싱턴 대학교의 에이다 러브레이스 펠로우이자 박사 과정생인 오스 키스는 이러한 시스템이 기존의 경찰 편견, 특히 이미 사회적으로 소외되었거나 형사 사법 제도에 연루된 사람들에 대한 편견을 자동화하고 가속화하도록 설계되었다고 주장합니다.
키예스는 FRT의 부정적인 결과가 불가피하고 끔찍하다는 점을 강조하며, 경찰 활동과 FRT 규제에 대한 보다 광범위한 개혁의 필요성을 역설합니다.
사이언티픽 아메리칸의 연구진은 아마존, 클리어뷰 AI, 마이크로소프트와 같은 민간 기업들이 법 집행 기관에서 사용하는 안면 인식 기술(FRT) 알고리즘을 개발하는 경우가 많다고 지적했습니다.
딥러닝 기술의 발전에도 불구하고, 연방 정부의 테스트 결과에 따르면 대부분의 얼굴 인식 알고리즘은 개인, 특히 백인 남성이 아닌 사람들을 정확하게dent하는 데 어려움을 겪는 것으로 나타났습니다.
2023년, 미국 연방거래위원회(FTC)는 Rite Aid의 FRT(손상 인식 기술) 사용을 금지하는 조치를 취했습니다. Rite Aid는 FRT 일치 결과를 근거로 개인을 절도 혐의로 잘못 기소한 사례가 있었습니다.dent, 11세 소녀가 잘못된 일치 결과 때문에 Rite Aid 직원에게 제지당하고 몸수색을 당한 사건은 매우 충격적이었습니다.
마찬가지로, 디트로이트 경찰서는 FRT(신원조회 시스템)의 오인으로 임신부인 포차 우드러프를 차량 강도 용의자로dent소송에 휘말렸습니다. 당시 임신 8개월이었던 우드러프는 부당하게 투옥되었습니다.
미국 연방거래위원회(FTC)는 얼굴 인식 기술(FRT)을 사용할 때 유색인종이 잘못dent되는 경우가 많다는 점을 인정했습니다. 훈련 데이터 세트에 백인 남성이 과도하게 포함되어 있어 알고리즘이 왜곡되고, 그 결과 흑인 얼굴이 범죄자로 잘못 분류되는 경우가 많다는 것입니다. 이는 결국 무고한 흑인들이 부당하게 표적 수사를 받고 체포되는 결과를 초래합니다.
책임 규명과 개혁을 요구하는 목소리
이러한 우려를 고려하여 연구진은 안면 인식 기술(FRT) 제품을 개발하는 기업들이 개발 과정에서 인력 및 이미지 다양성을 우선시해야 한다고 강조합니다. 그러나 동시에 법 집행 기관 역시 기술이 인종적 불평등을 심화시키고 개인의 권리를 침해하는 것을 방지하기 위해 자신들의 방법을 비판적으로 검토해야 한다고 강조합니다.
안면 인식 기술을 둘러싼 논쟁이 계속되는 가운데, 기술 도입에 따른 시스템적 문제들을 해결하기 위해서는 포괄적인 개혁과 규제가 필요하다는 점이 점점 더 분명해지고 있다.
결함 있는 FRT 알고리즘의 결과는 단순한 기술적 오류를 넘어 개인의 삶과 복지, 특히 소외된 공동체 구성원들의 삶에 심각한 영향을 미칩니다.
