디트로이트시는 오인 체포 사건 발생 후 안면 인식 기술에 대한 새로운 규정을 채택했습니다

금요일, 디트로이트시는 인공지능 기반 얼굴 인식 기술 사용에 대한 새로운 규정을 채택했습니다. 미국 시민 자유 연맹(ACLU)은 이 새로운 규정이 전국적인 표준이 되어야 한다고 밝혔습니다.

미국 전역의 법 집행 기관은dent에 따르면, 미국의 다른 지역에서는 Clearview AI와 같은 도구를 사용하여 인터넷, 특히 소셜 미디어 사이트에서 수집한 사진을 검색합니다 보도 .

얼굴 인식 기술이 잘못된 일치 결과를 제공했습니다 

2020년 1월, 로버트 윌리엄스라는 시민이 디트로이트 교도소에 수감되었습니다. 그는 얼굴 인식 시스템이 그를 범인으로 지목했다는 이유로 디트로이트 경찰에 체포되었습니다. 하지만 시스템의 일치 결과는 잘못되었고, 윌리엄스는 소송을 당했습니다. 그는 30시간 동안 교도소에 갇혀 있었습니다.

관련 기사: 상원의원들, 공항에서의 얼굴 인식 기술 제한 촉구

6월 28일, 윌리엄스는 부당 체포에 대한 법적 합의의 일환으로 디트로이트 경찰국으로부터 개선 약속을 받았습니다. 미국 시민자유연맹(ACLU)은 윌리엄스를 결함 있는 얼굴 인식 시스템 때문에 부당하게 체포된 첫 번째 사례로 제시했습니다. 윌리엄스는 다음과 같이 말했습니다

"이것이 상황을 긍정적인 방향으로 이끌어주기를 바랍니다."

얼굴 인식 시스템의dent로 인해 다른 두 명도 체포되었습니다. 임신 8개월 차인 포차 우드러프도 차량 절도 혐의로 부당하게 기소되어 체포된 사람들 중 한 명이었습니다.

경찰은 이제 얼굴 인식 이상의 증거가 필요합니다

시에서 새롭게 도입한 중요한 규칙은 얼굴 인식 시스템으로dent확인된 사람의 사진을 목격자에게 더 이상 보여줄 수 없다는 것입니다. 다만, 신원이dent된 개인이 범죄와 연관되어 있다는 추가 증거가 있는 경우에는 예외적으로 허용됩니다.

미국시민자유연맹(ACLU)의 변호사 필 메이어는 "사진을 찍어 용의자 식별 절차에 넣는 방식은 이제 끝날 것"이라고 말하며, 다음과 같이 덧붙였다

"이번 합의를 통해 디트로이트 경찰은 안면 인식 기술을 오용한 가장 대표적인 사례에서 벗어나, 해당 기술 사용에 대한 안전장치를 마련한 전국적인 선도 기관으로 거듭나게 되었습니다."

윌리엄스 씨는 자재 공급 회사에서 근무하던 중 발생한 소매 절도 혐의로 부당하게 체포되었다는 점을 기억해야 합니다. 그의 지문과 DNA도 채취되었고, 그는 변호를 위해 변호사를 고용해야 했습니다. 우드러프 씨는 아이들을 학교에 보낼 준비를 하던 중 체포되었습니다. 그녀 또한 시를 상대로 소송을 제기했으며, 현재 재판이 진행 중입니다.

경찰은 강력 범죄 수사에 인공지능 기반 기술을 활용할 것입니다

경찰은 안면 인식 기술이 강력한 도구로서 범죄 해결에 도움이 된다고 밝혔습니다. 그러나 많은 도시에서 인종 차별과 사생활 침해 우려 때문에 이 기술의 사용을 금지했습니다. 디트로이트 경찰은 기술 오류로 인해 세 건의 부당 체포를 한 것으로 알려졌습니다. 하지만 시 관계자들은 새로운 규정이 이러한 오용을 방지할 것이라고 말했습니다. 

관련 기사: 스캔 금지 – 얼굴 인식은 시민의 자유를 위협하는가?

시 관계자들은 인공지능 기술의 잠재력에 대해 여전히 낙관적입니다. 그들은 이 기술을 주택 침입, 폭행, 살인과 같은 중범죄에 활용할 것이라고 밝혔습니다. 그러나 디트로이트 경찰서장 제임스 화이트는 경찰관들이 기술에 지나치게 의존하고 있다고 지적하며, 기계보다는 경찰관들의 판단력 부족을 문제의 원인으로 꼽았습니다.

경찰이 더 이상 얼굴 인식만을 근거로 개인의 얼굴을 공개할 수 없다는 규칙에 대해 범죄정보부의 라모로 씨는 다음과 같이 말했습니다

"용의자 대면 심문을 진행하기 전에, 관련성이 없는 다른 증거가 있어야 충분한 근거가 마련됩니다."

라모로 씨는 이제 경찰이 단순히 외모만 비슷한 것으로는 부족하다고 말했습니다. 그는 위치 정보를 파악하기 위해 휴대전화에 위치 정보를 태그하거나 DNA 증거를 확보하는 등의 조치가 필요할 것이라고 덧붙였습니다.

새로운 규정에 따르면 경찰은 얼굴 검색 결과와 사진 화질을 공개해야 합니다. 디트로이트 경찰 부서장인 헤이즈 씨는 새로운 규정에 대해 자신감을 표하며dent신고를 줄이는 데 도움이 될 것이라고 말했습니다. 그러나 그는 "dent쌍둥이처럼 여전히 오류가 발생할 수 있는 몇 가지 경우가 있다"고 지적했습니다

아미르 셰이크의 Cryptopolitan 보도