시애틀 경찰청, 경찰관의 부적절한 발언 논란 중 AI 계약 취소

최근 시애틀 경찰청(SPD)은 바디캠 영상을 분석하는 데 특화된 인공지능(AI) 서비스 제공업체 Truleo와의 계약을 해지했습니다. 이 결정은 23세 대학원생인 Jaahnavi Kandula가 경찰차 사고로 비극적으로 사망한 후 경찰관 Daniel Auderer의 부적절한 발언과 관련된 스캔들 이후 이루어졌습니다. 이 사건은 경찰 활동에서 AI 사용과 경찰관의 사생활 보호에 대한 의문을 제기했습니다.

Truleo의 AI 소프트웨어 우려 제기

경찰관 Auderer의 논란이 된 발언

갱신 계획 차질

탐사 뉴스 매체 Open Vallejo가 입수한 기록에 따르면, 시애틀 경찰청은 12월까지 Truleo와의 계약을 추가로 2년 동안 갱신할 의도가 있었습니다. 그러나 시애틀 경찰관 조합(SPOG)의 회장인 Mike Solan이 부서의 Truleo 사용 사실을 알게 되면서 이 계획은 갑자기 중단되었습니다. Solan은 시애틀 경찰청장 Adrian Diaz를 마주쳤고, 이는 계약 취소로 이어지는 일련의 사건들을 촉발했습니다.

오더러 경위의 논란이 된 발언

논란은 경찰관 Daniel Auderer가 Jaahnavi Kandula와 비극적인 사고를 낸 경찰관 Kevin Dave에 대한 일반적인 음주 운전 검사를 수행하도록 배정되면서 시작되었습니다. SPOG 회장 Mike Solan과의 전화 통화 중 Auderer의 녹음된 발언은 심각한 우려를 불러일으켰습니다. Auderer는 “그녀는 죽었다”라고 말하며 1만 1천 달러의 수표를 작성해야 한다고 제안하고, “어쨌든 그녀는 26세였다. 그녀는 제한된 가치만 있었다”라고 덧붙였습니다. 이러한 발언은 광범위한 비난을 받았고 경찰 내부와 외부 모두에서 분노를 자아냈습니다.

노조의 대응과 경찰관 사생활 우려

SPOG 회장 Mike Solan은 부서 내 AI 기술 사용에 대해 깊은 우려를 표명하며, 경찰관들이 감시당하는 것처럼 느꼈다고 말했습니다. 그는 상황이 경찰관들 사이의 신뢰를 훼손했으며 부서를 괴롭힌 가장 중요한 문제 중 하나라고 강조했습니다. Solan의 입장은 사생활 권리에 대해 우려하는 많은 경찰관들과 공감을 이루었습니다.

SPD 대변인은 부서가 처음에 Truleo와 기술 시연 프로젝트에 참여하여 제한된 파일럿 프로그램을 통해 그 기능을 검증할 의도가 있었음을 인정했습니다. 그러나 사생활 권리 옹호자들이 AI가 민간인 영상도 검토한다고 우려를 제기한 후 사용 중단이 결정되었습니다. 또한 AI 시스템이 아이러니나 상호 작용의 전체적인 맥락과 같은 뉘앙스를 이해하는 데 어려움을 겪어 분석이 largely ineffective하다는 사실이 밝혀졌습니다.

두 도시의 입장

시애틀과 발레호는 Truleo와의 계약을 해지한 것으로 알려진 유일한 두 개의 법 집행 기관입니다. 두 경우 모두 노조 관리들은 잠재적으로 문제적인 경찰관 행위의 노출에 대한 우려를 인용하며 이 기술에 반대하는 캠페인을 벌였습니다.

Truleo의 경찰 활동에서의 역할

Truleo의 AI 기술은 전국 경찰 및 법 집행 기관을 위해 바디캠 비디오를 처리합니다. 그 주요 목적은 감독을 자동화하고 코칭을 촉진하며 경찰관들 사이의 전문성을 증진하는 것입니다. AI는 경찰관이 위협을 전달하거나 모욕적인 언어를 사용하거나 비전문적인 행동을 할 때 잠재적인 위험을 플래그로 지정할 수 있습니다. 또한 어조, 정중함, 감사까지 감지할 수 있으며, 경찰관의 체포 또는 벌금에 대한 설명도 평가합니다.

SPD는 2021년부터 2023년 2월까지 계약이 해지될 때까지 Truleo의 서비스를 활용하고 있었습니다.

SPOG의 대중적 분노에 대한 대응

사건과 관련된 대중의 분노와 시위에 대응하여 시애틀 경찰관 조합(SPOG)은 9월 중순 성명을 발표했습니다. 이 성명은 Officer Auderer의 발언을 포착한 영상이 대화의 한쪽 측면만 보여줬다고 강조하며, 공개되지 않은 더 많은 세부 사항과 뉘앙스가 있음을 시사했습니다. SPOG은 경찰 책임 사무소가 이 사건에 대해 철저하고 공정한 조사를 수행할 수 있는 능력에 확신을 표명했습니다.

시애틀 경찰청의 AI 기술 사용과 관련된 논란은 현대 경찰 활동과 경찰관 사생활 보호 사이의 복잡한 관계, 그리고 법 집행에서 AI의 역할에 대한 지속적인 논쟁을 강조합니다. 이 사건이 경찰 활동에서 AI 사용과 관련된 미래 결정과 관련된 경찰관의 사생활 권리에 어떤 영향을 미칠지는 아직 지켜봐야 합니다.