챗봇은 법정에 준비되어 있는가? 경찰관들이 범죄 보고서 작성을 위해 AI 사용

오클라호마시티 경찰은 사건 보고서 생성을 위해 인공 지능(AI) 실험을 시작했습니다. Axon이 제공하는 Taser라는 이 기술은 경찰관들이 서류 작업에 보내는 시간을 줄이고 실제 경찰 활동에 더 많은 시간을 할애할 수 있도록 설계되었습니다. 

새로운 도구는 ChatGPT에서 사용되는 생성형 AI 모델의 확장입니다. 바디캠의 오디오를 녹음하면 사건 초기 보고서를 몇 초 만에 생성할 수 있습니다. 오클라호마시티 경찰의 Matt Gilmore 상사는 최근 용의자를 오랫동안 찾던 중 이 기술을 테스트할 기회를 가졌습니다. 

AI 기술이 보고서 작성을 가속화하고 경찰관들의 시간을 절약

인공 지능이 단 8초 만에 생성한 보고서는 정확하고 포괄적였으며, Gilmore 상사가 기억하지 못했던 사실까지 언급했습니다. 

이러한 변화는 일반적으로 데이터 입력에 많은 시간을 보내는 경찰관들에게 환영받고 있습니다. Axon의 CEO Rick Smith는 경찰관들이 경찰관이 된 이유는 서류를 작성하기 위함이 아니라 경찰 업무를 수행하기 위함이라고 말했습니다. 이 문제는 Draft One을 통해 사건을 기록하는 빠르고 효율적인 방법을 제공함으로써 해결됩니다. 

경찰관들이 보고서 생성에 AI를 사용하는 것에 대해 기대감을 나타내는 반면, 검사관, 감시 단체 및 지역 사회 활동가 등 다른 이해 관계자들은 우려를 표명했습니다. 주요 우려는 AI가 생성한 보고서가 잘 검증되지 않을 경우 형사 사법 시스템에 편향을 초래할 수 있다는 점입니다. 지방 검사는 경찰관들이 법원에서 보고서를 방어해야 할 수 있으므로 보고서를 계속 자신의 것으로 간주해야 한다고 제기했습니다. 

오클라호마시티에서는 이 도구가 경미한 사건에만 사용되며, 체포, 중범죄 또는 폭력 범죄가 관련된 상황에는 적용되지 않습니다. 이러한 신중한 접근 방식은 AI의 성능과 영향에 대해 더 많은 것이 알려질 때까지 높은 위험과 민감한 사안에 AI가 관여하는 것을 피합니다. 

그러나 오클라호마시티가 여전히 다소 신중한 반면, 인디애나주 라파예트와 콜로라도주 포트콜린스와 같은 다른 도시들은 이 기술을 더 적극적으로 채택했습니다. 라파예트에서는 경찰관들이 모든 사건에 Draft One을 사용할 수 있으며, 포트콜린스에서는 소음 수준이 낮은 경우와 같은 특정 상황에서만 채택됩니다. 

캐나다 입법, AI 규제 고려

법 집행에서의 AI는 논란의 여지가 없습니다. 지역 사회 활동가들은 Axon이 테이저 제조사와의 연관성을 가지고 있다는 점과 함께 AI의 인종적 편견 가능성에 대해 우려를 표명했습니다. 일부 비판자들은 AI가 소수 그룹에 대한 감시와 프로파일링 문제를 악화시킬 뿐이라고 지적했습니다. 

캐나다에서는 AI의 미래에 큰 영향을 미칠 수 있는 새로운 입법이 검토되고 있습니다. 온타리오주에서 논의 중인 두 가지 입법은 온타리오주의 Bill 194(공공 부문 사이버 보안 강화 및 신뢰 구축 법)과 인공 지능 및 데이터 법(AIDA)을 법제화하려는 연방 Bill C-27입니다.

모든 법안이 AI 사용 통제에 목적이 있지만, 그중 어느 것도 법 집행 기관이 AI를 어떻게 사용하는지 논의하지 않습니다. 캐나다의 경찰은 사적实体와의 협력을 통해 소유자 및 운영자로서 AI를 운영에 통합했습니다.