Departamento de Polícia de Seattle Cancela Contrato de IA em Meio à Controvérsia Sobre Comentários Inapropriados de um Oficial

Recentemente, o Departamento de Polícia de Seattle (SPD) encerrou seu contrato com o provedor de serviço de inteligência artificial (IA) Truleo, especializado em analisar imagens de câmeras corporais. Esta decisão ocorre na sequência de um escândalo envolvendo o oficial Daniel Auderer e seus comentários inapropriados após a trágica morte de Jaahnavi Kandula, uma estudante de pós-graduação de 23 anos, em um acidente de carro da polícia. O incidente levantou questões sobre o uso de IA na polícia e a proteção da privacidade dos oficiais.

Software de IA da Truleo levanta preocupações

O software de IA da Truleo, projetado para analisar imagens de câmeras corporais, foi submetido a escrutínio pela aplicação do rótulo de “risco” de seu algoritmo. O software supostamente sinalizou vídeos contendo palavras-chave específicas, incluindo a palavra “morto”. Este sistema de rotulagem automatizado, destinado a identificar situações potencialmente problemáticas, gerou controvérsia sobre sua precisão e implicações para a privacidade.

Planos de renovação frustrados

Registros obtidos pelo veículo de notícias investigativas Open Vallejo revelaram que, até dezembro, o Departamento de Polícia de Seattle pretendia renovar seu contrato com a Truleo por mais dois anos. No entanto, este plano foi abruptamente interrompido quando Mike Solan, presidente da Guilda dos Oficiais de Polícia de Seattle (SPOG), tomou conhecimento do uso da Truleo pelo departamento. Solan confrontou o Chefe de Polícia de Seattle Adrian Diaz, desencadeando uma cascata de eventos que levou ao cancelamento do contrato.

Comentários controversos do oficial Auderer

A controvérsia começou quando o oficial Daniel Auderer foi designado para realizar um teste de embriaguez de rotina no oficial Kevin Dave, que havia sido envolvido em um acidente trágico com Jaahnavi Kandula. Os comentários gravados de Auderer durante uma ligação telefônica com o presidente da SPOG, Mike Solan, levantaram sérias preocupações. Auderer foi ouvido dizendo: “Ela está morta”, e sugeriu que um cheque de $11.000 deveria ser emitido, acrescentando: “Ela tinha 26 anos de qualquer maneira. Ela tinha valor limitado.” Esses comentários atraíram ampla condenação e provocaram indignação dentro e fora do departamento de polícia.

Resposta da união e preocupações sobre a privacidade dos oficiais

O presidente da SPOG, Mike Solan, expressou profunda preocupação sobre o uso de tecnologia de IA dentro do departamento, afirmando que os oficiais se sentiam como se estivessem sendo espionados. Ele enfatizou que a situação havia erodido a confiança entre os oficiais e a rotulou como um dos problemas mais significativos a afligir o departamento. A posição de Solan ressoou com muitos oficiais que se preocupavam com seus direitos de privacidade.

Um porta-voz do SPD reconheceu que o departamento inicialmente entrou em um projeto de demonstração de tecnologia com a Truleo, pretendendo validar sua funcionalidade por meio de um programa piloto limitado. No entanto, a decisão de descontinuar seu uso veio após defensores dos direitos de privacidade expressarem preocupações de que a IA também revisava imagens de civis. Além disso, tornou-se aparente que o sistema de IA tinha dificuldade em compreender nuances como sarcasmo e o contexto completo das interações, tornando sua análise largely ineficaz.

Duas cidades tomam uma posição

Seattle e Vallejo são as únicas duas agências de aplicação da lei conhecidas por terem encerrado seus contratos com a Truleo. Em ambos os casos, funcionários sindicais fizeram campanha contra a tecnologia, citando preocupações sobre a exposição potencial de comportamento problemático dos oficiais.

O papel da Truleo na polícia

A tecnologia de IA da Truleo processa vídeos de câmeras corporais para agências de polícia e aplicação da lei em todo o país. Seu propósito principal é automatizar a supervisão, facilitar o treinamento e promover o profissionalismo entre os oficiais. A IA pode sinalizar riscos potenciais quando os oficiais relatam ameaças, usam linguagem insultuosa ou se envolvem em comportamento não profissional. Ela pode até detectar tom, educação e gratidão, além de avaliar as explicações dos oficiais para prisões ou multas.

O SPD vinha utilizando os serviços da Truleo de 2021 até fevereiro de 2023, quando o contrato foi encerrado.

SPOG responde à indignação pública

Em resposta à indignação pública e protestos em torno do incidente, a Guilda dos Oficiais de Polícia de Seattle emitiu uma declaração em meados de setembro. A declaração enfatizou que o vídeo capturando os comentários do oficial Auderer retratava apenas um lado da conversa, implicando que havia mais detalhes e nuances a serem tornados públicos. A SPOG expressou confiança na capacidade do Escritório de Responsabilidade da Polícia de conduzir uma investigação minuciosa e justa sobre o assunto.

A controvérsia em torno do uso de tecnologia de IA pelo Departamento de Polícia de Seattle destaca a relação complexa entre os métodos modernos de policiamento e a proteção da privacidade dos oficiais, bem como o debate contínuo sobre o papel da IA na aplicação da lei. Resta ver como este incidente influenciará decisões futuras sobre o uso de IA no policiamento e os direitos de privacidade dos oficiais envolvidos.