A cidade de Detroit adota novas regras para tecnologia de reconhecimento facial após prisões errôneas

Na sexta-feira, a cidade de Detroit adotou novas regras para o uso de tecnologia de reconhecimento facial baseada em IA. a União Americana das Liberdades Civis (ACLU) diz que o novo conjunto de regras deve ser um padrão nacional.

Agências de aplicação da lei em todo os Estados Unidos usam tecnologia de reconhecimento facial baseada em IA para ajudar a identificar criminosos capturados em câmeras. Em Michigan, o sistema de IA compara novos rostos aos do banco de dados de fotos de prisão ou imagens de licenças de dirigir. Em outras regiões dos EUA, ferramentas como a Clearview AI são usadas para pesquisar fotos raspadas da internet, especialmente sites de redes sociais, de acordo com um relatório do The New York Times.

Tecnologia de reconhecimento facial forneceu correspondências erradas 

Um cidadão, Robert Williams, foi preso na cadeia de Detroit em janeiro de 2020. Ele foi preso pelo Departamento de Polícia de Detroit porque o sistema de reconhecimento facial sugeriu que ele era o culpado. A correspondência do sistema estava errada, e Williams processou a cidade. Ele passou 30 horas na cadeia.

Também leia: Senadores pedem restrições ao uso de tecnologia de reconhecimento facial em aeroportos

Em 28 de junho, Williams recebeu um compromisso do Departamento de Polícia de Detroit de que eles melhorariam como parte de um acordo legal sobre sua prisão injusta. A União Americana das Liberdades Civis apresentou o Sr. William como o primeiro indivíduo preso injustamente devido ao sistema defeituoso de reconhecimento facial. Williams disse:

“Esperamos que isso mova a agulha na direção certa.”

Duas outras pessoas também foram presas com base na identificação do sistema defeituoso de reconhecimento facial. Uma mulher grávida de oito meses, Porcha Woodruff, também estava entre as acusadas injustamente de roubo de carro.

A polícia agora precisa de provas além do reconhecimento facial

Uma nova regra importante adotada pela cidade é que as fotos de pessoas identificadas pelo sistema de reconhecimento facial não podem mais ser mostradas a testemunhas oculares. Isso só seria permitido se houvesse provas adicionais conectando o indivíduo identificado ao crime.

O advogado da ACLU, Phil Mayor, disse: “O processo de pegar uma foto, colocá-la em uma linha de identificação, terminará.” Ele acrescentou:

“Este acordo transforma o Departamento de Polícia de Detroit de um dos maiores usuários documentados de tecnologia de reconhecimento facial em um líder nacional na implementação de salvaguardas para seu uso.”

É importante lembrar que o Sr. Williams foi preso injustamente por um crime de furto em varejo que ocorreu quando ele estava trabalhando em sua mesa em uma empresa de suprimentos. Suas impressões digitais e DNA também foram coletados e ele teve que contratar um advogado para sua defesa. A Sra. Woodruff foi presa quando estava preparando seus filhos para a escola. Ela também processou a cidade e o caso está em tribunal.

A polícia usará tecnologia baseada em IA para crimes graves

A polícia disse que a tecnologia de reconhecimento facial ajuda a resolver crimes, pois é uma ferramenta poderosa. No entanto, muitas cidades proibiram seu uso devido a preocupações com viés racial e privacidade. A polícia de Detroit é acusada de ter cometido três prisões injustas devido à tecnologia defeituosa. No entanto, os funcionários da cidade disseram que as novas regras impediriam o uso indevido. 

Também leia: Ban the Scan – O Reconhecimento Facial é uma Ameaça às Liberdades Civis?

Os funcionários da cidade permanecem otimistas sobre o potencial da tecnologia de inteligência artificial. Eles disseram que a usariam para crimes mais graves, como invasões de domicílio, agressão ou homicídio. James White, chefe de polícia de Detroit, disse que seus oficiais confiavam demais na tecnologia. Ele culpou o julgamento deles em vez da máquina.

Falando sobre a regra pela qual a polícia não pode mais mostrar o rosto de um indivíduo apenas com base no reconhecimento facial, o Sr. Lamoreaux, da unidade de inteligência criminal, disse:

“Precisa haver algum tipo de evidência corroborativa secundária não relacionada antes que haja justificativa suficiente para ir à linha de identificação.”

Lamoreaux disse que a polícia agora precisaria de mais do que apenas uma semelhança física da pessoa. Ele disse que seria necessário geolocalizar o telefone da pessoa para determinar a localização ou evidências de DNA.

De acordo com as novas regras, a polícia terá que divulgar a pesquisa facial junto com a qualidade da foto. O vice-chefe de polícia de Detroit, Sr. Hayes, demonstrou confiança nas novas regras. Ele disse que elas ajudariam a reduzir as identificações erradas. No entanto, ele apontou que “ainda há algumas coisas que podem falhar, por exemplo, gêmeos idênticos.”

Reportagem da Cryptopolitan por Aamir Sheikh