Tecnologia de Reconhecimento Facial e Desigualdades Raciais na Aplicação da Lei

A Tecnologia de Reconhecimento Facial (FRT) voltou a ser alvo de escrutínio devido às preocupações de que possa exacerbar as desigualdades raciais na aplicação da lei. Investigação recente conduzida pela Scientific American online trouxe à luz os potenciais preconceitos embutidos nos algoritmos FRT e as suas consequências no mundo real.

O estudo revelou que as agências de aplicação da lei que utilizam o reconhecimento facial automatizado prendem desproporcionalmente indivíduos negros, levantando questões críticas sobre a equidade e a fiabilidade da tecnologia.

Falhas nos algoritmos de FRT

Os investigadores por trás do relatório argumentam que vários fatores contribuem para o impacto desproporcional da FRT nas comunidades negras. Uma das principais preocupações é a falta de diversidade nos conjuntos de dados de treino dos algoritmos, que frequentemente carecem de uma representação adequada de rostos negros. Esta deficiência pode levar a imprecisões na identificação de indivíduos de grupos minoritários.

Outro fator contributivo é a crença entre as forças da ordem de que estes programas são infalíveis. Esta dependência excessiva da tecnologia pode fazer com que os agentes confiem cegamente nos resultados da FRT, mesmo quando estes são falhos. 

Além disso, o estudo sugere que os preconceitos inerentes dos agentes podem amplificar os problemas dentro da FRT, levando a prisões erradas e consequências prejudiciais para indivíduos inocentes.

Um exemplo marcante das consequências no mundo real da identificação errada por FRT é o caso de Harvey Eugene Murphy Jr. O avô de 61 anos está atualmente a processar a empresa-mãe da Sunglass Hut após a tecnologia de reconhecimento facial da loja o ter identificado falsamente como um ladrão. 

O assalto ocorreu numa loja da Sunglass Hut em Houston, Texas, onde dois indivíduos armados roubaram dinheiro e mercadorias.

A polícia de Houston, confiando na FRT, identificou Murphy como suspeito, embora ele residisse na Califórnia na altura do crime. Ele foi preso ao regressar ao Texas para renovar a sua carta de condução. Enquanto estava na prisão, Murphy alega que foi assaltado sexualmente por três homens numa casa de banho, resultando em ferimentos que alteraram a sua vida.

Embora o escritório do Procurador Distrital do Condado de Harris tenha determinado que Murphy não estava envolvido no assalto, o dano já tinha sido feito durante o seu tempo na custódia. Os seus advogados argumentam que este caso exemplifica as falhas inerentes e as consequências da FRT na prática.

Perspetivas de especialistas e chamadas à ação

Os Keyes, uma Bolsista Ada Lovelace e candidata a PhD na Universidade de Washington, afirma que estes sistemas foram desenhados para automatizar e acelerar os preconceitos policiais existentes, particularmente contra indivíduos que já são marginalizados ou fazem parte do sistema de justiça criminal. 

Keyes enfatiza que os resultados negativos da FRT são inevitáveis e horríveis, sublinhando a necessidade de uma reforma mais ampla na aplicação da lei e na regulação da FRT.

Os investigadores da Scientific American destacam que empresas privadas como a Amazon, a Clearview AI e a Microsoft desenvolvem tipicamente os algoritmos de FRT utilizados pelas agências de aplicação da lei. 

Apesar dos avanços nas técnicas de aprendizagem profunda, os testes federais mostraram que a maioria dos algoritmos de reconhecimento facial tem dificuldade em identificar indivíduos com precisão, especialmente aqueles que não são homens brancos.

Em 2023, a Comissão Federal do Comércio (FTC) tomou medidas contra o uso de FRT, proibindo a Rite Aid de utilizar esta tecnologia. A Rite Aid tinha acusado erroneamente indivíduos de furto em lojas com base em correspondências da FRT. Num incidente alarmante, uma rapariga de 11 anos foi detida e revistada por um funcionário da Rite Aid devido a uma correspondência falsa.

Da mesma forma, o Departamento de Polícia de Detroit enfrentou uma ação judicial após a sua FRT ter identificado erroneamente uma mulher grávida, Porcha Woodruff, como suspeita de sequestro de veículos. Woodruff estava grávida de oito meses na altura e foi presa injustamente.

A FTC reconheceu que as pessoas de cor são frequentemente identificadas erroneamente ao usar a FRT. A super-representação de homens brancos nos conjuntos de dados de treino leva a algoritmos enviesados, resultando na marcação desproporcional de rostos negros como criminosos. Isto, por sua vez, contribui para o alvo injusto e a prisão de indivíduos negros inocentes.

Chamadas à responsabilização e reforma

À luz destas preocupações, os investigadores enfatizam a necessidade de as empresas que desenvolvem produtos de FRT darem prioridade à diversidade de pessoal e de imagens nos seus processos de desenvolvimento. No entanto, também sublinham que as agências de aplicação da lei devem examinar criticamente os seus métodos para evitar que a tecnologia exacerbe as disparidades raciais e viole os direitos dos indivíduos.

À medida que o debate sobre a tecnologia de reconhecimento facial continua, torna-se cada vez mais claro que uma reforma e regulação abrangentes são necessárias para abordar as questões sistémicas da sua implementação. 

As consequências dos algoritmos de FRT falhos estendem-se muito além de falhas técnicas, afetando as vidas e o bem-estar dos indivíduos, particularmente aqueles de comunidades marginalizadas.