Rite Aid Cessa Reconhecimento Facial por IA Após Acordo com a FTC

A Rite Aid, a proeminente rede de farmácias varejistas, concordou em descontinuar o uso de tecnologia de reconhecimento facial baseada em IA como parte de suas medidas de prevenção de furtos. Essa decisão ocorre em resposta a um acordo judicial com a Comissão Federal de Comércio (FTC) e em meio a alegações de perfil racial. O sistema de IA, empregado desde 2012, supostamente apresentava um viés, direcionando desproporcionalmente compradores negros, latinos e asiáticos em comparação com seus homólogos brancos.

Alegações de perfil racial levam à ação

O uso da tecnologia de reconhecimento facial baseada em IA pela Rite Aid tem sido alvo de escrutínio devido às suas alegadas práticas de perfil de certos grupos raciais. Especificamente, o sistema era usado para identificar clientes considerados propensos a cometer roubos, acionando alertas de correspondência para os funcionários da loja quando esses indivíduos entravam no estabelecimento. Perturbadoramente, as evidências apresentadas em documentos legais sugerem que pessoas de cor eram mais frequentemente submetidas a vigilância injustificada, assédio e constrangimento público.

O chamado fenômeno “comprar sendo negro”, uma preocupação de longa data, envolve a suspeita injustificada, o monitoramento constante e as acusações injustas de roubo direcionadas a compradores negros desde o momento em que entram nas lojas. Esse problema se estende a práticas discriminatórias, como trancar produtos de cuidados capilares e beleza para negros atrás de armários de vidro, enquanto itens semelhantes para clientes brancos permanecem acessíveis em prateleiras abertas.

O uso indevido da tecnologia de reconhecimento facial pela Rite Aid destaca um caso perturbador do que alguns especialistas chamam de “racismo no varejo”, destacando o papel problemático que a IA pode desempenhar ao reforçar e exacerbar as desigualdades raciais.

O viés na IA

Rashawn Ray, professor de sociologia da Universidade de Maryland e pesquisador sênior da Brookings Institution, aponta que as tecnologias de IA frequentemente refletem desigualdades existentes, pois são projetadas e desenvolvidas em ambientes que carecem de diversidade e inclusão. Quando os mesmos estereótipos que permeiam os encontros cotidianos são codificados em algoritmos, o resultado é uma tecnologia de reconhecimento facial que perpetua estereótipos raciais, semelhante ao viés humano.

Os vieses implícitos, enraizados em atalhos mentais que inconscientemente associam certos grupos a características ou comportamentos específicos, são um fator significativo nesse problema. Em ambientes de varejo, esses vieses muitas vezes se manifestam como funcionários associando erroneamente compradores de cor a tendências de roubo não apoiadas por dados. Apesar das estatísticas indicarem que a maioria dos ladrões de lojas nos EUA são brancos, o uso indevido da tecnologia de IA continua a propagar a falsa narrativa sobre a maioria dos ladrões de lojas.

Embora o roubo de mercadorias represente um risco financeiro substancial para as empresas, a dependência da Rite Aid na IA para vigilância levou a consequências não intencionais. Compradores de cor, que foram injustamente visados, sofreram humilhação, resultando em perda de renda para as lojas. Algumas comunidades, particularmente aquelas que carecem de opções alternativas de compras, não tiveram escolha a não ser frequentar estabelecimentos onde enfrentavam discriminação e abuso.

O papel da IA além do varejo

As implicações da IA tendenciosa se estendem além do setor de varejo, com preocupações sobre seu impacto na polícia e na segurança pública. Casos de alta escala, como a prisão errônea de uma mulher negra grávida em Detroit devido a erros na tecnologia de reconhecimento facial, levantam dúvidas sobre a confiabilidade dos sistemas de vigilância baseados em IA.

Dados do Pew Research Center revelam que os respondentes negros exibem a menor confiança na tecnologia de reconhecimento facial na polícia. Quase metade dos indivíduos negros entrevistados expressaram preocupações de que os oficiais usariam indevidamente tecnologias baseadas em IA para vigiar bairros predominantemente negros e latinos com mais frequência do que áreas residenciais racialmente diversas.

Chamados por cautela e testes

No início deste ano, cinco senadores dos EUA se opuseram ao uso de tecnologia de reconhecimento facial pela Administração de Segurança dos Transportes (TSA) nos aeroportos dos EUA. Eles citaram um estudo que revelava que indivíduos negros e asiáticos tinham significativamente mais probabilidade de ser identificados incorretamente por essa tecnologia em comparação com homens brancos. Como parte de seu acordo com a FTC, a Rite Aid comprometeu-se a suspender o uso de seus sistemas de vigilância baseados em IA pelos próximos cinco anos. Especialistas sugerem que outros varejistas sigam o exemplo, realizando testes rigorosos e repetidos para eliminar vieses nessas tecnologias.