A Rite Aid interrompe o reconhecimento facial por IA após acordo com a FTC

 A Rite Aid, importante rede de farmácias, concordou em interromper o uso da tecnologia de reconhecimento facial com inteligência artificial como parte de suas medidas de prevenção de furtos. Essa decisão surge em resposta a um acordo judicial com a Comissão Federal de Comércio (FTC) e em meio a alegações de discriminação racial. O sistema de IA, utilizado desde 2012, supostamente apresentava viés, visando desproporcionalmente clientes negros, latinos e asiáticos em relação aos clientes brancos.

Alegações de discriminação racial levam a medidas

A utilização da tecnologia de reconhecimento facial com inteligência artificial pela Rite Aid tem sido alvo de críticas devido à suposta prática de discriminação racial contra certos grupos. Especificamente, o sistema era empregado paradentclientes considerados propensos a furtos, acionando alertas para os funcionários da loja quando esses indivíduos entravam no estabelecimento. De forma alarmante, as evidências apresentadas em documentos judiciais sugerem que pessoas negras e pardas eram submetidas com mais frequência a vigilância injustificada, assédio e constrangimento público.

O chamado fenômeno "comprar sendo negro", uma preocupação antiga, envolve a suspeita injustificada, o monitoramento constante e as acusações injustas de roubo dirigidas a compradores negros desde o momento em que entram nas lojas. Essa questão se estende a práticas discriminatórias, como trancar produtos de cabelo e beleza para pessoas negras atrás de vitrines de vidro, enquanto itens semelhantes para clientes brancos ficam facilmente acessíveis em prateleiras abertas.

O uso indevido da tecnologia de reconhecimento facial pela Rite Aid evidencia um caso preocupante do que alguns especialistas chamam de "racismo no varejo", destacando o papelmatic que a IA pode desempenhar no reforço e agravamento das desigualdades raciais.

O viés na IA

Rashawn Ray, professor de sociologia na Universidade de Maryland e pesquisador sênior da Brookings Institution, destaca que as tecnologias de IA frequentemente refletem desigualdades existentes, uma vez que são projetadas e desenvolvidas em ambientes que carecem de diversidade e inclusão. Quando os mesmos estereótipos que permeiam os encontros cotidianos são codificados em algoritmos, o resultado é uma tecnologia de reconhecimento facial que perpetua estereótipos raciais, semelhante ao preconceito humano.

Os vieses implícitos, enraizados em atalhos mentais que inconscientemente associam certos grupos a características ou comportamentos específicos, são um fator significativo nesse problema. Em ambientes de varejo, esses vieses frequentemente se manifestam quando funcionários associam erroneamente clientes negros a tendências de furto sem respaldo em dados. Apesar das estatísticas indicarem que a maioria dos ladrões de lojas nos EUA são brancos, o uso indevido da tecnologia de IA continua a propagar a narrativa falsa sobre a maioria dos ladrões de lojas.

Embora o roubo de mercadorias represente um risco financeiro substancial para as empresas, a dependência da Rite Aid em inteligência artificial para vigilância levou a consequências não intencionais. Consumidores negros, que foram alvo de práticas discriminatórias injustas, sofreram humilhação, resultando em perda de receita para as lojas. Algumas comunidades, particularmente aquelas sem outras opções de compras, não tiveram escolha a não sertronestabelecimentos onde enfrentaram discriminação e abusos.

O papel da IA ​​além do varejo

As implicações da IA ​​tendenciosa vão além do setor varejista, com preocupações sobre seu impacto no policiamento e na segurança pública. Casos de grande repercussão, como a prisão injusta de uma mulher negra grávida em Detroit devido a erros na tecnologia de reconhecimento facial, levantam dúvidas sobre a confiabilidade dos sistemas de vigilância baseados em IA.

Dados do Pew Research Center revelam que osdentnegros demonstram a menor confiança na tecnologia de reconhecimento facial no policiamento. Quase metade dos negros entrevistados expressou preocupação com o fato de que os policiais poderiam usar indevidamente tecnologias baseadas em inteligência artificial para vigiar bairros predominantemente negros e latinos com mais frequência do que áreasdentracialmente diversas.

Apelos à cautela e à realização de testes

No início deste ano, cinco senadores americanos se opuseram ao uso da tecnologia de reconhecimento facial pela Administração de Segurança de Transportes (TSA) nos aeroportos dos EUA. Eles citaram um estudo que revelou que indivíduos negros e asiáticos tinham uma probabilidade significativamente maior de seremdenterroneamente por essa tecnologia em comparação com homens brancos. Como parte de um acordo com a Comissão Federal de Comércio (FTC), a Rite Aid se comprometeu a suspender o uso de sistemas de vigilância com inteligência artificial pelos próximos cinco anos. Especialistas sugerem que outras redes varejistas sigam o exemplo, realizando testes rigorosos e repetidos para eliminar vieses nessas tecnologias.