Domando a discriminação da IA ​​de uma forma antrópica: persuadindo-a.

O potencial da tecnologia de IA é frequentemente mencionado em diversos meios de comunicação, mas, por trás dos benefícios, esconde-se um lado sombrio onde as fronteiras entre progresso e preconceito se tornam perigosamente tênues.

A discriminação por parte da inteligência artificial é um problema insidioso que ameaça agravar as desigualdades sociais existentes e levanta questões éticas profundas sobre o futuro da tecnologia.

As raízes do viés: dados, design e erro humano?

Os algoritmos de IA são tão bons quanto os dados com os quais são treinados. Infelizmente, grande parte dos dados usados ​​no desenvolvimento de IA está repleta de vieses, refletindo os preconceitos inerentes à sociedade humana. Esses vieses podem ser baseados em raça, gênero, idade, religião, condição socioeconômica e outros fatores. 

Quando dados tendenciosos são inseridos em um algoritmo, o resultado é um sistema de IA que perpetua e amplifica esses vieses, levando a resultados discriminatórios.

O próprio design dos modelos pode introduzir viés. Por exemplo, softwares de reconhecimento facial demonstraram ser menos precisos nadentde pessoas de cor. Da mesma forma, algoritmos usados ​​em aprovações de empréstimos ou candidaturas a empregos podem, inadvertidamente, desfavorecer certos grupos com base em critérios tendenciosos.

O erro humano também é responsável. Os programadores, cientistas de dados e outros indivíduos envolvidos no desenvolvimento de sistemas de IA não estão imunes aos seus próprios vieses. Esses vieses podem, inconscientemente, influenciar o projeto e a implementação de algoritmos, agravando ainda mais o problema da discriminação por IA.

Táticas da Anthropic para impedir a discriminação por IA

Curiosamente, também podemos reduzir respostas tendenciosas da IA ​​por meio do ato de persuasão.  

A Anthropic, uma das principais empresas de IA, realizou recentemente um teste que demonstrou que as pessoas podem persuadir modelos de IA a produzir respostas imparciais por meio de estratégias de estímulo, como adicionar a frase "discriminação é ilegal" às suas perguntas. Basicamente, você precisa instruir o modelo a garantir respostas imparciais. 

Embora essa estratégia pareça reduzir a discriminação nas decisões dos modelos de IA em áreas como empréstimos, empregos, pedidos de indenização de seguros e outras, trata-se apenas de uma solução temporária que aborda os sintomas, não a causa raiz do problema.

Enfrentar esse desafio exige um esforço colaborativo entre tecnólogos, formuladores de políticas, pesquisadores, organizações da sociedade civil e indivíduos. 

Poderíamos mergulhar de cabeça na questão dos vieses nos dados, o que é crucial. Isso exige a diversificação dos conjuntos de dados e o emprego de técnicas como algoritmos de redução de viés. Além disso, desenvolvedores e designers devem ser treinados paradente mitigar vieses em seu trabalho.

Estruturas regulatórias robustas são igualmente necessárias para garantir o desenvolvimento e a implementação ética dos modelos. Estabelecer diretrizes claras para a coleta de dados, o design de algoritmos e o uso de IA em processos críticos de tomada de decisão pode ajudar a controlar resultados discriminatórios provenientes de modelos de IA.