Estudo de IA Revela Viés Racial Persistente em Modelos de Linguagem

Em um estudo conduzido por pesquisadores do Allen Institute for AI, da Universidade de Stanford e da Universidade de Chicago, surgiram revelações sobre o viés racial embutido em populares modelos de linguagem grande (LLMs), incluindo o GPT-4 e o GPT-3.5 da OpenAI.

O estudo, detalhado em uma publicação no servidor de pré-impressão arXiv, concentrou-se em investigar como esses LLMs respondem a diferentes dialetos e expressões culturais, particularmente o Inglês Americano Afro-americano (AAE) e o Inglês Americano Padrão (SAE). Por meio de uma série de experimentos, os pesquisadores alimentaram documentos de texto em AAE e SAE em chatbots de IA, solicitando que inferissem e comentassem sobre os autores.

Os resultados foram alarmantes, revelando um viés consistente nas respostas dos modelos de IA. Textos em AAE foram consistentemente recebidos com estereótipos negativos, retratando os autores como agressivos, grossos, ignorantes e suspeitos. Por outro lado, textos em SAE elicaram respostas mais positivas. Esse viés se estendeu além dos traços de personalidade, influenciando as capacidades profissionais e as percepções sobre a situação legal.

Implicações em diversas profissões e arenas legais

Quando questionados sobre carreiras potenciais, os chatbots associaram textos em AAE a empregos de menor salário ou campos estereotipicamente ligados a afro-americanos, como esportes ou entretenimento. Além disso, os autores de textos em AAE frequentemente foram sugeridos como mais propensos a enfrentar repercussões legais, incluindo sentenças mais severas, como a pena de morte.

Curiosamente, quando solicitados a descrever afro-americanos em termos gerais, as respostas foram positivas, usando adjetivos como “inteligente”, “brilhante” e “apaixonado”. Essa discrepância destaca a natureza matizada do viés, que emerge seletivamente com base no contexto, particularmente em relação a suposições sobre o comportamento ou características dos indivíduos com base no uso de sua linguagem.

O estudo também revelou que, quanto maior o modelo de linguagem, mais pronunciado é o viés negativo em relação aos autores de textos em Inglês Americano Afro-americano. Essa observação levanta preocupações sobre a escalabilidade do viés em sistemas de IA, indicando que simplesmente aumentar o tamanho dos modelos de linguagem, sem abordar as causas raiz, pode exacerbar o problema.

Desafios no desenvolvimento ético da IA

Esses resultados destacam os desafios significativos enfrentados no desenvolvimento de sistemas de IA éticos e imparciais. Apesar dos avanços tecnológicos e dos esforços para mitigar o preconceito, vieses enraizados continuam a permeiar esses modelos, refletindo e potencialmente reforçando estereótipos sociais.

A pesquisa enfatiza a importância da vigilância contínua, conjuntos de dados diversos e metodologias de treinamento inclusivas para criar uma IA que sirva a toda a humanidade de forma justa. Serve como um lembrete nítido da necessidade crítica de abordar o viés de forma abrangente no desenvolvimento de IA para garantir resultados equitativos para todos os indivíduos.

O estudo ilumina um aspecto crítico do desenvolvimento de IA, instando as partes interessadas a confrontar e abordar o viés para construir um cenário tecnológico mais justo e equitativo.