- A IA reflete e perpetua vieses, desde gênero até raça, impactando textos e imagens gerados.
- O viés na IA decorre de dados fornecidos por humanos, destacando a necessidade de escrutínio rigoroso.
- Abordar o viés na IA exige uma abordagem abrangente, enfatizando ajustes nos dados e algoritmos.
Os avanços na inteligência artificial (IA) trouxeram inúmeros benefícios, mas também revelam um problema persistente: o viés. Estudos e investigações mostraram que os sistemas de IA, incluindo os populares como o ChatGPT, exibem vieses que espelham os preconceitos sociais, desde o viés de gênero na geração de linguagem até estereótipos raciais e de gênero na geração de imagens.
O enigma Palestina-Israel: um caso de viés na IA
Em um encontro recente com o ChatGPT da OpenAI, o acadêmico palestino Nadi Abusaada ficou consternado com as respostas diferentes a uma pergunta simples: “Israelenses e palestinos merecem ser livres?” Enquanto a OpenAI declarou inequivocamente que a liberdade é um direito humano fundamental para Israel, ela retratou a questão da justiça para a Palestina como “complexa e altamente debatida”. Esse contraste acentuado reflete os vieses presentes nos sistemas de IA.
A reação de Abusaada destaca um problema de longa data enfrentado pelos palestinos no discurso ocidental e na mídia mainstream: desinformação e viés. Não é um incidente isolado, mas um sintoma de desafios mais amplos em torno da neutralidade da IA.
Viés de gênero em texto gerado por IA: um padrão perturbador
Um estudo comparando os chatbots de IA ChatGPT e Alpaca revelou vieses de gênero no texto gerado. Quando solicitados a escrever cartas de recomendação para funcionários hipotéticos, ambos os sistemas de IA exibiram um claro viés de gênero. O ChatGPT usou termos como “especialista” e “integridade” para homens, mas referiu-se às mulheres como “beleza” ou “delícia”. O Alpaca teve problemas semelhantes, associando homens a “ouvintes” e “pensadores”, enquanto rotulava mulheres com termos como “graça” e “beleza”.
Esses resultados destacam a presença de vieses de gênero enraizados na IA, refletindo e perpetuando estereótipos sociais. Isso levanta questões sobre o papel da IA em reforçar normas de gênero prejudiciais.
Imagens geradas por IA: reforçando estereótipos raciais e de gênero
O Bloomberg Graphics investigou o viés na IA usando conversão de texto para imagem com o Stable Diffusion, uma plataforma de IA de código aberto. Os resultados foram alarmantes, com o sistema de IA exacerbando estereótipos de gênero e raciais, superando os encontrados no mundo real. Ao ser solicitado com termos como “CEO” ou “prisioneiro”, as imagens geradas exibiram consistentemente vieses.
A investigação revelou a sub-representação de mulheres e indivíduos de tons de pele mais escuros em imagens relacionadas a empregos bem remunerados, enquanto a super-representação ocorreu em imagens relacionadas a empregos mal remunerados. Em buscas relacionadas a crimes, a IA gerou desproporcionalmente imagens de indivíduos de pele mais escura, apesar de uma população carcerária mais diversa na realidade.
Esses resultados demonstram que os algoritmos de IA, impulsionados por dados de treinamento enviesados e tendências programadas por humanos, reforçam os preconceitos sociais em vez de mitigá-los.
Desvendando as raízes do viés na IA
O viés nos sistemas de IA pode ser rastreado até seu processo de aprendizado, que depende de exemplos e entrada de dados. Os humanos desempenham um papel fundamental na moldagem do comportamento da IA, intencionalmente ou não, fornecendo dados que podem ser enviesados ou estereotipados. A IA então aprende e reflete esses vieses em seus resultados.
Reid Blackman, especialista em ética digital, citou o caso do software de leitura de currículos da Amazon, que aprendeu inadvertidamente a rejeitar todos os currículos de mulheres. Esse exemplo destaca como a IA pode inadvertidamente perpetuar a discriminação se aprender a partir de exemplos enviesados.
Abordar o viés na IA exige um exame abrangente dos dados dos sistemas de IA, algoritmos de aprendizado de máquina e outros componentes. Um passo crucial é avaliar os dados de treinamento em busca de viés, garantindo que grupos super ou sub-representados sejam adequadamente considerados.
Tomando medidas contra o viés na IA
O relatório da IBM enfatiza a necessidade de scrutinizar os conjuntos de dados em busca de viés, particularmente nos algoritmos de reconhecimento facial, onde a super-representação de certos grupos pode levar a erros. Identificar e corrigir esses vieses é essencial para garantir justiça e precisão nos sistemas de IA.
O problema não se limita ao texto gerado por IA, mas se estende aos sistemas de personalização algorítmica. Esses sistemas, como visto na plataforma de anúncios do Google, podem perpetuar vieses de gênero ao aprender com o comportamento dos usuários. À medida que os usuários clicam ou pesquisam de maneiras que refletem os vieses sociais, os algoritmos aprendem a gerar resultados e anúncios que reforçam esses vieses.
Embora a IA tenha feito avanços significativos em vários domínios, o viés permanece um desafio formidável. Os sistemas de IA refletem e perpetuam os preconceitos sociais, desde o viés de gênero na geração de linguagem até estereótipos raciais e de gênero na geração de imagens. Abordar o viés na IA exige uma abordagem multifacetada envolvendo cuidadosa análise de dados e ajustes algorítmicos. Somente através desses esforços a IA pode realmente servir como uma ferramenta neutra e imparcial para o benefício de todos.
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Aviso Legal: As informações fornecidas não constituem aconselhamento de negociação. A Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações disponibilizadas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar qualquer decisão de investimento.
Glory Kaburu
Glory é uma jornalista extremamente conhecedora, proficiente em ferramentas de IA e pesquisa. Ela é apaixonada por IA e escreveu vários artigos sobre o assunto. Mantém-se atualizada com os últimos desenvolvimentos em Inteligência Artificial, Aprendizado de Máquina e Aprendizado Profundo, escrevendo regularmente sobre eles.
