Relatório da UNESCO: A IA Continua a Amplificar o Viés de Gênero

Um recente relatório da UNESCO trouxe à tona o viés de gênero persistente perpetuado pelos modelos contemporâneos de Inteligência Artificial (IA). Apesar dos esforços contínuos para mitigar o preconceito, o estudo descobriu que os sistemas de IA, incluindo modelos de linguagem grandes (LLMs), estão propensos a amplificar os vieses sociais, particularmente em torno do gênero.

Viés de gênero em modelos de IA

O relatório revelou que os LLMs populares frequentemente geram conteúdo sexista e misógino, refletindo preconceitos sociais. Por exemplo, quando solicitados com frases que mencionam gênero e identidade sexual, o modelo Llama 2 de código aberto da Meta produziu saídas contendo linguagem sexista ou misógina em 20% dos casos. Embora alguns modelos de IA, como o ChatGPT, tenham exibido um comportamento melhor, os vieses ainda estavam presentes mesmo após o ajuste fino.

A UNESCO alertou que, se não for abordado, o viés algorítmico pode se tornar mais profundamente embutido em setores críticos, como saúde e finanças. Algoritmos de IA tendenciosos podem exacerbar as disparidades de gênero existentes nesses campos, dificultando os esforços para alcançar a igualdade de gênero.

Uma das preocupações significativas destacadas no relatório é o impacto dos dados médicos tendenciosos nos sistemas de saúde impulsionados por IA. As práticas de coleta de dados historicamente favoreceram sujeitos masculinos, levando a lacunas de gênero nos dados de treinamento de IA. Esse viés tem consequências tangíveis, como demonstrado por um estudo de ferramentas de IA usadas para rastrear doenças hepáticas, que perderam 44% dos casos em mulheres devido a dados de treinamento tendenciosos inclinados para homens.

Abordando o desequilíbrio

Sandy Carter, COO da Unstoppable Domains, enfatizou a importância de abordar a lacuna de gênero nos dados de treinamento de IA. Ela defendeu o aumento da transparência dos dados para destacar os desvios de gênero e propôs abordagens inovadoras, como a coleta de dados de saúde das mulheres por crowdsourcing ou a geração de dados sintéticos para mitigar discrepâncias.

Carter ressaltou a necessidade de representação justa nos dados de treinamento para desenvolver sistemas de IA equitativos. Ao incorporar fontes de dados diversas e abraçar a transparência nas práticas de coleta de dados, os desenvolvedores podem trabalhar para minimizar os vieses nos modelos de IA.

O relatório da UNESCO serve como um lembrete nítido do desafio contínuo posedo pelo viés de gênero na IA. Para construir sistemas de IA que sirvam a todos os usuários de forma equitativa, são necessários esforços concertados para abordar os vieses em todas as etapas do desenvolvimento, desde a coleta de dados até a implantação do modelo.

Ao aumentar a conscientização sobre esses problemas e defender práticas inclusivas, as partes interessadas podem trabalhar para realizar o potencial da IA para avançar a igualdade de gênero na saúde e além. Apenas por meio de ação colaborativa e um compromisso com a justiça a promessa da tecnologia de IA pode ser totalmente realizada para todos os indivíduos, independentemente do gênero.