Estudo expõe viés da IA ​​nas percepções de prestígio ocupacional

Um estudo recente conduzido pela Organização Internacional do Trabalho (OIT) investigou o uso da inteligência artificial (IA) na avaliação do prestígio e do valor social de diversas ocupações, lançando luz tanto sobre seus potenciais benefícios quanto sobre seus desafios. 

A pesquisa, intitulada "Uma Construção Tecnológica da Sociedade: Comparando o GPT-4 edentHumanos para Avaliação Ocupacional no Reino Unido", comparou avaliações de IA realizadas pelo GPT-4, um Modelo de Linguagem Amplo (LLM, na sigla em inglês), com avaliações dedenthumanos no Reino Unido.

Comparando avaliações de IA e avaliações humanas

Nesta pesquisa inovadora,denthumanos no Reino Unido foram inicialmente solicitados a classificar o prestígio e o valor social de diferentes profissões. Posteriormente, o GPT-4 foi incumbido de fornecer uma classificação semelhante, simulando as perspectivas de 100dentaleatórios, cada um representando um “perfil médio do Reino Unido” 

O estudo teve como objetivo avaliar o quão próximas as avaliações do sistema de IA estavam das avaliações dos participantes humanos e se a IA apresentava algum viés demográfico.

Notavelmente, o estudo encontrou uma correlação significativa entre os resultados obtidos por meio dessas duas abordagens distintas. O GPT-4 demonstroutronproficiência em prever a opinião média no Reino Unido sobre o prestígio e o valor social de determinadas profissões, criando, de forma eficaz, rankings ocupacionais relativos. 

Essa capacidade de compreender opiniões humanas gerais por meio de algoritmos oferece à IA o potencial de contribuir para a pesquisa ocupacional, proporcionando vantagens como maior eficiência, custo-benefício, velocidade e precisão aprimorada na captação de percepções sociais.

A complexa relação da IA ​​com o prestígio profissional

Embora o estudo tenha destacado o potencial da IA ​​na pesquisa ocupacional, também revelou diversos desafios. O GPT-4 tendeu a superestimar o prestígio e o valor de ocupações associadas à economia digital ou que envolvam componentes robustos de marketing e vendas. 

Por outro lado, subestimou o prestígio e o valor social atribuídos a certas ocupações ilícitas ou tradicionalmente estigmatizadas, em comparação com avaliadores humanos. Além disso, quando as instruções algorítmicas da IA ​​foram manipuladas, ela teve dificuldades em compreender as hierarquias de prestígio e valor social das ocupações, conforme percebidas por minorias demográficas no contexto do Reino Unido.

A importância dos vieses demográficos

Um aspecto crucial enfatizado na pesquisa é a presença de vieses demográficos em modelos de IA. Os atuais Modelos de Linguagem de Grande Porte, incluindo o GPT-4, refletem principalmente as opiniões de populações ocidentais, instruídas, industrializadas, ricas e demográficas (WEIRD). 

Embora sejam uma minoria global, esses grupos contribuíram significativamente para os dados usados ​​no treinamento de modelos de IA. Consequentemente, sistemas de IA como o GPT-4 podem, inadvertidamente, excluir as perspectivas de minorias demográficas ou grupos vulneráveis.

Implicações da IA ​​no mundo do trabalho

As conclusões deste estudo têm implicações de longo alcance para a aplicação de sistemas de IA no mundo do trabalho. Embora a IA possa servir como uma ferramenta complementar valiosa, particularmente no processamento de grandes quantidades de dados não estruturados de texto, voz e imagem, suas limitações devem ser cuidadosamente consideradas. 

Isso inclui o potencial de omitir as visões e perspectivas de minorias demográficas. Em contextos como o fornecimento de aconselhamento de carreira ou a realização de avaliações de desempenho algorítmico, o estudo destaca a importância de abordar essas limitações e garantir equidade e inclusão.