Un estudio expone el sesgo de la IA en la percepción del prestigio ocupacional

Un estudio reciente realizado por la Organización Internacional del Trabajo (OIT) ha profundizado en el uso de la inteligencia artificial (IA) para evaluar el prestigio y el valor social de diversas ocupaciones laborales, arrojando luz sobre sus posibles beneficios y desafíos. 

La investigación, titulada “Una construcción tecnológica de la sociedad: comparación de GPT-4 ydenthumanos para la evaluación ocupacional en el Reino Unido”, comparó evaluaciones de IA realizadas por GPT-4, un modelo de lenguaje grande (LLM), con evaluaciones dedenthumanos en el Reino Unido.

Comparación de evaluaciones humanas y de IA

En esta investigación pionera, se pidió inicialmente adenthumanos del Reino Unido que clasificaran el prestigio y el valor social de diferentes ocupaciones. Posteriormente, se encargó a GPT-4 que proporcionara una clasificación similar, simulando las perspectivas de 100dentaleatorios, cada uno representando un perfil promedio del Reino Unido 

El estudio tuvo como objetivo medir en qué medida las evaluaciones del sistema de IA se alineaban con las de los participantes humanos y si la IA exhibía algún sesgo demográfico.

Cabe destacar que el estudio encontró una correlación significativa entre los resultados obtenidos mediante estos dos enfoques distintos. El GPT-4 demostró unatroncapacidad para predecir la percepción promedio del Reino Unido sobre el prestigio y el valor social de las ocupaciones individuales, creando así clasificaciones ocupacionales relativas. 

Esta capacidad de comprender opiniones humanas generales de forma algorítmica permite que la IA contribuya a la investigación ocupacional, ofreciendo ventajas como mayor eficiencia, rentabilidad, velocidad y mayor precisión a la hora de captar las percepciones sociales.

La compleja relación de la IA con el prestigio ocupacional

Si bien el estudio destacó el potencial de la IA en la investigación ocupacional, también reveló varios desafíos. El GPT-4 tendía a sobreestimar el prestigio y el valor de las ocupaciones asociadas con la economía digital o aquellas que implican sólidos componentes de marketing y ventas. 

Por el contrario, subestimó el prestigio y el valor social atribuidos a ciertas ocupaciones ilícitas o tradicionalmente estigmatizadas en comparación con los evaluadores humanos. Además, al manipular las instrucciones algorítmicas de la IA, esta tuvo dificultades para comprender las jerarquías de prestigio y valor social de las ocupaciones según la percepción de las minorías demográficas en el contexto del Reino Unido.

La importancia de los sesgos demográficos

Un aspecto crucial que se destaca en la investigación es la presencia de sesgos demográficos en los modelos de IA. Los modelos de lenguaje amplio actuales, incluido el GPT-4, reflejan principalmente las opiniones de poblaciones occidentales, educadas, industrializadas, ricas y demográficamente (WEIRD). 

Estos grupos, si bien constituyen una minoría global, han contribuido significativamente a los datos utilizados para el entrenamiento de modelos de IA. Como resultado, sistemas de IA como GPT-4 podrían excluir inadvertidamente las perspectivas de minorías demográficas o grupos vulnerables.

Implicaciones para la IA en el mundo laboral

Los hallazgos de este estudio tienen implicaciones de gran alcance para la aplicación de los sistemas de IA en el ámbito laboral. Si bien la IA puede ser una valiosa herramienta complementaria, especialmente para procesar grandes cantidades de datos no estructurados de texto, voz e imágenes, sus limitaciones deben considerarse cuidadosamente. 

Esto incluye su potencial para omitir las opiniones y perspectivas de las minorías demográficas. En contextos como la orientación profesional o la realización de evaluaciones algorítmicas de desempeño, el estudio subraya la importancia de abordar estas limitaciones y garantizar la equidad y la inclusión.