Lo studio espone il bias dell'AI nelle percezioni del prestigio occupazionale

Un recente studio condotto dall'Organizzazione Internazionale del Lavoro (ILO) ha approfondito l'uso dell'intelligenza artificiale (AI) nella valutazione del prestigio e del valore sociale di varie occupazioni, gettando luce sia sui potenziali benefici che sulle sfide.

La ricerca, intitolata "A Technological Construction of Society: Comparing GPT-4 and Human Respondents for Occupational Evaluation in the UK", ha confrontato le valutazioni dell'AI eseguite da GPT-4, un Large Language Model (LLM), con le valutazioni di rispondenti umani nel Regno Unito.

Confronto tra valutazioni AI e umane

In questa ricerca pionieristica, i rispondenti umani nel Regno Unito sono stati inizialmente invitati a classificare il prestigio e il valore sociale di diverse occupazioni. Successivamente, a GPT-4 è stato chiesto di fornire una classifica simile, simulando le prospettive di 100 rispondenti casuali, ciascuno rappresentante un "profilo medio del Regno Unito". 

Lo studio mirava a misurare quanto da vicino le valutazioni del sistema AI si allineassero con quelle dei partecipanti umani e se l'AI mostrasse eventuali bias demografici.

Noto, lo studio ha trovato una correlazione significativa tra i risultati ottenuti attraverso questi due approcci distinti. GPT-4 ha dimostrato una forte capacità di prevedere le opinioni medie del Regno Unito riguardo al prestigio e al valore sociale delle singole occupazioni, creando efficacemente classifiche occupazionali relative. 

Questa capacità di comprendere le opinioni umane generali in modo algoritmico detiene il potenziale affinché l'AI contribuisca alla ricerca occupazionale, offrendo vantaggi come maggiore efficienza, convenienza economica, velocità e precisione migliorata nel catturare le percezioni sociali.

La complessa relazione dell'AI con il prestigio occupazionale

Mentre lo studio ha evidenziato la promessa dell'AI nella ricerca occupazionale, ha anche scoperto diverse sfide. GPT-4 tendeva a sovrastimare il prestigio e il valore delle occupazioni associate all'economia digitale o a quelle che coinvolgono componenti di marketing e vendite robusti. 

Al contrario, sottostimava il prestigio e il valore sociale attribuiti a determinate occupazioni illecite o tradizionalmente stigmatizzate rispetto ai valutatori umani. Inoltre, quando le istruzioni algoritmiche dell'AI venivano manipolate, faticava a comprendere le gerarchie di prestigio e valore sociale delle occupazioni così come percepite dalle minoranze demografiche nel contesto del Regno Unito.

L'importanza dei bias demografici

Un aspetto cruciale sottolineato nella ricerca è la presenza di bias demografici nei modelli di AI. Gli attuali Large Language Models, inclusi GPT-4, riflettono principalmente le opinioni delle popolazioni Western, Educated, Industrialized, Rich, and Democratic (WEIRD). 

Questi gruppi, sebbene siano una minoranza globale, hanno contribuito significativamente ai dati utilizzati per addestrare i modelli di AI. Di conseguenza, sistemi AI come GPT-4 potrebbero escludere involontariamente le prospettive delle minoranze demografiche o dei gruppi vulnerabili.

Implicazioni per l'AI nel mondo del lavoro

I risultati di questo studio hanno implicazioni di vasta portata per l'applicazione dei sistemi AI nel mondo del lavoro. Sebbene l'AI possa servire come strumento complementare prezioso, specialmente nell'elaborare grandi quantità di dati testuali non strutturati, vocali e immagine, i suoi limiti devono essere considerati attentamente. 

Questo include il suo potenziale di omettere le opinioni e le prospettive delle minoranze demografiche. In contesti come fornire consigli di carriera o condurre valutazioni delle prestazioni algoritmiche, lo studio sottolinea l'importanza di affrontare questi limiti e garantire equità e inclusività.