Uno studio rivela il pregiudizio dell'intelligenza artificiale nella percezione del prestigio professionale

Uno studio recente condotto dall'Organizzazione Internazionale del Lavoro (OIL) ha approfondito l'uso dell'intelligenza artificiale (IA) nella valutazione del prestigio e del valore sociale di varie professioni, mettendo in luce sia i suoi potenziali vantaggi che le sue sfide. 

La ricerca, intitolata "Una costruzione tecnologica della società: confronto tra GPT-4 edentumani per la valutazione occupazionale nel Regno Unito", ha confrontato le valutazioni di intelligenza artificiale eseguite da GPT-4, un modello linguistico di grandi dimensioni (LLM), con le valutazioni didentumani nel Regno Unito.

Confronto tra intelligenza artificiale e valutazioni umane

In questa ricerca innovativa, è stato inizialmente chiestodentumani nel Regno Unito di classificare il prestigio e il valore sociale di diverse professioni. Successivamente, a GPT-4 è stato chiesto di fornire una classifica simile, simulando le prospettive di 100dentcasuali, ognuno dei quali rappresenta un "profilo medio del Regno Unito" 

Lo studio mirava a valutare quanto le valutazioni del sistema di intelligenza artificiale fossero in linea con quelle dei partecipanti umani e se l'intelligenza artificiale presentasse eventuali pregiudizi demografici.

In particolare, lo studio ha rilevato una correlazione significativa tra i risultati ottenuti attraverso questi due approcci distinti. Il GPT-4 ha dimostrato unatroncapacità di prevedere le opinioni medie del Regno Unito in merito al prestigio e al valore sociale delle singole occupazioni, creando di fatto classifiche occupazionali relative. 

Questa capacità di comprendere algoritmicamente le opinioni umane generali offre all'intelligenza artificiale il potenziale per contribuire alla ricerca occupazionale, offrendo vantaggi quali maggiore efficienza, economicità, velocità e maggiore accuratezza nel catturare le percezioni della società.

Il complesso rapporto dell'intelligenza artificiale con il prestigio professionale

Sebbene lo studio abbia evidenziato le potenzialità dell'IA nella ricerca occupazionale, ha anche evidenziato diverse sfide. Il GPT-4 tendeva a sopravvalutare il prestigio e il valore delle professioni associate all'economia digitale o di quelle che comportano solide componenti di marketing e vendita. 

Al contrario, ha sottovalutato il prestigio e il valore sociale attribuiti a determinate professioni illecite o tradizionalmente stigmatizzate rispetto ai valutatori umani. Inoltre, quando le istruzioni algoritmiche dell'IA sono state manipolate, questa ha faticato a comprendere le gerarchie di prestigio e valore sociale delle professioni così come percepite dalle minoranze demografiche nel contesto del Regno Unito.

Il significato dei pregiudizi demografici

Un aspetto cruciale sottolineato dalla ricerca è la presenza di bias demografici nei modelli di intelligenza artificiale. Gli attuali modelli linguistici di grandi dimensioni, incluso il GPT-4, riflettono principalmente le opinioni delle popolazioni occidentali, istruite, industrializzate, ricche e demografiche (WEIRD). 

Questi gruppi, pur essendo una minoranza globale, hanno contribuito in modo significativo ai dati utilizzati per l'addestramento dei modelli di intelligenza artificiale. Di conseguenza, sistemi di intelligenza artificiale come GPT-4 potrebbero inavvertitamente escludere le prospettive delle minoranze demografiche o dei gruppi vulnerabili.

Implicazioni per l'intelligenza artificiale nel mondo del lavoro

I risultati di questo studio hanno implicazioni di vasta portata per l'applicazione dei sistemi di intelligenza artificiale nel mondo del lavoro. Sebbene l'intelligenza artificiale possa rappresentare un prezioso strumento complementare, in particolare nell'elaborazione di grandi quantità di dati non strutturati di testo, voce e immagini, i suoi limiti devono essere attentamente considerati. 

Ciò include il rischio di omettere opinioni e prospettive delle minoranze demografiche. In contesti come la consulenza professionale o la valutazione algoritmica delle prestazioni, lo studio sottolinea l'importanza di affrontare queste limitazioni e garantire equità e inclusività.