Lo studio sull'AI rivela un persistente pregiudizio razziale nei modelli linguistici
- Lo studio rileva che i modelli linguistici di intelligenza artificiale, come GPT-4 e GPT-3.5, mostrano un pregiudizio razziale contro l'inglese afroamericano, collegandolo a stereotipi negativi e conseguenze legali.
- I modelli di IA più grandi presentano pregiudizi più marcati, suscitando preoccupazioni sulla scalabilità e sulle implicazioni etiche nello sviluppo dell'intelligenza artificiale.
- La ricerca evidenzia la necessità di sforzi continui per affrontare in modo completo il pregiudizio nei sistemi di IA, al fine di garantire equità e inclusività.
In uno studio condotto da ricercatori dell'Allen Institute for AI, dell'Università di Stanford e dell'Università di Chicago, sono emerse rivelazioni su pregiudizi razziali incorporati nei popolari modelli linguistici di grandi dimensioni (LLM), inclusi GPT-4 e GPT-3.5 di OpenAI.
Lo studio, dettagliato in una pubblicazione sul server preprint arXiv, si è concentrato sull'investigare come questi LLM rispondano a dialetti ed espressioni culturali vari, in particolare l'inglese afroamericano (AAE) e l'inglese americano standard (SAE). Attraverso una serie di esperimenti, i ricercatori hanno inserito documenti di testo in entrambi i dialetti, AAE e SAE, nei chatbot AI, chiedendo loro di inferire e commentare sugli autori.
I risultati erano allarmanti, rivelando un pregiudizio coerente nelle risposte dei modelli AI. I testi in AAE erano costantemente accompagnati da stereotipi negativi, raffigurando gli autori come aggressivi, maleducati, ignoranti e sospettosi. Al contrario, i testi in SAE suscitavano risposte più positive. Questo pregiudizio andava oltre i tratti della personalità, influenzando le capacità professionali e le percezioni dello status legale.
Implicazioni attraverso le professioni e gli ambiti legali
Quando interrogati sulle potenziali carriere, i chatbot associavano i testi AAE a lavori a basso salario o campi stereotipicamente legati agli afroamericani, come lo sport o l'intrattenimento. Inoltre, agli autori di testi AAE veniva spesso suggerito che avrebbero avuto maggiori probabilità di affrontare conseguenze legali, incluse pene più severe come la pena di morte.
Curiosamente, quando sollecitati a descrivere gli afroamericani in termini generali, le risposte erano positive, usando aggettivi come "intelligenti", "brillanti" e "appassionati". Questa discrepanza evidenzia la natura sfumata del pregiudizio, che emerge selettivamente in base al contesto, in particolare riguardo alle assunzioni sui comportamenti o le caratteristiche degli individui basate sul loro uso del linguaggio.
Lo studio ha anche rivelato che più grande è il modello linguistico, più pronunciato è il pregiudizio negativo verso gli autori di testi in inglese afroamericano. Questa osservazione solleva preoccupazioni sulla scalabilità del pregiudizio nei sistemi AI, indicando che semplicemente aumentare la dimensione dei modelli linguistici senza affrontare le cause radice potrebbe esacerbare il problema.
Sfide nello sviluppo etico dell'AI
Questi risultati sottolineano le significative sfide che affrontano lo sviluppo di sistemi AI etici e privi di pregiudizi. Nonostante gli avanzamenti tecnologici e gli sforzi per mitigare i pregiudizi, pregiudizi radicati continuano a permeare questi modelli, riflettendo e potenzialmente rafforzando gli stereotipi sociali.
La ricerca sottolinea l'importanza di una vigilanza continua, di dataset diversificati e di metodologie di addestramento inclusive per creare un'AI che serva equamente tutta l'umanità. Serve come un monito severo sulla necessità critica di affrontare il pregiudizio in modo completo nello sviluppo dell'AI per garantire risultati equi per tutti gli individui.
Lo studio illumina un aspetto critico dello sviluppo dell'AI, esortando le parti interessate a confrontarsi e affrontare il pregiudizio per costruire un panorama tecnologico più giusto ed equo.
Se stai leggendo questo, sei già avanti. Resta così con la nostra newsletter.
Dichiarazione di responsabilità. Le informazioni fornite non costituiscono consigli di trading. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti effettuati sulla base delle informazioni fornite in questa pagina. Si consiglia vivamente di effettuare ricerche indipendenti e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Brenda Kanana
Brenda vanta oltre 4 anni di esperienza specializzata in criptovalute, intelligenza artificiale e tecnologie emergenti. Ha lavorato presso Zycrypto, Blockchain Reporter e The Coin Republic e ora ha fatto di Cryptopolitan la sua casa. La sua laurea in Sociologia presso l'Università Tecnica di Mombasa la mantiene in sintonia con il pubblico dei lettori.
