I modelli di intelligenza artificiale generativa codificano pregiudizi e generano informazioni nonsensiche, rivela la ricerca

Negli ultimi mesi, modelli di intelligenza artificiale generativa come ChatGPT, Bard di Google e Midjourney hanno guadagnato una crescente popolarità tra gli individui per scopi sia personali che professionali. Tuttavia, la ricerca sta rivelando una tendenza preoccupante: questi modelli stanno incorporando pregiudizi e stereotipi negativi nei loro utenti, generando e diffondendo al contempo informazioni nonsensiche ma apparentemente accurate. 

Le conseguenze di questo fenomeno sono particolarmente gravi per i gruppi emarginati, che subiscono un onere sproporzionato della diffusione di informazioni false. Man mano che questi modelli diventano più diffusi sul World Wide Web, cresce la preoccupazione che possano influenzare le credenze umane. Un nuovo articolo di prospettiva pubblicato sulla rivista Science evidenzia l'urgente necessità di una collaborazione tra psicologi ed esperti di machine learning per valutare l'entità di questo problema e sviluppare soluzioni.

Abeba Birhane, professore aggiunto di computer science e statistica presso la Trinity College Dublin e Senior Fellow in Trustworthy AI presso la Mozilla Foundation, spiega che i modelli generativi mancano della capacità di comunicare l'incertezza, risultando in risposte confidenti e fluide senza i dovuti qualificatori o rappresentazioni del dubbio. Di conseguenza, gli individui possono accettare queste risposte come fattualmente accurate, portando a una distorsione delle credenze. Inoltre, interessi finanziari e di responsabilità incentivano le aziende a antropomorfizzare i modelli generativi come intelligenti, empatici o persino infantili, esacerbando il problema.

Impatto sproporzionato sui gruppi emarginati

Le ripercussioni dei pregiudizi e delle informazioni false sono particolarmente pronunciate tra le popolazioni emarginate. Lo studio sottolinea l'importanza di condurre analisi dettagliate per misurare l'impatto dei modelli generativi sulle credenze e sui pregiudizi umani. Concentrandosi sulle comunità emarginate più colpite da falsificazioni e stereotipi negativi negli output dei modelli, studi e interventi futuri possono affrontare efficacemente questi problemi.

Un esempio concreto discusso nella prospettiva riguarda l'uso di modelli di intelligenza artificiale generativa nel sistema legale. Le regolarità statistiche all'interno di questi modelli hanno portato all'assegnazione di punteggi di rischio più elevati agli imputati neri. Di conseguenza, i giudici delle corti, avendo interiorizzato questi modelli, potrebbero alterare le loro pratiche di condanna per allinearsi alle previsioni degli algoritmi. Anche se venissero implementate regolamentazioni per limitare l'uso di tali sistemi, questo meccanismo di apprendimento statistico può perpetuare la credenza che gli individui neri abbiano maggiori probabilità di recidivare.

Sfide nel superare pregiudizi e falsificazioni

Una volta che i pregiudizi e le informazioni false sono stati accettati dagli individui, diventano difficili da dissipare. I bambini sono particolarmente vulnerabili poiché sono più propensi a antropomorfizzare la tecnologia e sono facilmente influenzati. Riconoscendo ciò, dovrebbero essere compiuti sforzi per educare il pubblico, i responsabili politici e gli scienziati interdisciplinari sul funzionamento dei modelli di intelligenza artificiale generativa, dissipando la disinformazione esistente e contrastando le affermazioni esagerate riguardanti queste tecnologie.

L'articolo di prospettiva sottolinea l'importanza di un'analisi tempestiva e completa per valutare l'impatto dei modelli generativi sulle credenze e sui pregiudizi umani. Chiede inoltre interventi mirati e risorse volte a mitigare gli effetti sulle popolazioni emarginate. Inoltre, dovrebbero essere intraprese campagne di educazione e sensibilizzazione per fornire intuizioni realistiche su come funzionano questi modelli di IA e per rettificare malintesi e hype riguardanti le loro capacità.

Man mano che i modelli di intelligenza artificiale generativa guadagnano un'adozione diffusa, la codifica di pregiudizi e la generazione di informazioni nonsensiche pongono preoccupazioni significative. Le comunità emarginate sono colpite in modo sproporzionato, esacerbando le disuguaglianze esistenti. La collaborazione tra psicologi ed esperti di machine learning è cruciale per valutare l'entità di questo problema e devisare soluzioni efficaci. Comprendendo l'impatto dei modelli generativi sulle credenze e sui pregiudizi umani, diventa possibile affrontare e rettificare i pregiudizi e le falsificazioni incorporati in questi sistemi di IA.