Rapporto UNESCO: L'AI continua ad amplificare il pregiudizio di genere
- Il rapporto UNESCO mostra che l'IA presenta ancora un pregiudizio di genere, in particolare nei settori sanitario e finanziario.
- I modelli di IA spesso producono contenuti sessisti, incidendo sugli sforzi per la parità di genere.
- È necessario disporre di dati diversificati e pratiche trasparenti nello sviluppo dell'IA per correggere i pregiudizi.
Un recente rapporto dell'UNESCO ha gettato luce sul pregiudizio di genere persistente perpetuato dai modelli di Intelligenza Artificiale (AI) contemporanei. Nonostante gli sforzi in corso per mitigare i pregiudizi, lo studio ha trovato che i sistemi AI, inclusi i modelli linguistici di grandi dimensioni (LLM), sono inclini ad amplificare i pregiudizi sociali, in particolare intorno al genere.
Pregiudizio di genere nei modelli AI
Il rapporto ha rivelato che i LLM popolari generano spesso contenuti sessisti e misogini, riflettendo i pregiudizi sociali. Ad esempio, quando sollecitati con frasi che menzionano genere e identità sessuale, il modello Llama 2 open-source di Meta ha prodotto output contenenti linguaggio sessista o misogino nel 20% dei casi. Mentre alcuni modelli AI, come ChatGPT, hanno mostrato un comportamento migliore, i pregiudizi erano ancora presenti anche dopo il fine-tuning.
L'UNESCO ha avvertito che, se non affrontato, il bias algoritmico potrebbe radicarsi sempre di più in settori critici come la sanità e la finanza. Gli algoritmi di IA distorti potrebbero esacerbare le disparità di genere esistenti in questi campi, ostacolando gli sforzi per raggiungere l'uguaglianza di genere.
Una delle preoccupazioni significative evidenziate nel rapporto è l'impatto dei dati medici distorti sui sistemi sanitari basati sull'IA. Le pratiche di raccolta dati hanno storicamente favorito i soggetti maschili, portando a divari di genere nei dati di addestramento dell'IA. Questo bias ha conseguenze tangibili, come dimostrato da uno studio sugli strumenti di IA utilizzati per lo screening delle malattie epatiche, che ha mancato il 44% dei casi nelle donne a causa di dati di addestramento distorti a favore degli uomini.
Affrontare lo squilibrio
Sandy Carter, COO di Unstoppable Domains, ha sottolineato l'importanza di affrontare il divario di genere nei dati di addestramento dell'IA. Ha difeso una maggiore trasparenza dei dati per evidenziare le distorsioni di genere e ha proposto approcci innovativi come la raccolta crowdsourced di dati sulla salute delle donne o la generazione di dati sintetici per mitigare le discrepanze.
Carter ha sottolineato la necessità di una rappresentanza equa nei dati di addestramento per sviluppare sistemi di IA equi. Incorporando fonti di dati diversificate e abbracciando la trasparenza nelle pratiche di raccolta dei dati, gli sviluppatori possono lavorare per minimizzare i bias nei modelli di IA.
Il rapporto UNESCO serve come un monito netto della sfida continua posta dal pregiudizio di genere nell'AI. Per costruire sistemi AI che servano tutti gli utenti in modo equo, sono necessari sforzi concertati per affrontare i pregiudizi in ogni fase dello sviluppo, dalla raccolta dei dati al deployment del modello.
Aumentando la consapevolezza di questi problemi e difendendo pratiche inclusive, le parti interessate possono lavorare per realizzare il potenziale dell'IA di promuovere l'uguaglianza di genere nella sanità e oltre. Solo attraverso un'azione collaborativa e un impegno per l'equità la promessa della tecnologia IA può essere pienamente realizzata per tutti gli individui, indipendentemente dal genere.
Se stai leggendo questo, sei già avanti. Resta così con la nostra newsletter.
Dichiarazione di responsabilità. Le informazioni fornite non costituiscono consigli di trading. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti effettuati sulla base delle informazioni fornite in questa pagina. Si consiglia vivamente di effettuare ricerche indipendenti e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
James Kinoti
Appassionato di criptovalute, James trae piacere nel condividere conoscenze su fintech, criptovalute, blockchain e tecnologie all'avanguardia. Le ultime innovazioni nel settore crypto, il gaming crypto, l'intelligenza artificiale, la tecnologia blockchain e altre tecnologie sono i suoi principali interessi. La sua missione: rimanere aggiornato sulle applicazioni trasformative in vari settori.
