Danni basati sul genere nell'IA: protezione contro le alterazioni non consensuali delle immagini
- La modifica delle immagini tramite IA può danneggiare le persone alterandone l'aspetto senza il loro consenso, come è accaduto all'MP australiana Georgie Purcell.
- I video deepfake sessualizzati non consensuali, che colpiscono principalmente le donne, si stanno diffondendo rapidamente, suscitando preoccupazioni a livello globale.
- È necessaria una cooperazione globale e misure proattive per contrastare gli effetti dannosi dei contenuti generati dall'IA e proteggere i diritti e la sicurezza degli individui.
La parlamentare australiana Georgie Purcell ha recentemente espresso preoccupazione per un'immagine alterata digitalmente che distorceva il suo corpo e rimuoveva parti dei suoi vestiti senza il suo consenso. Questo incidente mette in luce le potenziali conseguenze sessiste e discriminatorie delle tecnologie IA non regolamentate.
Sebbene spesso considerati semplici nell'uso quotidiano, gli strumenti assistiti dall'IA possono involontariamente perpetuare i pregiudizi sociali. Quando istruiti per modificare le fotografie, questi strumenti potrebbero esaltare determinati attributi approvati dalla società, come la giovinezza e la sessualizzazione, particolarmente prevalenti nelle immagini delle donne.
Una preoccupazione significativa nasce dalla proliferazione di contenuti deepfake sessualizzati, che colpiscono prevalentemente le donne. I rapporti indicano che una sconcertante percentuale tra il 90% e il 95% dei video deepfake è pornografia non consensuale, con circa il 90% che vede le donne come vittime. Casi di creazione e condivisione non consensuale di immagini deepfake sessualizzate sono emersi a livello globale, colpendo individui di varie fasce demografiche, tra cui giovani donne e celebrità come Taylor Swift.
La necessità di un'azione globale
Sebbene esistano misure legislative in alcune regioni per affrontare la condivisione non consensuale di deepfake sessualizzati, le leggi relative alla loro creazione rimangono incoerenti, in particolare negli Stati Uniti. La mancanza di regolamentazioni internazionali coerenti sottolinea la necessità di un'azione globale collettiva per combattere efficacemente questo problema.
Gli sforzi per rilevare i contenuti generati dall'IA sono messi in difficoltà dalle tecnologie in avanzamento e dalla crescente disponibilità di app che facilitano la creazione di contenuti sessualmente espliciti. Tuttavia, attribuire la colpa esclusiva alla tecnologia trascura la responsabilità degli sviluppatori di tecnologia e delle piattaforme digitali di prioritizzare la sicurezza e i diritti degli utenti.
L'Australia ha intrapreso passi in questa direzione, con iniziative come l'Ufficio del Commissario per la sicurezza elettronica e leggi nazionali che rendono le piattaforme digitali responsabili della prevenzione e della rimozione dei contenuti non consensuali. Tuttavia, una collaborazione globale più ampia e misure proattive sono essenziali per mitigare efficacemente i danni dei deepfake sessualizzati non consensuali.
L'uso non regolamentato dell'IA nella modifica delle immagini e la proliferazione di contenuti deepfake sessualizzati pongono sfide significative, rendendo necessari quadri normativi completi e un'azione globale collettiva. Prioritizzando la sicurezza e i diritti degli utenti nello sviluppo tecnologico e nell'applicazione delle norme, le società possono lavorare per mitigare i danni basati sul genere associati agli abusi abilitati dall'IA.
I cervelli più intelligenti del crypto leggono già la nostra newsletter. Vuoi unirti a loro? Unisciti a loro.
Dichiarazione di responsabilità. Le informazioni fornite non costituiscono consigli di trading. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti effettuati sulla base delle informazioni fornite in questa pagina. Si consiglia vivamente di effettuare ricerche indipendenti e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Brenda Kanana
Brenda vanta oltre 4 anni di esperienza specializzata in criptovalute, intelligenza artificiale e tecnologie emergenti. Ha lavorato presso Zycrypto, Blockchain Reporter e The Coin Republic e ora ha fatto di Cryptopolitan la sua casa. La sua laurea in Sociologia presso l'Università Tecnica di Mombasa la mantiene in sintonia con il pubblico dei lettori.
