Aumento esplosivo delle nudes false generate dall'IA, che rappresentano una minaccia per la privacy e le vite

L'ascesa degli strumenti di intelligenza artificiale (IA) ha alimentato un allarmante aumento di immagini e video pornografici falsi, sollevando preoccupazioni significative sulla privacy e sullo sfruttamento. Le vittime, principalmente donne e adolescenti, si trovano impreparate alla visibilità che portano le nudes false generate dall'IA.

L'invasione della privacy

Gabi Belle, un'influencer di YouTube, ha scoperto che la sua immagine veniva utilizzata in una foto nuda falsa che circolava su internet. L'immagine la ritraeva in una situazione compromettente, anche se non aveva mai acconsentito a tale contenuto. L'esperienza di Belle non è unica, poiché molte persone, tra cui celebrità e adolescenti comuni, sono cadute vittime di nudes false generate dall'IA. Queste immagini false possono suscitare vergogna, estorcere denaro o servire come sfogo per fantasie private.

Crescita senza precedenti delle nudes false

L'intelligenza artificiale ha permesso un boom senza precedenti di immagini e video pornografici falsi. Nei 10 siti web principali noti per ospitare foto pornografiche generate dall'IA, il numero di nudes false è aumentato di oltre il 290 percento dal 2018, secondo l'analista di settore Genevieve Oh. Questi siti presentano non solo celebrità e figure politiche, ma anche individui ignari le cui somiglianze sono state sfruttate senza consenso.

Mancanza di protezioni legali

Le vittime di pornografia falsa generata dall'IA hanno poche vie di ricorso a causa dell'assenza di leggi federali che regolano la pornografia deepfake. Solo un numero limitato di stati ha emanato regolamenti, lasciando un significativo vuoto legale. Il recente ordine esecutivo sull'IA del presidente Biden raccomanda alle aziende di etichettare i contenuti generati dall'IA, ma non lo rende obbligatorio. Gli studiosi legali sostengono che le immagini false generate dall'IA potrebbero non rientrare nelle protezioni del copyright per le somiglianze personali poiché attingono da vasti set di dati.

Donne e adolescenti a rischio particolare

Le nudes false generate dall'IA rappresentano un rischio significativo per le donne e gli adolescenti, che spesso si trovano impreparati alla visibilità improvvisa. La ricerca di Sensity AI, un'azienda di monitoraggio dei deepfake, rivela che il 96 percento delle immagini deepfake è pornografico, con il 99 percento che prende di mira le donne. L'esame di Genevieve Oh dei 10 siti web principali che ospitano immagini pornografiche false ha rilevato che oltre 415.000 tali immagini erano state caricate solo nel 2023, accumulando quasi 90 milioni di visualizzazioni.

Esplosione di video pornografici generati dall'IA

I video pornografici generati dall'IA si sono anche diffusi su tutto il web. Nel 2023, oltre 143.000 video falsi sono stati aggiunti ai 40 siti web più popolari che presentano contenuti deepfake, superando il numero totale di nuovi video dal 2016 al 2022. Questi video hanno ottenuto oltre 4,2 miliardi di visualizzazioni. L'FBI ha avvertito di un aumento dell'estorsione sessuale, con oltre 26.800 persone cadute vittime di campagne di "sextortion" a settembre.

Protezioni limitate di Google

Il popolare motore di ricerca Google ha politiche in atto per impedire che le immagini sessuali non consensuali appaiano nei risultati di ricerca. Tuttavia, le sue protezioni per le immagini deepfake non sono così robuste, consentendo alla pornografia falsa generata dall'IA di apparire in modo prominente nei risultati di ricerca. Google sta lavorando per migliorare queste protezioni e mira a costruire salvaguardie che non richiedano richieste individuali per la rimozione dei contenuti.

Sfide nel punire i creatori

Punire i creatori di contenuti pornografici falsi generati dall'IA si rivela una sfida. La Sezione 230 del Communications Decency Act protegge le aziende di social media dalla responsabilità per i contenuti pubblicati sulle loro piattaforme, lasciando poco incentivo per i siti web di controllare tali immagini. Le vittime possono richiedere la rimozione delle loro somiglianze, ma i contenuti generati dall'IA attingono da set di dati estesi, rendendo difficile provare violazioni del copyright o infrazioni alla somiglianza personale.

Sforzi a livello statale e regolamentazioni varie

Almeno nove stati, tra cui California, Texas e Virginia, hanno approvato legislazioni che mirano ai deepfake. Tuttavia, queste leggi differiscono per portata, con alcune che permettono alle vittime di intentare azioni penali e altre che permettono solo cause civili. Identificare le parti responsabili per l'azione legale può essere un compito complesso.

La necessità di regolamentazioni più forti

La spinta a regolamentare le immagini e i video generati dall'IA mira principalmente a prevenire la distribuzione di massa e ad affrontare le preoccupazioni relative all'interferenza elettorale. Tuttavia, queste regole fanno poco per mitigare i danni causati dalla pornografia deepfake, che può avere un impatto severo sulla vita di un individuo, anche se condivisa in piccoli gruppi.

La proliferazione delle nudes false generate dall'IA rappresenta una grave minaccia per la privacy e l'integrità personale, in particolare per le donne e gli adolescenti. L'assenza di leggi federali complete e le sfide nel punire i creatori di tali contenuti evidenziano la necessità urgente di regolamentazioni e protezioni più forti. Man mano che l'IA continua a progredire, affrontare la crescente questione della pornografia falsa generata dall'IA diventa sempre più critico per salvaguardare gli individui dallo sfruttamento e dai danni nell'era digitale.