La causa legale dell'avvocato della città di San Francisco per chiudere i siti web nudo deepfake guidati dall'IA

L'avvocato della città di San Francisco David Chiu ha annunciato che il suo ufficio sta litigando contro 16 siti web che utilizzano l'IA per sviluppare e distribuire immagini nudo deepfake non consensuali di donne e ragazze. Questo avviene in un momento di maggiore attenzione sulla creazione e distribuzione di immagini non consensuali dell'IA.

La causa legale, secondo Chiu, è la prima del suo genere a San Francisco, addebita agli operatori dei siti web di aver violato le leggi statali e federali che condannano la pornografia deepfake, la pornografia infantile e i materiali pornografici di vendetta, nonché la legge sulla concorrenza sleale della California.

Chiu vuole sollevare l'allarme su questa pratica illecita

Secondo il New York Times, l'iniziativa è stata idea del vice procuratore capo Yvonne Mere, che ha radunato i suoi colleghi per redigere una causa legale, che dovrebbe portare alla chiusura di 16 siti web.

I nomi dei siti web sono stati censurati nella copia della causa legale resa pubblica giovedì.

Mentre l'ufficio del Procuratore ha detto che non ha ancora identificato la maggior parte dei proprietari dei siti web, i funzionari di quell'ufficio hanno espresso ottimismo nel trovare i nomi dei proprietari dei siti e renderli responsabili.

Durante una conferenza stampa giovedì, Chiu ha rivelato che i siti producono materiali "pornografici" non consensuali. Oltre a sollevare allarme e porre fine a questa forma di "abuso sessuale", Chiu ha anche accennato al fatto che la causa legale dovrebbe anche chiudere i siti web in questione.

“Questa indagine ci ha portati negli angoli più bui di internet, e sono assolutamente orrificata per le donne e le ragazze che hanno dovuto subire questa sfruttamento.”

Chiu.

Sui siti web in questione, gli utenti caricano foto di persone reali completamente vestite e utilizzano l'IA per creare immagini di donne e ragazze nude. I modelli IA dei siti sono stati addestrati su pornografia reale e immagini di abuso minorile per creare deepfake.

Come indicato dalla causa legale, uno dei siti promuove la natura non consensuale delle immagini, asserendo: "Immagina di perdere tempo a portarla fuori a cena, quando puoi semplicemente usare [nome del sito web oscurato] per ottenere le sue nudo."

La disponibilità e l'accessibilità dei modelli IA open source ha reso facile per chiunque accedere e adattare motori basati sull'IA per i propri scopi. Questo porta alla creazione di siti e app che possono generare nudo deepfake da zero o "nudificare" fotografie esistenti in modi realistici, spesso a pagamento.

San Francisco non è l'unico posto a testimoniare questa sfida

A gennaio, le app deepfake hanno fatto notizia quando foto nudo false di Taylor Swift sono diventate virali online. Molte altre persone, molto meno popolari, sono state perseguitate prima e dopo Swift.

Chiu ha ammesso che la "proliferazione di queste immagini ha sfruttato un numero scioccante di donne e ragazze in tutto il mondo", dalle celebrità alle studentesse delle scuole medie.

Attraverso le proprie indagini, l'ufficio dell'avvocato della città ha scoperto che i siti web sono stati visitati oltre 200 milioni di volte nei primi sei mesi di quest'anno. L'ufficio ha espresso preoccupazione che una volta che un'immagine va online, diventa difficile per le vittime determinare i siti web che sono stati utilizzati per "nudificare" le loro fotografie.

Questo perché le immagini non hanno nulla di unico o segni identificativi a cui si possa fare riferimento per tornare ai siti web. Inoltre, è anche difficile per le vittime liberarsi delle fotografie da internet, il che influisce sulla loro autostima e sulla loro impronta digitale.

All'inizio dell'anno, cinque studenti dell'ottavo anno di Beverly Hills sono stati espulsi per aver generato e condiviso immagini nudo deepfake di 16 ragazze dell'ottavo anno, sovrapponendo i volti delle ragazze a corpi generati dall'IA.

Casi simili sono stati osservati in altre scuole in California, New Jersey e Washington con le immagini utilizzate per umiliare, bullizzare e minacciare donne e ragazze.

L'effetto netto sulle vittime, ha detto l'ufficio dell'avvocato, è stato devastante per le loro reputazioni, hanno sofferto problemi di salute mentale, perdita di autostima e, in alcuni casi, ha portato gli individui a diventare suicidi.