Causa intentata dal procuratore della città di San Francisco per chiudere i siti web di deepfake basati sull'intelligenza artificiale

Il Procuratore della Città di San Francisco, David Chiu, ha annunciato che il suo ufficio sta conducendo un contenzioso contro 16 siti web che utilizzano l'intelligenza artificiale per sviluppare e distribuire immagini di nudo non consensuali di donne e ragazze tramite deepfake. Questo in un momento in cui si sta intensificando l'attenzione sulla creazione e la distribuzione di immagini non consensuali basate sull'intelligenza artificiale.

La causa, che secondo Chiu è la prima del suo genere a San Francisco, accusa i gestori dei siti web di aver violato le leggi statali e federali che denunciano la pornografia deepfake, la pornografia infantile e il materiale pornografico di vendetta, nonché la legge sulla concorrenza sleale della California.

Chiu vuole lanciare l'allarme su questa cattiva pratica

Secondo il New York Times, l'iniziativa è nata da un'idea del vice procuratore capo Yvonne Mere, che ha mobilitato i suoi colleghi per preparare una causa legale che dovrebbe portare alla chiusura di 16 siti web.

I nomi dei siti web sono stati censurati nella copia della causa resa pubblica giovedì.

Mentre l'ufficio del procuratore ha affermato che la maggior parte dei proprietari dei siti web non è ancora statadent, i funzionari di quell'ufficio hanno espresso ottimismo riguardo alla possibilità di trovare i nomi dei proprietari dei siti e di chiamarli a rispondere delle loro azioni.

Durante una conferenza stampa tenutasi giovedì, Chiu ha rivelato che i siti in questione producono materiale "pornografico" non consensuale. Oltre a lanciare l'allarme e a porre fine a questa forma di "abuso sessuale", Chiu ha anche lasciato intendere che la causa dovrebbe portare alla chiusura dei suddetti siti web.

"Questa indagine ci ha portato negli angoli più oscuri di Internet e sono profondamente inorridita per le donne e le ragazze che hanno dovuto subire questo sfruttamento"

Chiu.

Sui siti web in questione, gli utenti caricano foto di persone reali completamente vestite e utilizzano l'intelligenza artificiale per creare immagini di donne e ragazze nude. I modelli di intelligenza artificiale dei siti sono stati addestrati su pornografia reale e immagini di abusi su minori per creare deepfake.

Come indicato nella denuncia, uno dei siti promuove la natura non consensuale delle immagini, affermando: "Immagina di perdere tempo a portarla fuori per un appuntamento, quando puoi semplicemente usare [nome del sito web omesso] per ottenere le sue foto di nudo".

La disponibilità e l'accessibilità di modelli di intelligenza artificiale open source hanno reso facile per chiunque accedere e adattare motori basati sull'intelligenza artificiale ai propri scopi. Ciò si traduce nella creazione di siti e app in grado di generare nudi deepfake da zero o di "nudificare" fotografie esistenti in modo realistico, spesso a pagamento.

San Francisco non è l'unico posto in cui assistere a questa sfida

A gennaio, le app deepfake hanno fatto notizia quando sono diventate virali online foto false di Taylor Swift nuda. Molte altre persone, molto meno popolari, sono state perseguitate prima e dopo Swift.

Chiu ha ammesso che la “proliferazione di queste immagini ha sfruttato un numero impressionante di donne e ragazze in tutto il mondo”, dalle celebrità aglidentdelle scuole medie.

Attraverso le proprie indagini, l'ufficio del procuratore della città ha scoperto che i siti web sono stati visitati oltre 200 milioni di volte nei primi sei mesi di quest'anno. L'ufficio ha espresso preoccupazione per il fatto che, una volta che un'immagine viene pubblicata online, diventa difficile per le vittime identificare i siti web utilizzati per "nudificare" le loro fotografie.

Questo perché le immagini non presentano alcun segno distintivo odentche possa essere ricondotto ai siti web. Inoltre, è anche difficile per le vittime eliminare le fotografie da Internet, il che influisce negativamente sulla lorosteem e sulla loro impronta digitale.

All'inizio dell'anno, cinque studenti di terza media sono stati espulsi per aver creato e condiviso immagini deepfake di 16 ragazze della stessa classe, sovrapponendo i volti delle ragazze a corpi generati dall'intelligenza artificiale.

Casi simili sono stati osservati in altre scuole in California, New Jersey e Washington, dove le immagini venivano utilizzate per umiliare, intimidire e minacciare donne e ragazze.

L'effetto netto sulle vittime, ha affermato l'ufficio del procuratore, è stato devastante per la loro reputazione, ha causato problemi di salute mentale, perdita disteeme, in alcuni casi, ha portato gli individui a suicidarsi.