Le donne dell'Arizona fanno causa per i deepfake sessuali generati dall'intelligenza artificiale

Tre donne dell'Arizona hanno fatto causa a diverse persone e aziende, sostenendo che le loro immagini sono state rimosse dai loro profili social e inserite in modelli di intelligenza artificiale (IA) per generare deepfake. Hanno affermato che i sospettati coinvolti hanno utilizzato i modelli per generare le loro immagini esplicite e trarne profitto.

La causa intentata presso la Corte Superiore della Contea di Maricopa, in Arizona, prende di mira un account Instagram che ha pubblicato diversi video di donne, pubblicizzandole come modelle di intelligenza artificiale per fare soldi. I querelanti, i cui nomi non vengono rivelati per motivi di privacy, hanno osservato che alcune delle immagini sono state create utilizzando le loro foto sui social media senza previo consenso. Una delle vittime ha affermato di essere ora guardata in un modo che non le piace, semplicemente a causa delle immagini in circolazione.

Le donne dell'Arizona avviano una causa legale per i contenuti generati dall'intelligenza artificiale

La causa nomina tre imputati della contea di Maricopa, in Arizona, tra cui Beau Schultz, il proprietario dell'account Instagram. La causa nomina anche altri 50 John Doe e diverse società che sarebbero state create o utilizzate per gestire l'attività. I ​​querelanti sono rappresentati da Nick Brand di Donlon Group e Cristina Perez Hesano di Pere Law Group.

Secondo Brand, gli imputati, probabilmente originari dell'Arizona, hanno creato dei progetti per insegnare ad altri uomini e ragazzi come creare questi cosiddetti influencer basati sull'intelligenza artificiale, che vengono poi nudi a partire da immagini completamente vestite. Ha aggiunto che gli imputati utilizzano questi deepfake generati per creare un sito web pornografico a pagamento, dove condividono messaggi erotici con i clienti. Brand ha osservato che la questione sembra più ampia di quanto avesse immaginato prima che gli venisse assegnato il caso.

Nella causa intentata in Arizona, gli imputati hanno consigliato ai propri clienti di evitare influencer famosi o noti e di utilizzare invece micro-influencer per ridurre il rischio di problemi legali. "Non posso credere a quanto fossi ingenua riguardo alle sofferenze che le donne subiscono con l'avanzare della tecnologia", ha affermato. Secondo una delle vittime, solo una legislazione rigorosa può prevenire questi mali e impedire che altre donne vengano prese di mira da schemi simili.

La piattaforma di pagamento nega ogni illecito

Un'altra vittima ha affermato che il pubblico non dovrebbe poter usare l'intelligenza artificiale per provocare così tanto caos, sottolineando che chi la usa sta prendendo di mira la sorella, la madre, un'amica e una collega di qualcuno. Nel frattempo, una delle società citate nella causa, Phyziro, una piattaforma di elaborazione dei pagamenti, ha affermato che le accuse sono sostanzialmente false. L'azienda ha affermato di essere un fornitore di servizi informatici interattivi ai sensi del § 47 USC 230.

"La società non sarà considerata l'editore, l'interlocutore o l'autore di alcun contenuto o transazione generati da utenti terzi o agenti autonomi. Non abbiamo inoltre alcun obbligo di monitorare le specifiche intenzioni a valle o le attività illecite degli utenti o degli utenti degli utenti. Il Membro e il Gestore sono esenti da responsabilità per eventi di "Conoscenza Asimmetrica" ​​in cui agenti di IA, utenti o utenti degli utenti agiscono al di fuori della visibilità diretta o della programmazione del Gestore."

L'azienda ha affermato di fungere esclusivamente da fornitore di strumenti e infrastrutture neutrali, sottolineando che la sua responsabilità è strettamente limitata all'operatività tecnica dello stack. Nella sua dichiarazione, l'azienda osserva che la Sezione 230 del Communications Decency Act la esonera da qualsiasi illecito. Tuttavia, è attualmente in corso un'iniziativa bipartisan al Congresso per revocare la legge, che obbligherebbe le piattaforme a rispondere dei contenuti pubblicati o connessi ai propri siti web.

Questo sviluppo dall'Arizona arriva anche in un momento in cui il chatbot Grok è stato oggetto di pesanti critiche da parte della popolazione globale. I governi di tutto il paese hanno accusato la piattaforma di non aver adottato misure di sicurezza per controllare le attività del chatbot, portandola a creare deepfake generati dall'intelligenza artificiale con immagini esplicite di donne e bambini. Mentre alcuni paesi hanno emesso avvisi alla piattaforma, altri ne hanno temporaneamente sospeso l'accesso fino al completamento dei lavori per correggere il problema.