Il procuratore generale della California emette un ordine di cessazione e desistenza nei confronti di xAI per immagini deepfake inappropriate

Il procuratore generale della California Rob Bonta ha inviato una lettera di diffida a xAI di Elon Musk, chiedendo all'azienda di interrompere immediatamente la produzione e la diffusione di immagini deepfake offensive prodotte dal suo chatbot Grok. 

il Procuratore Generale della California ha pubblicato la lettera di diffida in risposta alle accuse secondo cui Grok sarebbe stato utilizzato per creare contenuti illegali che coinvolgevano bambini e fotografie di adulti non consensuali, il che ha portato all'apertura di un'inchiesta statale della California. Bonta ha sostenuto che è illegale creare, distribuire, pubblicare e mostrare materiale pedopornografico.

Il procuratore generale della California prende di mira xAI per presunto uso improprio di Grok

All'inizio di questa settimana, l'ufficio del procuratore generale della California ha dichiarato di aver avviato un'indagine su xAI a seguito di accuse secondo cui il chatbot della startup, Grok, sarebbe stato utilizzato per produrre immagini inappropriate e non consensuali di donne e bambini. In risposta, il governo ha inviato alla società una lettera di diffida.

"Oggi ho inviato a xAI una lettera di diffida, chiedendo all'azienda di interrompere immediatamente la creazione e la distribuzione di deepfake, immagini intime non consensuali e materiale illegale di abusi su minori. La creazione di questo materiale è illegale. Mi aspetto che xAI ottemperi immediatamente. La California ha tolleranza zero per le immagini illegali di abusi su minori."

–Rob Bonta, Procuratore Generale della California.

L'ufficio del Procuratore Generale ha inoltre affermato che xAI sembra "facilitare la produzione su larga scala" di foto inappropriate e non consensuali, che vengono poi "utilizzate per molestare donne e ragazze su Internet". Secondo l'ufficio del Procuratore Generale, una ricerca ha rilevato che oltre la metà delle 20.000 foto prodotte da xAI tra Natale e Capodanno mostravano persone vestite in modo molto succinto, alcune delle quali sembravano bambini.

, Rob Bonta ha affermato Nell'annuncio che le pratiche aziendali violavano le leggi civili della California, tra cui la sezione 1708.86 del Codice Civile della California, le sezioni 311 e seguenti e 647(j)(4) del Codice Penale della California e la sezione 17200 del Codice Commerciale e delle Professioni della California. 

Il Dipartimento di Giustizia della California prevede che xAI confermerà i suoi sforzi per affrontare questi problemi e adotterà misure immediate per risolverli nei prossimi cinque giorni.

Tuttavia, l'account dedicato alla sicurezza di X aveva precedentemente condannato questo tipo di comportamento degli utenti. Il 4 gennaio ha chiarito che la piattaforma interviene contro i contenuti illeciti presenti su X, come il materiale pedopornografico, eliminandoli, sospendendo gli account adefie collaborando, se necessario, con le forze dell'ordine e le amministrazioni comunali.

In particolare, il 4 gennaio Elon Musk ha avvertito che chiunque utilizzi Grok a creare contenuti illegali andrà incontro alle stesse conseguenze di chi li ha caricati.

I procuratori generali intensificano la pressione sulle aziende di intelligenza artificiale per la sicurezza dei minori

Lo sviluppo di strumenti gratuiti di intelligenza artificiale generativa ha portato a un preoccupante aumento dei contenuti per adulti non consensuali. Questo problema ha afflitto diverse piattaforme, non solo X.

Ad esempio, il procuratore generale Bonta e il procuratore generale Jennings del Delaware hanno incontrato OpenAI nel settembre dello scorso anno per esprimere le loro serie preoccupazioni riguardo al crescente numero di segnalazioni sull'interazione dei prodotti di OpenAI con i giovani.

Nell'agosto dello stesso anno, il Procuratore Generale Bonta, insieme ad altri 44 Procuratori Generali, ha inviato una lettera a 12 importanti aziende di intelligenza artificiale in seguito a segnalazioni di interazioni inappropriate tra chatbot di intelligenza artificiale e bambini. Le lettere sono state inviate ad Anthropic, Apple, Chai AI, Google, Luka Inc., Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika e xAI.

Il Procuratore Generale Bonta e i 44 Procuratori Generali hanno informato le aziende nella lettera che gli stati di tutto il Paese stanno monitorando attentamente il modo in cui le aziende sviluppano le loro politiche di sicurezza in materia di intelligenza artificiale. Hanno inoltre sottolineato che queste aziende hanno un obbligo legale nei confronti dei minori in quanto consumatori, poiché traggono profitto dall'utilizzo dei loro prodotti da parte dei minori. 

Nel 2023, il procuratore generale Bonta si è unito a una coalizione bipartisan di 54 stati e territori inviando una lettera ai leader del Congresso, sostenendo l'istituzione di un comitato di esperti per indagare sul potenziale utilizzo dell'intelligenza artificiale per sfruttare i bambini attraverso materiale pedopornografico. 

La coalizione ha chiesto alla commissione di esperti di proporre leggi per proteggere i bambini da tali maltrattamenti. "La produzione di materiale pedopornografico crea una documentazione permanente della vittimizzazione del bambino", secondo il Dipartimento di Giustizia degli Stati Uniti.