L'Avvocato Generale della California emette un ingiunzione di cessazione e disdetta a xAI per immagini deepfake inappropriate

L'Avvocato Generale della California Rob Bonta ha inviato una lettera di cessazione e disdetta a xAI di Elon Musk, esigendo che l'azienda interrompa immediatamente la produzione e la diffusione di immagini deepfake offensive prodotte dal suo chatbot Grok. 

Avvocato Generale della California ha rilasciato la lettera di cessazione e disdetta venerdì in risposta alle accuse secondo cui Grok stava sendo utilizzato per creare contenuti illeciti coinvolgenti minori e fotografie di adulti non consensuali, il che ha innescato un'indagine dello stato della California. Bonta ha sostenuto che è illegale creare, distribuire, pubblicare e visualizzare materiale di abuso sessuale su minori (CSAM).

L'Avvocato Generale della California mira a xAI per presunta cattiva utilizzo di Grok

All'inizio di questa settimana, l'ufficio dell'Avvocato Generale della California ha dichiarato che stava esaminando xAI a causa di accuse secondo cui il chatbot della startup, Grok, veniva utilizzato per produrre immagini inappropriate e non consensuali di donne e bambini. In risposta, il governo ha inviato all'azienda una lettera di cessazione e disdetta.

«Oggi ho inviato a xAI una lettera di cessazione e disdetta, esigendo che l'azienda interrompa immediatamente la creazione e la distribuzione di deepfake, immagini intime non consensuali e materiale illegale di abuso su minori. La creazione di questo materiale è illegale. Mi aspetto pienamente che xAI si conformi immediatamente. La California ha zero tolleranza per le immagini illegali di abuso su minori.»

–Rob Bonta, Avvocato Generale della California.

L'ufficio dell'AG ha ulteriormente affermato che xAI sembra «facilitare la produzione su larga scala» di foto inappropriate e non consensuali, che vengono poi «utilizzate per molestare donne e ragazze su internet». Secondo l'ufficio dell'AG, una ricerca ha rilevato che oltre la metà delle 20.000 foto prodotte da xAI tra Natale e Capodanno mostravano persone con indumenti molto leggeri, alcune delle quali sembravano bambini.

Rob Bonta ha affermato nella annuncio che che le pratiche aziendali violavano le leggi civili della California, tra cui la sezione 1708.86 del Codice Civile della California, le sezioni 311 e seguenti e 647(j)(4) del Codice Penale della California, e la sezione 17200 del Codice degli Affari e delle Professioni della California. 

Il Dipartimento di Giustizia della California si aspetta che xAI confermi i suoi sforzi per affrontare questi problemi e intraprenda azioni immediate per risolverli nei prossimi cinque giorni.

Tuttavia, l'account di sicurezza di X aveva precedentemente condannato questo tipo di comportamento degli utenti. Ha chiarito il 4 gennaio che intraprende azioni contro i contenuti illeciti su X, come il CSAM, eliminandoli, sospendendo gli account indefinitamente e collaborando con le autorità di polizia e i governi municipali quando necessario.

In particolare, il 4 gennaio, Elon Musk ha avvertito che chiunque utilizzi o solleciti Grok per creare contenuti illegali affronterà le stesse conseguenze come se li avesse caricati.

Gli avvocati generali intensificano la pressione sulle aziende di intelligenza artificiale per la sicurezza dei minori

Un aumento inquietante di contenuti per adulti non consensuali è derivato dallo sviluppo di strumenti di intelligenza artificiale generativa gratuiti. Questo problema sta affliggendo diverse piattaforme, non solo X.

Ad esempio, l'Avvocato Generale Bonta e l'Avvocato Generale Jennings del Delaware si sono incontrati con OpenAI a settembre dello scorso anno per esprimere le loro gravi preoccupazioni riguardo al crescente numero di segnalazioni su come i prodotti di OpenAI interagissero con i giovani.

Ad agosto dello stesso anno, l'AG Bonta, insieme ad altri 44 Avvocati Generali, ha inviato una lettera a 12 principali aziende di intelligenza artificiale dopo segnalazioni di interazioni inappropriate tra chatbot AI e bambini. Le lettere sono state inviate ad Anthropic, Apple, Chai AI, Google, Luka Inc., Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika e xAI.

L'AG Bonta e i 44 Avvocati Generali hanno informato le aziende nella lettera che gli stati di tutto il paese stavano monitorando da vicino come le aziende sviluppano le loro politiche di sicurezza dell'IA. Hanno anche sottolineato che queste aziende hanno un obbligo legale verso i minori in quanto consumatori, poiché traggono profitto dall'uso dei loro prodotti da parte dei bambini. 

Nel 2023, l'AG Bonta si è unito a una coalizione bipartitica di 54 stati e territori nell'invio di una lettera ai leader del Congresso per promuovere l'istituzione di una commissione di esperti per indagare sul potenziale utilizzo dell'IA per sfruttare i minori attraverso il CSAM. 

La coalizione ha richiesto che la commissione di esperti suggerisca leggi per proteggere i bambini da tali maltrattamenti. «La produzione di CSAM crea un registro permanente della vittimizzazione del bambino», secondo il Dipartimento di Giustizia degli Stati Uniti.