xAI fa causa a un utente di Grok per immagini esplicite di minori generate dall'intelligenza artificiale
- xAI ha intentato causa contro Terry Harwood, un uomo della Carolina del Sud già arrestato per sfruttamento di minori, sostenendo che questi abbia ingannato il suo chatbot Grok inducendolo a produrre deepfake di abusi sessuali su minori.
- Si tratta della prima causa di questo tipo intentata da un'azienda di intelligenza artificiale contro un utente per contenuti pubblicati sulla sua piattaforma.
- L'esito potrebbe stabilire un modello per il modo in cui il settore gestisce gli utenti che utilizzano gli strumenti generativi in modo improprio.
xAI, la società di Elon Musk specializzata in intelligenza artificiale, ha citato in giudizio un uomo della Carolina del Sud presso un tribunale federale del Texas, accusandolo di aver utilizzato il chatbot Grok per creare deepfake a sfondo sessuale raffiguranti minori. Si tratta della prima volta in assoluto che un'azienda di intelligenza artificiale fa causa a un proprio utente per contenuti generati tramite la sua piattaforma.
Secondo Reuters, l'imputato, Terry Harwood, è stato arrestato a febbraio con l'accusa separata di sfruttamento sessuale di minori. La denuncia civile di xAI è stata presentata martedì 14 aprile e ora affiancherà l'eventuale procedimento penale derivante da tale arresto.
La causa intentata da xAI
Secondo quanto riportato nella denuncia, l'uomo avrebbe aperto diversi account con falsedent, per poi inserire nello strumento di intelligenza artificiale fotografie di adulti e bambini, prima di scrivere testi con l'obiettivo di trasformare le immagini in contenuti a sfondo sessuale. Secondo Al Jazeera, i soggetti coinvolti non avevano dato il loro consenso e non erano a conoscenza dell'utilizzo delle loro immagini.
xAI sostiene che il sistema si sia opposto all'azione. Grok ha rifiutato le richieste, segnalandole come violazioni delle sue regole sui contenuti. La risposta di Harwood, secondo la denuncia, è stata quella di continuare a riscrivere i prompt e a riprovare.
"Le azioni dell'imputato costituivano un piano premeditato per utilizzare lo strumento del querelante a fini criminali, esponendo vittime reali a danni profondi e duraturi", ha scritto xAI nella denuncia, citata da Reuters. L'azienda sostiene inoltre che l'imputato abbia prodotto immagini sessuali non consensuali di adulti.
Nella causa, la società di intelligenza artificiale ha richiesto due cose al tribunale: un risarcimento danni, senza specificare una cifra precisa, e un'ingiunzione che impedisca a Harwood di utilizzare nuovamente il prodotto Grok.
xAI ha inoltre sfruttato la documentazione per illustrare la portata delle sue attività di contrasto nei confronti degli utenti malintenzionati. L'azienda ha dichiarato di aver sospeso 52.222 account quest'anno e di aver inviato 73.604 segnalazioni al National Center for Missing & Exploited Children, segnalazioni che hanno portato ad almeno 244 arresti nel 2026.
Grok rimane sotto stretta osservazione
Prima di questo caso, xAI era già sotto pressione per le potenzialità di Grok. Le autorità di regolamentazione europee hanno esaminato attentamente lo strumento di intelligenza artificiale, mentre i legislatori di Washington hanno sollevato diverse preoccupazioni. Sia la Malesia che l'Indonesia hanno vietato il chatbot a causa dei contenuti sessualmente espliciti che produceva, come riportato da.
Lo stesso Elon Musk ha negato il problema di fondo all'inizio di quest'anno. "Non sono a conoscenza di alcuna immagine di minori nudi generata da Grok. Letteralmente zero", ha scritto su X a gennaio.
Non sono a conoscenza di alcuna immagine di minori nudi generata da Grok. Letteralmente zero.
Ovviamente, Grok non genera immagini spontaneamente, lo fa solo in base alle richieste dell'utente.
Quando gli viene chiesto di generare immagini, si rifiuterà di produrre qualsiasi cosa illegale, poiché il principio operativo è… https://t.co/YBoqo7ZmEj
— Elon Musk (@elonmusk) 14 gennaio 2026
Un percorso legale recentemente creato, denominato DEFIANCE Act, ha contribuito all'aumento di questi casi. La legge, firmata nel 2024, offre alle vittime di deepfake intimi non consensuali la possibilità di intentare causa, e diversi stati hanno approvato leggi individuali in tal senso.
Non limitarti a leggere le notizie sulle criptovalute. Cerca di capirle. Iscriviti alla nostra newsletter. È gratis.
Disclaimer. Le informazioni fornite non costituiscono consulenza di trading. Cryptopolitan/ non si assume alcuna responsabilità per gli investimenti effettuati sulla base delle informazioni fornite in questa pagina. Consigliamotronvivamente di effettuare ricerche indipendentident di consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Opeyemi Olanrewaju
Opeyemi è specializzato nella creazione e nel perfezionamento di contenuti di alta qualità incentrati su criptovalute, mercati finanziari globali ed economia. Si è laureato in Medicina e Chirurgia presso l'Università di Ibadan. Ha lavorato come caporedattore della pubblicazione universitaria e in precedenza presso CFA. Per oltre sei anni, ha contribuito a preservare l'unicità del sito in qualità di responsabile editoriale di Cryptopolitan.
