xAI causa un utente di Grok per immagini esplicite generate dall'AI di minori
- xAI ha citato in giudizio Terry Harwood, un uomo della Carolina del Sud già arrestato per sfruttamento di minori, accusandolo di aver ingannato il chatbot Grok per produrre deepfake di abusi sessuali su minori.
- Si tratta del primo caso in cui un'azienda di IA ha intentato una causa contro un utente per contenuti generati sulla sua piattaforma.
- L'esito potrebbe stabilire un modello per come il settore gestirà gli utenti che utilizzano strumenti generativi come armi.
xAI di Elon Musk ha portato un uomo della Carolina del Sud in tribunale federale in Texas, accusandolo di aver usato il chatbot Grok per creare deepfake sessualmente espliciti di minori, segnando la prima volta che un'azienda AI causa uno dei suoi stessi utenti per contenuti generati utilizzando la sua piattaforma.
L'imputato, Terry Harwood, è stato arrestato a febbraio per accuse separate di sfruttamento sessuale di minori, secondo Reuters. La denuncia civile di xAI è stata depositata martedì 14 aprile e ora sarà affiancata a qualsiasi caso penale che si svilupperà da quell'arresto.
La causa di xAI
Il deposito afferma che ha aperto diversi account sotto identità false, e poi ha alimentato lo strumento AI con fotografie regolari di adulti e bambini prima di scrivere prompt progettati per trasformare quelle immagini in contenuti sessuali. Secondo Al Jazeera, i soggetti usati in questi atti non avevano dato il consenso e non sapevano che le loro foto venivano utilizzate.
xAI sostiene che il sistema si sia opposto all'atto. Grok ha rifiutato le richieste, segnalandole come violazioni delle sue regole sui contenuti. La risposta di Harwood, secondo la denuncia, è stata continuare a riscrivere i prompt e riprovare.
"Le azioni dell'imputato sono state un calcolo schema per armare lo strumento del querelante per fini criminali, esponendo vittime reali a danni profondi e duraturi", ha scritto xAI nella causa, citato da Reuters. L'azienda sostiene anche che lui abbia prodotto immagini sessuali non consensuali di adulti.
L'azienda AI ha richiesto due cose dal tribunale nel deposito della causa. Queste includono danni monetari senza una cifra specifica allegata, e un ordine che vieti a Harwood di usare nuovamente il prodotto Grok.
xAI ha anche utilizzato la denuncia per dichiarare l'entità del suo lavoro di enforcement contro i cattivi attori. L'azienda ha dichiarato di aver sospeso 52.222 account quest'anno e di aver inviato 73.604 segnalazioni al National Center for Missing & Exploited Children, segnalazioni che hanno portato ad almeno 244 arresti nel 2026.
Grok rimane sotto maggiore scrutinio
xAI era già sotto pressione per ciò che Grok può produrre prima che questo caso emergesse. I regolatori in Europa hanno scrutinato lo strumento AI, mentre i legislatori a Washington hanno sollevato molteplici preoccupazioni. Sia la Malesia che l'Indonesia hanno bandito il chatbot a causa di output sessualmente esplicito, ha riportato Al Jazeera.
Lo stesso Elon Musk ha negato il problema sottostante all'inizio di quest'anno. "Non [sono] a conoscenza di alcuna immagine nuda di minori generata da Grok. Letteralmente zero", ha scritto su X a gennaio.
Non sono a conoscenza di immagini nude di minori generate da Grok. Letteralmente zero.
Ovviamente, Grok non genera immagini spontaneamente, lo fa solo su richiesta degli utenti.
Quando gli viene chiesto di generare immagini, rifiuterà di produrre qualsiasi cosa illegale, come principio operativo… https://t.co/YBoqo7ZmEj
— Elon Musk (@elonmusk) gennaio 14, 2026
Un recente percorso legale chiamato DEFIANCE Act ha anche portato a un aumento di questi casi. L'atto, firmato nel 2024, offre alle vittime di deepfake intimi non consensuali la possibilità di intentare causa, e diversi stati hanno approvato leggi individuali a tal fine.
Se stai leggendo questo, sei già avanti. Resta così con la nostra newsletter.
Disclaimer. Le informazioni fornite non costituiscono consulenza finanziaria. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti basati sulle informazioni presenti in questa pagina. Si raccomanda vivamente di effettuare ricerche autonome e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Opeyemi Olanrewaju
Opeyemi è specializzato nella creazione e nel perfezionamento di contenuti di alta qualità focalizzati su criptovalute, mercati finanziari globali ed economia. Si è laureato presso l'Università di Ibadan con una laurea in Medicina (MBBS). Ha lavorato come Caporedattore della pubblicazione editoriale del suo Ateneo e precedentemente presso CFA. Da oltre sei anni, si occupa di salvaguardare l'unicità dei contenuti in qualità di redattore capo per Cryptopolitan.
