xAI combatte con il Minnesota per una legge che mira alle immagini sessuali generate dall'IA

L'Avvocato Generale del Minnesota Keith Ellison ha depositato un memoriale venerdì opponendosi al tentativo di xAI di bloccare l'HF 1606, la prima legge nello stato che restringe gli strumenti di IA che generano immagini sessuali di persone identificabili, secondo Decrypt.

Ellison ha sostenuto che è improbabile che l'azienda abbia successo nella sua rivendicazione costituzionale e non ha dimostrato che l'applicazione della legge causerebbe un danno irreparabile.

Con Grok Imagine, X.AI ha creato un mercato senza precedenti per la violenza sessuale digitale, e lo stato sarebbe indifeso fin dall'inizio a meno che non potesse dirigere le sue leggi contro la tecnologia stessa.

– Avvocato Generale Keith Ellison

L'argomento del Minnesota è che Grok Imagine è uno strumento e non un discorso protetto, il che lo escluderebbe dalle considerazioni presentate da xAI per il giudice da esaminare. Ci sarà un'udienza sulla materia da parte di un giudice federale mercoledì.

La legge del Minnesota mira ai fornitori di IA anche senza conoscenza o intento

L'HF 1606 vieta a un'azienda di permettere agli utenti di generare immagini realistiche che mostrano parti intime assenti dalla fotografia originale di una persona identificabile, e di produrre tale immagine per conto di un utente. Le violazioni comportano multe fino a $500.000 per immagine. Le persone raffigurate possono intentare causa separatamente.

Lo statuto non richiede che un'azienda sapesse dell'immagine o la intendesse. La maggior parte delle leggi sui deepfake, inclusa la legge federale Take It Down Act, penalizzano chiunque realizzi o condivida l'immagine.

Il Texas ha contattato gli operatori nel 2025 ma solo quando il proprietario era a conoscenza della mancanza di consenso o non rispondeva a un avviso di rimozione. Il Minnesota ha eliminato l'elemento della conoscenza, ed è questa la disposizione sotto attacco da parte di xAI mercoledì.

La Camera ha approvato il disegno di legge 132-1 e il Senato 65-0, dopo le segnalazioni di un uomo che ha utilizzato foto dei social media per creare immagini sessuali di oltre 80 donne che conosceva. È stato firmato ad aprile. xAI ha intentato causa il 27 luglio e ha richiesto un ordine restrittivo temporaneo il 29 luglio.

Il 31 luglio, il giudice Donovan Frank ha respinto la petizione, sottolineando che l'azienda aveva presentato la domanda quasi tre mesi dopo la firma e tre giorni prima della data di entrata in vigore, indicando che "il danno non è immediato". La legge è entrata in vigore l'1 agosto.

xAI afferma che le regole del Minnesota potrebbero criminalizzare la satira e le immagini consensuali

La denuncia non contesta l'interesse dello stato a prevenire le immagini non consensuali, ma sostiene piuttosto che lo statuto vada ben oltre questo, e l'argomento ruota attorno a una definizione. Secondo xAI, lo stato del Minnesota ha basato la sua definizione di parte intima su un'attuazione destinata a reati che coinvolgono il contatto fisico, il che copre le cosce interne e i seni, includendo quindi costumi da bagno e satira.

A pagina 19 del documento è presente un'immagine generata dall'IA che Trump aveva condiviso su Truth Social il 1° maggio, in cui è visto con JD Vance, Marco Rubio e il Segretario degli Interni Doug Burgum senza maglietta, insieme a una donna sconosciuta, nella Reflecting Pool del Lincoln Memorial, una battuta sul costo delle riparazioni della piscina. Il seno di ogni uomo è raffigurato dove non lo era prima, sostiene xAI, il che rende l'immagine illegale nel Minnesota.

"Anche se i soggetti avessero dato il loro consenso, generato le immagini stesse o non le avessero mai condivise, non esiste una safe harbor per gli sforzi di buona fede da parte del fornitore di strumenti creativi di IA a scopo generale", ha dichiarato l'azienda.

Secondo i suoi stessi calcoli, dieci di queste immagini costano $5 milioni e centomila raggiungerebbero $50 miliardi.

Il record di enforcement di Grok evidenzia l'entità del problema di abuso

L'azienda ha offerto il suo record di conformità come prova di buona fede. Come riportato in precedenza da Cryptopolitan, xAI ha dichiarato in una presentazione di luglio di aver sospeso 52.222 account quest'anno e inviato 73.604 segnalazioni al Centro Nazionale per i Bambini Scomparsi e Sfruttati, producendo almeno 244 arresti nel 2026.

Questi numeri sono anche una misura della scala. Secondo il Center for Countering Digital Hate, nell'arco di 11 giorni tra il 29 dicembre e l'8 gennaio, dopo l'approvazione di Musk alla funzionalità di modifica dell'app, Grok ha creato circa 3 milioni di immagini sessualmente esplicite, tra cui circa 23.000 che sembravano raffigurare bambini.

La California ha aperto un'indagine il 14 gennaio e ha inviato una diffida due giorni dopo. Trentacinque avvocati generali hanno firmato una richiesta congiunta il 23 gennaio. Secondo Ellison, una class action è stata intentata da cinque bambini e due famiglie dell'Arkansas hanno intentato causa in tribunale federale.

La Commissione Europea ha lanciato un'indagine il 27 gennaio, e il chatbot è stato bandito in Malesia e Indonesia.