xAI si batte in Minnesota contro una legge che prende di mira le immagini sessuali generate dall'intelligenza artificiale

Secondo Decrypt, il procuratore generale del Minnesota, Keith Ellison, ha presentato venerdì un documento in cui si oppone al tentativo di xAI di bloccare la HF 1606, la prima legge statale negli Stati Uniti che limita gli strumenti di intelligenza artificiale in grado di generare immagini a sfondo sessuale di personedent.

Ellison ha sostenuto che è improbabile che la società abbia successo nella sua rivendicazione costituzionale e non è riuscita a dimostrare che l'applicazione della legge causerebbe un danno irreparabile.

Con Grok Imagine, X.AI ha creato un mercato senza precedenti per la violenza sessuale digitale, e lo Stato sarebbe indifeso fin dall'inizio a meno che non potesse indirizzare le proprie leggi contro la tecnologia stessa.

– Il procuratore generale Keith Ellison

La tesi del Minnesota è che Grok Imagine sia uno strumento e non un'espressione protetta, il che lo escluderebbe dalle considerazioni presentate da xAI che il giudice dovrebbe esaminare. Mercoledì si terrà un'udienza sulla questione davanti a un giudice federale.

La legge del Minnesota prende di mira i fornitori di intelligenza artificiale anche senza la loro conoscenza o intenzione

La legge HF 1606 vieta alle aziende di consentire agli utenti di generare immagini realistiche che mostrino parti intime assenti nella fotografia originale di una personadent, e di produrre tali immagini per conto di un utente. Le violazioni comportano sanzioni fino a 500.000 dollari per immagine. Le persone ritratte possono intentare causa separatamente.

La legge non richiede che un'azienda fosse a conoscenza dell'immagine o che l'avesse creata intenzionalmente. La maggior parte delle leggi sui deepfake, incluso il Take It Down Act federale, sanziona chiunque crei o condivida l'immagine.

Il Texas ha contattato gli operatori nel 2025, ma solo quando il proprietario era a conoscenza della mancanza di consenso o non rispondeva a una notifica di rimozione. Il Minnesota ha eliminato l'elemento della conoscenza, ed è proprio questa la disposizione contestata da xAI mercoledì.

La Camera ha approvato il disegno di legge con 132 voti favorevoli e 1 contrario, mentre il Senato lo ha approvato all'unanimità (65 voti a favore e 0 contrari), in seguito alle segnalazioni di un uomo che avrebbe utilizzato foto provenienti dai social media per creare immagini a sfondo sessuale di oltre 80 donne che conosceva. Il disegno di legge è stato firmato ad aprile. xAI ha intentato causa il 27 luglio e ha richiesto un'ordinanza restrittiva temporanea il 29 luglio.

Il 31 luglio, il giudice Donovan Frank ha respinto la petizione, sottolineando che la società l'aveva presentata quasi tre mesi dopo la firma dell'accordo e tre giorni prima della data di entrata in vigore, il che indicava che "il danno non era immediato". La legge è entrata in vigore il 1° agosto.

xAI afferma che le norme del Minnesota potrebbero criminalizzare la satira e le immagini consensuali

La denuncia non contesta l'interesse dello Stato a prevenire la diffusione di immagini non consensuali, ma sostiene piuttosto che la legge vada ben oltre tale ambito, e la questione si basa su una defi. Secondo xAI, lo Stato del Minnesota ha basato la sua defidi parte intima su una norma relativa ai reati che implicano contatto fisico, e questa include l'interno coscia e il seno, comprendendo quindi costumi da bagno e immagini satiriche.

A pagina 19 del documento è presente un'immagine generata dall'intelligenza artificiale che Trump aveva condiviso su Truth Social il 1° maggio, in cui appare a torso nudo con JD Vance, Marco Rubio e il Segretario degli Interni Doug Burgum, insieme a una donna sconosciuta, nella vasca riflettente del Lincoln Memorial, una battuta sul costo dei lavori di ristrutturazione della vasca. Secondo xAI, il seno di ciascun uomo è raffigurato in una posizione in cui prima non era presente, il che renderebbe l'immagine illegale in Minnesota.

"Anche se i soggetti hanno dato il loro consenso, hanno generato le immagini da soli o non le hanno mai condivise, non esiste una clausola di esonero da responsabilità per gli sforzi in buona fede da parte del fornitore di strumenti creativi di intelligenza artificiale di uso generale", ha affermato l'azienda.

Secondo i suoi stessi calcoli, dieci di queste immagini costerebbero 5 milioni di dollari e centomila arriverebbero a 50 miliardi di dollari.

Il curriculum di Grok in materia di applicazione della legge evidenzia la portata del problema degli abusi

L'azienda ha presentato il proprio storico di conformità come prova di buona fede. Come Cryptopolitan riportato in precedenza, xAI ha dichiarato in un documento depositato a luglio di aver sospeso 52.222 account quest'anno e di aver inviato 73.604 segnalazioni al National Center for Missing and Exploited Children, portando ad almeno 244 arresti nel 2026.

Queste cifre forniscono anche un'indicazione della portata del fenomeno. Secondo il Center for Countering Digital Hate, negli 11 giorni compresi tra il 29 dicembre e l'8 gennaio, dopo l'approvazione da parte di Musk della funzionalità di modifica dell'app, Grok ha creato circa 3 milioni di immagini sessualmente esplicite, di cui circa 23.000 che sembravano ritrarre minori.

La California ha avviato un'indagine il 14 gennaio e ha emesso un'ingiunzione di cessazione delle attività due giorni dopo. Trentacinque procuratori generali hanno firmato una richiesta congiunta il 23 gennaio. Secondo Ellison, cinque bambini hanno intentato una class action e due famiglie dell'Arkansas hanno presentato ricorso presso un tribunale federale.

La Commissione europea ha avviato un'indagine il 27 gennaio e il chatbot è stato vietato in Malesia e Indonesia.