xAI s'affronte au Minnesota sur une loi ciblant les images sexuelles générées par IA

Le procureur général du Minnesota, Keith Ellison, a déposé un mémoire vendredi s'opposant à la tentative de xAI de bloquer le projet de loi HF 1606, la première loi au pays de l'État restreignant les outils d'IA générant des images sexuelles de personnes identifiables, selon Decrypt.

Ellison a fait valoir que l'entreprise a peu de chances de réussir dans sa revendication constitutionnelle et n'a pas réussi à démontrer que l'application de la loi causerait un préjudice irréparable.

Avec Grok Imagine, X.AI a créé un marché sans précédent pour la violence sexuelle numérique, et l'État serait impuissant dès le départ s'il ne pouvait pas diriger ses lois contre la technologie elle-même.

– Le procureur général Keith Ellison

L'argument du Minnesota est que Grok Imagine est un outil et non une parole protégée, ce qui l'extrairait des considérations présentées par xAI pour l'examen du juge. Une audience sur la question aura lieu devant un juge fédéral mercredi.

La loi du Minnesota cible les fournisseurs d'IA même sans connaissance ou intention

Le projet de loi HF 1606 interdit à une entreprise de permettre aux utilisateurs de générer des images réalistes montrant des parties intimes absentes de la photographie originale d'une personne identifiable, et de produire une telle image pour le compte d'un utilisateur. Les violations entraînent des amendes allant jusqu'à 500 000 dollars par image. Les personnes représentées peuvent intenter des poursuites séparément.

Le statut n'exige pas qu'une entreprise ait connaissance de l'image ou l'ait intentionnée. La plupart des lois sur les deepfakes, y compris la loi fédérale Take It Down, pénalisent quiconque crée ou partage l'image.

Le Texas a contacté les opérateurs en 2025 mais uniquement lorsque le propriétaire avait connaissance du manque de consentement ou n'avait pas répondu à un avis de retrait. Le Minnesota a éliminé l'élément de connaissance, et c'est cette disposition qui est attaquée par xAI mercredi.

La Chambre des représentants a adopté le projet de loi par 132 voix contre 1 et le Sénat par 65 voix contre 0, suite aux rapports d'un homme ayant utilisé des photos de réseaux sociaux pour créer des images sexuelles de plus de 80 femmes qu'il connaissait. Il a été signé en avril. xAI a intenté un procès le 27 juillet et a demandé une ordonnance de restriction temporaire le 29 juillet.

Le 31 juillet, le juge Donovan Frank a rejeté la pétition, soulignant que l'entreprise avait déposé sa demande près de trois mois après la signature et trois jours avant la date d'entrée en vigueur, indiquant que « le préjudice n'est pas immédiat ». La loi est entrée en vigueur le 1er août.

xAI affirme que les règles du Minnesota pourraient criminaliser la satire et les images consensuelles

La plainte ne conteste pas l'intérêt de l'État à prévenir les images non consensuelles, mais soutient plutôt que le statut va bien au-delà, et l'argument repose sur une définition. Selon xAI, l'État du Minnesota a basé sa définition d'une partie intime sur une législation destinée aux crimes impliquant un contact corporel, ce qui couvre les cuisses intérieures et les seins, incluant ainsi les maillots de bain et la satire.

La page 19 du document contient une image générée par l'IA que Trump avait partagée sur Truth Social le 1er mai, le montrant avec JD Vance, Marco Rubio et le secrétaire à l'Intérieur Doug Burgum sans chemise, ainsi qu'une femme inconnue, dans le bassin du Mémorial Lincoln, une blague sur le coût des réparations du bassin. Le sein de chaque homme est représenté là où il ne l'était pas auparavant, soutient xAI, ce qui rend l'image illégale au Minnesota.

« Même si les sujets ont donné leur consentement, généré les images eux-mêmes ou ne les ont jamais partagées, il n'y a pas de port sûr pour les efforts de bonne foi du fournisseur d'outils créatifs d'IA à usage général », a déclaré l'entreprise.

Selon ses propres calculs, dix de ces images coûtent 5 millions de dollars et cent mille atteindraient 50 milliards de dollars.

Le dossier d'application de la loi de Grok met en lumière l'ampleur du problème d'abus

L'entreprise a présenté son historique de conformité comme une preuve de bonne foi. Comme Cryptopolitan l'avait rapporté précédemment, xAI a déclaré dans un dépôt de juillet qu'elle avait suspendu 52 222 comptes cette année et envoyé 73 604 signalements au Centre national pour les enfants disparus et exploités, entraînant au moins 244 arrestations en 2026.

Ces chiffres sont également une mesure de l'échelle. Selon le Center for Countering Digital Hate, sur une période de 11 jours entre le 29 décembre et le 8 janvier, après l'approbation de Musk de la fonctionnalité d'édition de l'application, Grok a créé environ 3 millions d'images sexuellement explicites, dont environ 23 000 qui ressemblaient à des enfants représentés.

La Californie a ouvert une enquête le 14 janvier et a envoyé un avis de cessation deux jours plus tard. Trente-cinq procureurs généraux ont signé une demande conjointe le 23 janvier. Selon Ellison, une action collective a été intentée par cinq enfants, et deux familles de l'Arkansas ont intenté un procès en justice fédérale.

La Commission européenne a lancé une enquête le 27 janvier, et le chatbot a été banni en Malaisie et en Indonésie.