Un juge fédéral permet au Minnesota d'appliquer l'interdiction de l'IA « nudification » malgré l'objection de xAI

Un juge fédéral a confirmé l'interdiction du Minnesota des outils d'IA capables de transformer des photos de personnes réelles en images et médias nus, rejetant une demande d'Elon Musk visant à xAI pour suspendre la loi pendant que le défi de la liberté d'expression de l'entreprise est examiné. La décision permet aux régulateurs de commencer les amendes allant jusqu'à 500 000 $ par image immédiatement.

Le juge fédéral Donovan Frank a refusé la demande de xAI pour une injonction préliminaire, un ordre qui aurait suspendu la loi jusqu'à la fin du procès. Le juge Donovan a examiné ce qu'il a appelé le « bilan des préjudices », et a estimé que « l'intérêt public penche fortement en faveur de l'État », selon le mémorandum cité par CBS Minnesota.

Le juge a décrit une « loi civile visant à protéger le public des dommages indéniables découlant de la technologie de nudification par IA », et a déclaré que la loi avait été adoptée « démocratiquement et presque à l'unanimité ». Il a été franc en admettant que les questions sous-jacentes liées au Premier Amendement étaient cependant toujours complexes, en raison du contexte d'une nouvelle technologie, estimant que l'affaire serait réglée au fur et à mesure de son avancement. Pour l'instant, cependant, l'interdiction reste confirmée.

Une présentation de dernière minute affaiblit le dossier de xAI

La législature du Minnesota a approuvé le projet de loi ce printemps, et le gouverneur a apposé sa signature. Cependant, xAI n'a pas intenté d'action en justice avant le 27 juillet, soit environ trois mois plus tard et quelques jours avant la date de début du 1er août. L'entreprise d'IA a demandé une ordonnance de référé le 29 juillet, que le juge Frank a rejetée le 31 juillet.

Ce délai est devenu encore plus une preuve contre xAI. « Si xAI craignait véritablement un préjudice irréparable, la Cour ne doute pas qu'elle aurait agi plus rapidement pour intenter cette action et demander une mesure d'injonction », a écrit Frank.

En d'autres termes, une entreprise qui court pour éviter une catastrophe n'attend pas la veille de l'application pour demander de l'aide à un tribunal.

Portée de la loi et coûts

La loi, connue sous le nom de HF 1606, est la première du genre dans tout le pays. Elle interdit à un fournisseur de permettre aux utilisateurs de générer des images réalistes ajoutant des parties intimes du corps absentes d'une photo originale d'une personne identifiable, et leur interdit également de produire une telle image pour le compte de tout utilisateur.

Chaque violation entraîne une amende civile allant jusqu'à 500 000 $, et les personnes représentées dans ces images peuvent intenter des actions individuelles en dommages et intérêts.

La loi fédérale Take It Down et l'approche du Texas en 2025 envers les deepfakes dépendent toutes deux de la connaissance du créateur quant au caractère non consensuel de l'image. Le Minnesota a complètement supprimé cette exigence, de sorte qu'un fournisseur peut être tenu responsable même sans savoir qu'une image nue a été créée.

Cette disposition de la loi est exactement la zone contre laquelle xAI se bat. Le projet de loi a été adopté à la Chambre des représentants par 132 voix contre 1 et au Sénat par 65 voix contre 0 après des rapports faisant état d'un homme ayant utilisé des photos de réseaux sociaux pour fabriquer des images sexualisées de plus de 80 femmes qu'il connaissait.

L'ampleur derrière Grok Imagine

Le procureur général Keith Ellison, qui a défendu la loi signée, a déclaré que la décision était une victoire pour les résidents du Minnesota. « Je suis extrêmement fier de défendre cette loi, et avec elle, la dignité des gens du Minnesota », a-t-il déclaré, ajoutant que la loi continue d'empêcher des produits comme Grok Imagine de xAI de générer des images sexualisées.

Selon un rapport cité dans la décision, Grok a produit environ 3 millions d'images sexualisées dans les 11 jours suivant le lancement d'une nouvelle fonctionnalité de retouche d'images, dont environ 23 000 qui semblaient représenter des enfants. Cryptopolitan avait précédemment rapporté que xAI, défendant son bilan, a déclaré avoir suspendu 52 222 comptes cette année et déposé 73 604 rapports auprès du Centre national pour les enfants disparus et exploités.

Les avocats de xAI ont maintenant déposé avis qu'ils demanderont à la Cour d'appel du 8e circuit de réexaminer le refus d'injonction. Lors d'arguments antérieurs, l'entreprise avait proposé la suspension des fonctionnalités pour les utilisateurs du Minnesota au lieu de risquer des amendes.