Des femmes de l'Arizona portent plainte contre des deepfakes sexuels générés par l'IA

Trois femmes de l'Arizona ont porté plainte contre plusieurs personnes et entreprises, affirmant que leurs images avaient été extraites de leurs pages sur les réseaux sociaux et utilisées par des modèles d'intelligence artificielle (IA) pour créer des deepfakes. Elles ont déclaré que les suspects avaient utilisé ces modèles pour générer des images à caractère sexuel les représentant et en tirer profit.

La plainte déposée auprès de la Cour supérieure du comté de Maricopa, en Arizona, vise un compte Instagram ayant publié plusieurs vidéos de femmes présentées comme des mannequins virtuelles par intelligence artificielle à des fins lucratives. Les plaignantes, dont les noms sont tenus secrets pour des raisons de confidentialité, ont indiqué que certaines images avaient été créées à partir de leurs photos issues des réseaux sociaux sans leur consentement préalable. L'une des victimes a déclaré être désormais la cible de regards qu'elle accepte mal, du simple fait de la diffusion de ces images.

Des femmes de l'Arizona intentent une action en justice concernant le contenu généré par l'IA

La plainte vise trois défendeurs du comté de Maricopa, en Arizona, dont Beau Schultz, propriétaire du compte Instagram. Elle cite également 50 autres personnes non identifiées et plusieurs sociétés qui auraient été créées ou utilisées pour gérer l'activité. Les plaignants sont représentés par Nick Brand du cabinet Donlon Group et Cristina Perez Hesano du cabinet Pere Law Group.

Selon Brand, les accusés, probablement originaires d'Arizona, ont créé des tutoriels pour apprendre à d'autres hommes et garçons à fabriquer ces prétendus influenceurs virtuels, dont les images sont ensuite dénudées à partir de photos où ils sont entièrement vêtus. Il a ajouté que les accusés utilisent ces deepfakes pour mettre en place un site web pornographique par abonnement, où ils échangent des messages érotiques avec leurs clients. Brand a indiqué que l'affaire lui semblait plus vaste qu'il ne l'avait imaginé avant d'en être chargé.

Dans le cadre de la plainte déposée en Arizona, les défendeurs ont conseillé à leurs clients d'éviter les influenceurs populaires ou connus et de privilégier les micro-influenceurs afin de limiter les risques de poursuites judiciaires. « Je n'arrive pas à croire à quel point j'étais naïve face aux souffrances endurées par les femmes avec les progrès technologiques », a déclaré. Selon l'une des victimes, seule une législation stricte permettra de prévenir ces abus et d'empêcher que d'autres femmes ne soient victimes d'escroqueries similaires.

La plateforme de paiement nie toute malversation

Une autre victime a souligné que le public ne devrait pas pouvoir utiliser l'intelligence artificielle pour causer autant de ravages, précisant que ceux qui l'utilisent ciblent la sœur, la mère, un ami ou un collègue de quelqu'un. De son côté, Phyziro, une plateforme de traitement des paiements citée dans la plainte, a déclaré que ces accusations étaient totalement infondées. L'entreprise a affirmé être un fournisseur de services informatiques interactifs au sens de l'article 230 du titre 47 du code des États-Unis.

La société ne saurait être considérée comme l'éditeur, l'orateur ou l'auteur de tout contenu ou transaction généré par des utilisateurs tiers ou des agents autonomes. Elle n'est par ailleurs pas tenue de surveiller les intentions spécifiques ou les activités illicites des utilisateurs ou des utilisateurs d'utilisateurs. Le Membre et le Gestionnaire sont exonérés de toute responsabilité en cas d'« asymétrie d'information » lorsque des agents d'IA, des utilisateurs ou des utilisateurs d'utilisateurs agissent en dehors du champ de vision ou de la programmation directe du Gestionnaire

L'entreprise a précisé qu'elle ne fournit que des outils et une infrastructure neutres, soulignant que sa responsabilité se limite strictement au bon fonctionnement technique de la plateforme. Dans sa déclaration, elle indique que l'article 230 du Communications Decency Act la dégage de toute responsabilité. Cependant, une initiative bipartite est actuellement menée au Congrès pour abroger cette loi, ce qui obligerait les plateformes à rendre des comptes sur les contenus publiés sur leurs sites web ou accessibles via ces derniers.

Cette nouvelle en provenance d'Arizona survient alors que le chatbot Grok fait l'objet de vives critiques à l'échelle mondiale. Plusieurs gouvernements ont accusé la plateforme de ne pas mettre en place de mécanismes de contrôle efficaces, ce qui a permis au chatbot de créer des deepfakes (images truquées) générés par intelligence artificielle, contenant des images explicites de femmes et d'enfants. Si certains pays ont adressé des avertissements à la plateforme, d'autres en ont temporairement suspendu l'accès jusqu'à ce que le problème soit résolu.