Explosion des nudités factices générées par l'IA : une menace pour la vie privée et les vies

L'essor des outils d'intelligence artificielle (IA) a alimenté une augmentation inquiétante d'images et de vidéos pornographiques falsifiées, soulevant d'importantes préoccupations concernant la vie privée et l'exploitation. Les victimes, principalement des femmes et des adolescents, se retrouvent mal préparés face à la visibilité que les nudités factices générées par l'IA engendre.

L'intrusion dans la vie privée

Gabi Belle, une influenceuse YouTube, a découvert que son image était utilisée dans une photo de nudité factice circulant sur Internet. L'image la représentait dans une situation compromettante, bien qu'elle n'ait jamais donné son consentement pour un tel contenu. L'expérience de Belle n'est pas unique ; de nombreuses personnes, y compris des célébrités et des adolescents ordinaires, ont été victimes de nudités factices générées par l'IA. Ces images fausses peuvent provoquer de la honte, servir à extorquer de l'argent ou servir de exutoire à des fantasmes privés.

Une croissance sans précédent des nus falsifiés

L'intelligence artificielle a permis un essor sans précédent des images et vidéos pornographiques falsifiées. Selon l'analyste de l'industrie Genevieve Oh, sur les 10 sites web les plus connus pour héberger des photos pornographiques générées par IA, le nombre de nus falsifiés a augmenté de plus de 290 % depuis 2018. Ces sites mettent en vedette non seulement des célébrités et des personnalités politiques, mais aussi des individus innocents dont l'image a été exploitée sans leur consentement.

Absence de protections juridiques

Les victimes de pornographie falsifiée générée par l'IA disposent de recours limités en raison de l'absence de lois fédérales régissant la pornographie deepfake. Seuls quelques États ont adopté des réglementations, laissant ainsi un vide juridique important. La récente ordonnance exécutive de la présidente Biden sur l'IA recommande aux entreprises d'étiqueter le contenu généré par l'IA, mais ne le rend pas obligatoire. Des experts juridiques soutiennent que les images falsifiées générées par l'IA pourraient ne pas relever des protections du droit d'auteur concernant les ressemblances personnelles, car elles sont issues de vastes ensembles de données.

Les femmes et les adolescentes particulièrement à risque

Les nus générés par IA et falsifiés représentent un risque majeur pour les femmes et les adolescentes, qui se retrouvent souvent démunies face à cette visibilité soudaine. Une étude de Sensity AI, une entreprise spécialisée dans la surveillance des deepfakes, révèle que 96 % des images deepfake sont pornographiques et que 99 % ciblent les femmes. L'analyse de Genevieve Oh portant sur les 10 premiers sites hébergeant des images pornographiques falsifiées a montré qu'en 2023 seulement, plus de 415 000 telles images avaient été téléchargées, cumulant près de 90 millions de vues.

Explosion des vidéos pornographiques générées par IA

Les vidéos pornographiques générées par IA se sont également multipliées sur le web. En 2023, plus de 143 000 fausses vidéos ont été ajoutées aux 40 sites les plus populaires hébergeant du contenu deepfake, dépassant le nombre total de nouvelles vidéos publiées entre 2016 et 2022. Ces vidéos ont accumulé plus de 4,2 milliards de vues. Le Federal Bureau of Investigation (FBI) a mis en garde contre une augmentation de l'extorsion sexuelle, avec plus de 26 800 victimes de campagnes d'« extorsion sexuelle » (sextortion) recensées à ce jour, en septembre.

Protections limitées de Google

Le moteur de recherche populaire Google a mis en place des politiques pour empêcher l'apparition d'images sexuelles non consensuelles dans les résultats de recherche. Cependant, ses protections contre les deepfakes sont moins robustes, permettant à la pornographie générée par IA de figurer en bonne place dans les résultats. Google travaille à renforcer ces protections et vise à mettre en place des garde-fous qui ne nécessitent pas de demandes individuelles de suppression de contenu.

Défis liés à la sanction des créateurs

Sanctionner les créateurs de contenu pornographique généré par IA s'avère difficile. L'article 230 du Communications Decency Act protège les entreprises de médias sociaux contre toute responsabilité concernant le contenu publié sur leurs plateformes, ce qui laisse peu d'incitation aux sites web à surveiller ces images. Les victimes peuvent demander la suppression de leur image, mais le contenu généré par IA est extrait de vastes ensembles de données, rendant difficile la preuve de violations du droit d'auteur ou d'atteinte à l'image personnelle.

Efforts au niveau des États et réglementations variées

Au moins neuf États, dont la Californie, le Texas et la Virginie, ont adopté des lois ciblant les deepfakes. Cependant, ces textes diffèrent par leur portée : certains permettent aux victimes de porter plainte pénalement, tandis que d'autres n'autorisent que des poursuites civiles. Identifier les responsables susceptibles d'être poursuivis en justice peut s'avérer une tâche complexe.

La nécessité de réglementations plus strictes

L'impulsion visant à réguler les images et vidéos générées par l'IA vise principalement à empêcher leur diffusion massive et à répondre aux préoccupations liées à l'ingérence électorale. Toutefois, ces règles font peu pour atténuer les dommages causés par les deepfakes pornographiques, qui peuvent gravement affecter la vie d'un individu, même lorsqu'ils sont partagés au sein de petits groupes.

La prolifération de nus artificiels générés par l'IA constitue une menace grave pour la vie privée et l'intégrité personnelle, particulièrement pour les femmes et les adolescents. L'absence de lois fédérales complètes et les difficultés à sanctionner les créateurs de ce type de contenu soulignent l'urgence de mettre en place des réglementations et des protections plus robustes. À mesure que l'IA continue d'évoluer, il devient de plus en plus crucial de traiter le problème croissant des nus artificiels générés par l'IA afin de protéger les individus contre l'exploitation et les préjudices à l'ère numérique.