Les applications de « nudification » basées sur l'IA gagnent en popularité, suscitant des inquiétudes

Une tendance inquiétante se dessine : les applications et sites web qui utilisent l’intelligence artificielle (IA) pour déshabiller les femmes sur des photos gagnent en popularité, selon une étude récente. Ces applications, souvent qualifiées de services de « nudification », soulèvent de sérieuses questions de respect de la vie privée, d’éthique et de consentement.

Popularité en forte hausse

Rien qu'en septembre, environ 24 millions de personnes ont visité ces sites web de déshabillage, selon Graphika, une société d'analyse des réseaux sociaux. Nombre de ces services sont commercialisés via les réseaux sociaux populaires, et le nombre de liens publicitaires pour des applications de déshabillage sur des plateformes comme X et Reddit a explosé de plus de 2 400 % depuis le début de l'année, d'après les chercheurs. La fonction principale de ces applications est d'utiliser l'intelligence artificielle pour manipuler des images et créer une version simulée de la personne nue. Il est important de noter que la majorité de ces services ciblent exclusivement les femmes.

Dilemmes éthiques et juridiques

Ces applications pilotées par l'IA s'inscrivent dans une tendance inquiétante liée à la pornographie non consensuelle, facilitée par les progrès de l'IA et conduisant à la prolifération de la pornographie deepfake. La pornographie deepfake consiste généralement à créer des contenus falsifiés, tels que des vidéos ou des images, souvent à l'insu et sans le consentement de la personne concernée. Ces images proviennent fréquemment des réseaux sociaux et sont diffusées sans que la personne concernée puisse les contrôler ou en être consciente, ce qui soulève d'importants problèmes éthiques et juridiques.

harcèlement en ligne et atteintes à la vie privée

Les inquiétudes se sont accrues, certaines de ces applications et services encourageant les comportements non consensuels et le harcèlement. Par exemple, une image publiée sur X faisant la promotion d'une application de déshabillage laissait entendre que les utilisateurs pouvaient générer des images de nus et les envoyer à des personnes virtuellement dévêtues, incitant ainsi au harcèlement et aux abus. De plus, certaines de ces applications ont payé pour du contenu sponsorisé sur la plateforme YouTube de Google, apparaissant en bonne place dans les résultats de recherche pour des termes comme « nudifier ». Or, Google a déclaré ne pas autoriser les publicités à contenu sexuellement explicite et supprime activement les publicités non conformes. À ce jour, ni X ni Reddit n'ont répondu aux demandes de commentaires.

Prolifération des deepfakes

La diffusion non consensuelle de pornographie impliquant des personnalités publiques est un problème récurrent sur Internet. Cependant, les spécialistes de la protection de la vie privée s'inquiètent de plus en plus des progrès de l'intelligence artificielle, qui ont rendu les logiciels de deepfake plus accessibles et efficaces. Ces outils sont désormais utilisés non seulement par des personnes malveillantes, mais aussi par des particuliers, y compris des lycéens etdent, pour cibler des victimes sans méfiance.

Les défis liés à la lutte contre les deepfakes

La lutte contre la pornographie truquée (deepfake) pose d'importants défis. Bien que des lois interdisent la production de tels contenus impliquant des mineurs, aucune loi fédérale américaine n'interdit spécifiquement la création de deepfakes pornographiques impliquant des adultes. Les forces de l'ordre rencontrent souvent des difficultés pour enquêter sur ces affaires, et les victimes peuvent avoir du mal à réunir les fonds nécessaires pour engager des poursuites judiciaires.

En novembre dernier, un pédopsychiatre de Caroline du Nord a été condamné à 40 ans de prison pour avoir utilisé des applications permettant de déshabiller des patients sur des photos. Il s'agissait de la première poursuite de ce type en vertu des lois interdisant la création de matériel pédopornographique truqué.

Réponses de la plateforme

Face à l'inquiétude croissante, les plateformes de réseaux sociaux ont pris des mesures. TikTok, par exemple, a bloqué le mot-clé « déshabiller », souvent associé à ces services. Lorsqu'un utilisateur recherche ce terme, un avertissement l'informe qu'il peut être lié à un comportement ou à un contenu enfreignant les règles de la plateforme. De même, Meta Platforms Inc., la société mère de Facebook, a également commencé à bloquer les mots-clés associés à la recherche d'applications de déshabillage. Cependant, les deux entreprises ont refusé de faire d'autres commentaires à ce sujet.

Considérations juridiques et éthiques

L’essor des applications de « nudification » utilisant l’IA souligne l’urgence de se pencher sur les questions juridiques et éthiques liées aux deepfakes pornographiques et aux contenus non consensuels générés par l’IA. Face aux progrès technologiques constants, il est indispensable de mettre en place des réglementations et des garanties afin de protéger les individus contre le harcèlement, les atteintes à la vie privée et l’utilisation abusive de l’IA à des fins malveillantes.

En conclusion, la prolifération d'applications basées sur l'IA capables de générer des deepfakes de nudité non consensuels constitue une tendance inquiétante qui souligne l'urgence de traiter les questions éthiques, juridiques et de protection de la vie privée à l'ère numérique. Face à l'évolution technologique, les législateurs et les entreprises du secteur doivent prendre des mesures proactives pour lutter contre le détournement de l'IA à des fins malveillantes et protéger les individus contre les risques potentiels