Explosion des faux nus générés par l'IA, une menace pour la vie privée et les vies humaines

L'essor des outils d'intelligence artificielle (IA) a alimenté une augmentation inquiétante des fausses images et vidéos pornographiques, soulevant de graves préoccupations quant au respect de la vie privée et à l'exploitation. Les victimes, principalement des femmes et des adolescentes, se retrouvent démunies face à la visibilité que leur confèrent les faux nus générés par l'IA.

L'atteinte à la vie privée

Gabi Belle, une influenceuse YouTube, a découvert que son image était utilisée dans une fausse photo de nu circulant sur Internet. L'image la montrait dans une situation compromettante, alors qu'elle n'avait jamais consenti à un tel contenu. L'expérience de Belle n'est pas un cas isolé : de nombreuses personnes, y compris des célébrités et des adolescents, ont été victimes de fausses photos de nu générées par intelligence artificielle. Ces images truquées peuvent susciter la honte, extorquer de l'argent ou servir d'exutoire à des fantasmes intimes.

Croissance sansdentdes dents dans les faux nus

L'intelligence artificielle a engendré une explosion sansdentd'images et de vidéos pornographiques truquées. Sur les dix sites web les plus connus pour héberger des photos pornographiques générées par IA, le nombre de faux nus a explosé de plus de 290 % depuis 2018, selon l'analyste Genevieve Oh. Ces sites mettent en scène non seulement des célébrités et des personnalités politiques, mais aussi des personnes anonymes dont l'image a été exploitée sans leur consentement.

Absence de protections juridiques

Les victimes de pornographie truquée générée par l'IA disposent de recours limités en raison de l'absence de lois fédérales encadrant les deepfakes pornographiques. Seuls quelques États ont adopté des réglementations, créant ainsi un vide juridique important. Le récent décret présidentiel de Bidendent l'IA recommande aux entreprises d'étiqueter les contenus générés par l'IA, sans toutefois l'imposer. Des juristes estiment que les images truquées générées par l'IA pourraient ne pas être protégées par le droit d'auteur en matière d'image personnelle, car elles s'appuient sur de vastes ensembles de données.

Les femmes et les adolescentes sont particulièrement à risque

Les images de nudité truquées générées par l'IA représentent un risque important pour les femmes et les adolescentes, souvent prises au dépourvu par cette soudaine exposition. Une étude de Sensity AI, une entreprise spécialisée dans la surveillance des deepfakes, révèle que 96 % des images deepfake sont pornographiques et que 99 % d'entre elles ciblent des femmes. L'analyse menée par Genevieve Oh sur les dix principaux sites web hébergeant de fausses images pornographiques a montré que plus de 415 000 images de ce type avaient été mises en ligne rien qu'en 2023, totalisant près de 90 millions de vues.

Explosion de vidéos pornographiques générées par l'IA

Les vidéos pornographiques générées par l'IA ont également proliféré sur Internet. En 2023, plus de 143 000 fausses vidéos ont été ajoutées aux 40 sites web les plus populaires proposant du contenu deepfake, dépassant ainsi le nombre total de nouvelles vidéos recensées entre 2016 et 2022. Ces vidéos ont cumulé plus de 4,2 milliards de vues. Le FBI a mis en garde contre une recrudescence des chantages sexuels : en septembre, plus de 26 800 personnes avaient été victimes de campagnes d'extorsion sexuelle.

Les protections limitées de Google

Le moteur de recherche Google a mis en place des politiques pour empêcher l'affichage d'images à caractère sexuel non consensuelles dans les résultats de recherche. Cependant, sa protection contre les images truquées (deepfakes) est moins efficace, ce qui permet à des contenus pornographiques falsifiés générés par l'IA d'apparaître en bonne place dans les résultats. Google travaille à renforcer ces protections et vise à créer des mécanismes de sécurité qui ne nécessitent pas de demandes individuelles pour le retrait de contenu.

Les difficultés liées à la sanction des créateurs

Sanctionner les créateurs de contenus pornographiques truqués générés par IA s'avère complexe. L'article 230 du Communications Decency Act exonère les entreprises de médias sociaux de toute responsabilité quant aux contenus publiés sur leurs plateformes, ce qui les incite peu à modérer ces images. Les victimes peuvent demander le retrait de leur image, mais les contenus générés par IA exploitent d'immenses bases de données, rendant difficile la preuve des violations de droits d'auteur ou de l'atteinte au droit à l'image.

Des efforts au niveau des États et des réglementations variées

Au moins neuf États, dont la Californie, le Texas et la Virginie, ont adopté des lois visant à lutter contre les deepfakes. Cependant, ces lois diffèrent quant à leur portée : certaines permettent aux victimes de porter plainte au pénal, tandis que d’autres n’autorisent que des poursuites civiles.dentles responsables en vue d’une action en justice peut s’avérer complexe.

La nécessité de réglementations plustron

La volonté de réglementer les images et vidéos générées par l'IA vise principalement à empêcher leur diffusion massive et à répondre aux préoccupations liées à l'ingérence électorale. Cependant, ces règles ne permettent guère d'atténuer les dommages causés par la pornographie truquée (deepfake), qui peut avoir des conséquences graves sur la vie d'une personne, même lorsqu'elle est partagée au sein de petits groupes.

La prolifération de fausses images de nudité générées par l'IA représente une grave menace pour la vie privée et l'intégrité personnelle, en particulier pour les femmes et les adolescents. L'absence de lois fédérales exhaustives et les difficultés à sanctionner les créateurs de tels contenus soulignent l'urgence detronla réglementation et la protection. Face aux progrès constants de l'IA, il devient crucial de s'attaquer au problème croissant de la pornographie truquée générée par l'IA afin de protéger les individus contre l'exploitation et les préjudices à l'ère numérique.