La ville de San Francisco a fait une annonce importante en déposant une plainte contre 16 sites web qui créent et diffusent des images de nus générées par IA représentant de vrais adultes, voire des mineurs.
D'après un tweet du procureur de la ville de San Francisco, David Chiu, ces sites web diffusaient des images truquées et non consenties de personnes adultes et mineures nues. Chiu a précisé dans son tweet que les propriétaires et exploitants de ces sites violaient les lois fédérales et de l'État de San Francisco interdisant la pornographie truquée, la vengeance pornographique et la pornographie infantile.
D'après un article du New York Times , les personnes et les entreprises à l'origine de ces sites web sont basées en Californie, au Nouveau-Mexique, au Royaume-Uni et en Estonie.
16 sites web ont totalisé 200 millions de visites
Chiu a indiqué que ces 16 sites web avaient totalisé 200 millions de visites au cours du premier semestre de cette année. Certains d'entre eux autorisaient même la création gratuite d'images de nus avant de faire payer l'accès à des images supplémentaires. D'autres acceptaient même les paiements en cryptomonnaies et par carte bancaire.
Selon le procureur de la ville, les modèles d'intelligence artificielle du site web ont été entraînés avec de véritables images pornographiques et d'abus sexuels sur enfants afin de créer des deepfakes générés par l'IA. Le site était même programmé pour diffuser des images réalistes de parties intimes en quelques secondes.
Le modèle d'IA du site web a même créé un deepfake de Taylor Swift
Le modèle d'intelligence artificielle du site web a même créé des images de nus d'un réalisme saisissant, représentant des célébrités comme Taylor Swift et des collégiennes. Dans certains cas, ces images ont servi à humilier, harceler et même extorquer de l'argent aux victimes.
L'une des mères des victimes, Sara Eisenberg, a déclaré : « On peut être aussi calé en internet et en réseaux sociaux qu'on le souhaite, et on peut apprendre à ses enfants tous les moyens de se protéger en ligne, mais rien de tout cela ne peut les protéger contre quelqu'un qui utilise ces sites pour faire des choses vraiment horribles et nuisibles. »
Chiu a également indiqué qu'il est quasiment impossible de tracà l'origine des images une fois qu'elles circulent. La plainte vise à fermer ces sites web et à les empêcher définitivement de créer des images de nus générées par intelligence artificielle à l'avenir.
Bien que l'IA présente des aspects positifs à l'échelle mondiale, Chiu a mentionné que le problème de la pornographie truquée (deepfake) est l'un de ses aspects les plus sombres.
