L'actrice de Netflix Jenna Ortega se confie sur son expérience troublante avec l'IA et quitte Twitter

Jenna Ortega, la jeune actrice de 21 ans révélée par la série « Wednesday », a récemment partagé ses expériences troublantes avec l'intelligence artificielle et les réseaux sociaux. Dans une interview accordée au New York Times, elle a expliqué avoir quitté Twitter, aujourd'hui connu sous le nom de X, à l'âge de 14 ans suite à des expériences perturbantes avec des contenus générés par l'IA. Jenna Ortega a exprimé son aversion pour l'IA tout en reconnaissant ses dérives et ses usages. 

« Je déteste l'IA », a déclaré Ortega. Son premier contact avec les aspects négatifs de l'IA remonte à son enfance. Elle a confié avoir découvert sur Internet des images explicites d'elle-même, créées par une IA. Cette découverte troublante l'a poussée à supprimer son compte Twitter. L'actrice a déclaré s'être sentie « terrifiée » et « corrompue », expliquant comment cette expérience l'avait rendue vulnérable et sans protection sur les réseaux sociaux. 

Un acteur raconte sa première rencontre avec du contenu explicite dans des messages privés

« Ai-je aimé avoir 14 ans, créer un compte Twitter parce que c'était ce qu'on attendait de moi et voir des images obscènes de moi enfant ? Non. C'est terrifiant. C'est corrompu. C'est mal », a déclaré Ortega.

Les problèmes d'Ortega avec les réseaux sociaux ne se limitaient pas à l'intelligence artificielle. Elle raconte que le tout premier message privé qu'elle a ouvert contenait des propos explicites, et c'est à ce moment-là qu'elle a commencé à subir des abus sur ce site. Son expérience illustre certaines des difficultés rencontrées par les jeunes sur les plateformes de médias sociaux, et souligne la nécessité d'une meilleure protection et d'une modération accrue.

Ortega a décidé de quitter Twitter (désormais X) pour échapper à ce genredent. Elle a déclaré qu'il lui était impossible de discuter de quoi que ce soit sur le site sans tomber sur du contenu indécent. Sa décision de quitter la plateforme était motivée par des raisons personnelles liées à sa santé mentale. 

Au cours de cette même interview, Ortega a également évoqué le récent scandale entourant son dernier film, Miller's Girl, qui met en scène des scènes intimes entre son personnage et celui de Martin Freeman. Ce thriller érotique, qui décrit une relation sexuelle entre unedent de 18 ans et son professeur, a suscité la polémique sur les réseaux sociaux. Dans une interview accordée à Vanity Fair, Ortega a défendu le film, affirmant qu'il n'avait pas pour but de mettre le public à l'aise. 

Les cas de harcèlement sexuel générés par l'IA sont endent

Ces dernières années, on a constaté une recrudescence des cas de contenus explicites utilisant l'intelligence artificielle. En septembre 2023, un cas de manipulation de plus de 20 jeunes filles âgées de 11 à 17 ans a été signalé dans une ville du sud de l'Espagne, via l'utilisation de la pornographie générée par l'IA. 

Steven Anderegg, un homme de 42 ans originaire du Wisconsin, a récemment été inculpé pour avoir produit plus de 10 000 images à caractère pédopornographique à l'aide de l'intelligence artificielle. Selon la police, Anderegg a utilisé le modèle d'IA Stable Diffusion pour créer des images hyperréalistes, dont certaines à caractère pédopornographique. L'acte d'accusation précise qu'Anderegg a partagé certaines de ces images avec un garçon de 15 ans via Instagram.