Jenna Ortega, star de Netflix, s’ouvre sur une expérience troublante avec l’IA et quitte Twitter

Jenna Ortega, la star de 21 ans de « Mercredi », a récemment partagé ses expériences dérangeantes avec l’intelligence artificielle et les réseaux sociaux. Dans une interview avec le New York Times, Ortega a raconté comment elle a quitté Twitter, maintenant connu sous le nom de X, à l’âge de 14 ans en raison d’encounters troublantes avec du contenu IA. Ortega a exprimé son mépris pour l’IA tout en reconnaissant ses abus et son utilisation. 

« Je déteste l’IA », a déclaré Ortega. La première rencontre d’Ortega avec les aspects négatifs de l’IA remonte à son enfance. Elle a partagé qu’elle avait rencontré des images explicites d’elle-même créées par l’IA sur Internet. Cette découverte troublante l’a poussée à supprimer son compte Twitter. L’actrice a déclaré qu’elle se sentait « terrifiée » et « corrompue » alors qu’elle racontait comment cette expérience l’avait laissée vulnérable et sans protection sur les réseaux sociaux.

L’actrice raconte sa première rencontre avec du contenu explicite dans les messages directs

« Est-ce que j’aimais avoir 14 ans et créer un compte Twitter parce que je le devais, et voir du contenu édité de manière indécente me concernant quand j’étais enfant ? Non. C’est terrifiant. C’est corrupteur. C’est mal », a déclaré Ortega.

Les problèmes d’Ortega avec les réseaux sociaux allaient au-delà de l’IA. Elle a déclaré que le tout premier message direct qu’elle ait jamais ouvert contenait du contenu explicite, moment à partir duquel elle a commencé à subir des abus sur ce site. Ses expériences illustrent certains des défis auxquels les jeunes sont confrontés sur les plateformes de réseaux sociaux, ce qui appelle à une meilleure protection et modération.

Ortega a décidé de quitter Twitter (maintenant X) parce qu’elle voulait s’éloigner de tels incidents. Elle a déclaré qu’il lui était impossible de discuter de quoi que ce soit sur le site sans tomber sur quelque chose d’indécent. Sa décision de quitter la plateforme de réseaux sociaux était basée sur des raisons personnelles liées à sa santé mentale. 

Lors de la même interview, Ortega a également parlé du récent scandale entourant son dernier film, Miller’s Girl, qui dépeint des scènes intimes entre le personnage d’Ortega et celui de Martin Freeman. Le thriller érotique, qui représente une relation sexuelle entre une lycéenne de 18 ans et son professeur, a suscité la controverse sur les réseaux sociaux. Dans une interview avec Vanity Fair, Ortega a défendu le film, affirmant que le film n’est pas destiné à faire sentir bien ou à l’aise le public. 

Augmentation des incidents de harcèlement sexuel générés par l’IA

Au cours des dernières années, il y a eu une augmentation des cas de contenu explicite utilisant l’intelligence artificielle. En septembre 2023, un cas de grooming de plus de 20 filles âgées de 11 à 17 ans a été signalé dans une ville du sud de l’Espagne à travers l’utilisation de pornographie générée par IA.

Récemment, Steven Anderegg, 42 ans, du Wisconsin, a été inculpé pour avoir produit plus de 10 000 images de matériel d’exploitation sexuelle des enfants à l’aide de l’intelligence artificielle. Selon la police, Anderegg a utilisé le modèle d’IA Stable Diffusion pour créer des images hyperréalistes, y compris celles impliquant des abus sexuels sur mineurs. L’acte d’accusation indique qu’Anderegg a partagé certaines images créées par l’IA avec un garçon de 15 ans via la plateforme de réseaux sociaux Instagram.