Des parents exigent des mesures contre la prolifération d'images de nus générées par l'IA

Une révélation glaçante met en lumière le sort d'une mère et de sa fille de 14 ans qui réclament un renforcement des mesures de protection après la diffusion, au sein d'un lycée du New Jersey, d'images dénudées de l'adolescente et de ses camarades de classe, générées par intelligence artificielle. Parallèlement, à l'autre bout du pays, les autorités enquêtent sur undent similaire impliquant un adolescent qui aurait utilisé l'intelligence artificielle pour créer et diffuser des images explicites d'dentdans la banlieue de Seattle, dans l'État de Washington. 

Ces cas troublants soulignent l'urgence de mettre en place des mesures de protection contre la menace croissante que représentent les contenus explicites générés par l'IA, ciblant particulièrement les femmes et les enfants. La prolifération de ces contenus a atteint des niveaux sansdent: plus de 143 000 nouvelles vidéos truquées (deepfakes) ont été mises en ligne rien que cette année, selon une analyse partagée avec l'Associated Press par la chercheusedent Genevieve Oh.

La menace croissante des images de nus générées par l'IA

L'dent survenu à Westfield, dans le New Jersey, s'est déroulé cet été, mais n'a été porté à l'attention de l'établissement scolaire que le 20 octobre. Des images générées par intelligence artificielle, utilisant les visages d'dent, ont circulé sur l'application Snapchat au sein d'un groupe d'amis. Les familles concernées, désespérées et en quête de solutions, exhortent désormais les législateurs à mettre en place des mesures de protection efficaces contre la manipulation des images des victimes par des modèles d'IA et diverses plateformes faisant ouvertement la promotion de leurs services.

La crise ne se limite pas au New Jersey. Dans la banlieue de Seattle, un adolescent aurait utilisé l'intelligence artificielle pour créer et diffuser des images à caractère sexuel d'autresdent. Cette vague d'denta incité les familles touchées, les associations et les juristes à réclamer une réglementation fédérale instaurant une protection uniforme à l'échelle nationale. De telles mesures permettraient non seulement de protéger les victimes, mais aussi dissuader les auteurs potentiels.

Demande de recours juridiques

Alors que plusieurs États, dont le Texas, le Minnesota et New York, ont adopté des lois criminalisant la diffusion non consensuelle de contenus pornographiques truqués (deepfakes), la portée et l'efficacité de ces législations varient. Des États comme la Californie et l'Illinois permettent aux victimes de poursuivre les auteurs de ces contenus en justice au civil. Actuellement, le New Jersey examine un projet de loi visant à interdire les deepfakes pornographiques et à imposer des sanctions, telles que des peines d'emprisonnement ou des amendes, à ceux qui les diffusent.

La sénatrice Kristin Corrado a déposé une proposition de loi dans le New Jersey pour lutter contre la pornographie truquée (deepfake), insistant sur la nécessité d'une loi fédérale afin d'assurer une protection uniforme à l'échelle nationale. Des militants se mobilisent pour une loi fédérale permettant de sanctionner les organisations qui tirent profit des applications facilitant la création de deepfakes, renforçant ainsi les efforts du décretdent de Joe Biden visant à combattre l'utilisation de l'intelligence artificielle générative pour la production de contenus explicites.

La route à venir

Alors que l'attention se porte de plus en plus sur ce problème alarmant, une question demeure : une réglementation fédérale sera-t-elle la clé pour lutter contre la montée en puissance des contenus explicites générés par l'IA ? Si certains législateurs militent pour la transparence des contenus générés par l'IA et pour une législation visant à interdire le partage d'images pornographiques truquées (deepfakes), des organisations telles que l'Union américaine pour les libertés civiles (ACLU) et la Fondation Electronic Frontier expriment des inquiétudes quant à une potentielle atteinte au Premier AmendementtronLa lutte contre les contenus explicites générés par l'IA se poursuit, les familles concernées et les associations se battant pour la protection des personnes vulnérables dans un paysage numérique en constante évolution. Comment la législation peut-elle trouver le juste équilibre entre la protection des individus et la préservation de la liberté d'expression face à cette menace technologique ?