Le Nevada constate une forte augmentation des photos explicites d'dentprises par l'IA, mais « on ne peut pas faire grand-chose ».

Le lycée Nevada est confronté à la diffusion massive sur les réseaux sociaux de photos explicites d'dent, créées à l'aide d'IA par d'autresdent.

Les parents des victimes semblent impuissants

Le bureau du shérif du comté de Story, au Nevada, enquête actuellement sur l'affaire. Cependant, les enquêteurs ont indiqué que leurs possibilités d'action sont limitées, la législation de l'État n'étant pas encore claire concernant la création et la diffusion de photos explicites générées par intelligence artificielle, rapporte KCCI. 

« Nos filles sont victimes de discrimination, et il semble que nous ne puissions rien y faire », a déclaré Chad Borwick, le père d'une desdentconcernées. 

« On ne veut pas que de telles choses arrivent à ses enfants. On veut qu'ils aient une vie meilleure », a déclaré Ida Nady, une autre mère d'une victime. « Ils vont avoir l'impression de ne compter pour rien, que leur voix n'a aucune importance. »

Cette situation illustre parfaitement comment l'IA peut être utilisée à des fins néfastes. Bien qu'efficace pour la création de textes et d'images, l'IA peut faire l'objet d'un usage abusif, ce qui rend nécessaire l'accélération des mesures de sécurité mises en place par les entreprises spécialisées, et notamment l'adoption de lois sanctionnant les contrevenants.

Dans l'Iowa, au moins, un projet de loi parrainé par le sénateur Chris Cournoyer (R-LeClaire) devrait entrer en vigueur d'ici le 1er juillet. La loi fera de la création et de la diffusion de photos entièrement ou partiellement nues de mineurs dans les États, ce qui couvre le Nevada.

Google, Meta, OpenAI et d'autres organisations acceptent de revoir leurs modèles afin de lutter contre la maltraitance infantile.

Les géants de la tech ont également lancé un mouvement pour freiner la prolifération d'images pédopornographiques produites par l'IA. Google, Meta, OpenAI, Microsoft et Amazon, entre autres, se sont engagés à revoir leurs modèles afin de prévenir la création et la diffusion de contenus pédopornographiques et autres formes de violence sexuelle envers les enfants générés par l'IA. 

Cette mesure intervient alors que le taux d'abus sexuels sur enfants en ligne atteint des niveaux sans précédent. En effet, 2023 a été « l'année la plus extrême jamais enregistrée », selon l'Internet Watch Foundation.

L'organisation basée au Royaume-Uni a déclaré que des milliers d'images et de vidéos d'enfants de trois à six ans se retrouvent désormais sur Internet.