Le lycée du Nevada est aux prises avec la diffusion généralisée de photos explicites d' dent sur les réseaux sociaux, créées à l'aide de l'IA par d'autres dent .
Les parents des victimes semblent impuissants
Le bureau du shérif du comté de Story, au Nevada, enquête actuellement sur la situation. Cependant, les enquêteurs ont déclaré qu'ils ne pouvaient pas faire grand-chose car la loi de l'État n'est pas encore claire sur les questions liées à la création et à la diffusion de photos explicites générées par l'IA, a rapporté KCCI .
« Nos filles sont victimes. et il ne semble pas que nous puissions faire quoi que ce soit à ce sujet », a déclaré Chad Borwick, parent de l'un des dent concernés.
« Vous ne voulez pas que quelque chose arrive à vos enfants. Vous voulez qu’ils aillent mieux », a déclaré Ida Nady, un autre parent d’une victime. "Ils auront l'impression qu'ils n'ont pas d'importance, comme si leur voix n'avait pas d'importance."
La situation se présente comme un exemple clair de la manière dont l’IA peut être utilisée pour nuire aux gens. Bien qu’elle soit efficace pour créer des textes et des images, l’IA pourrait être utilisée à mauvais escient, ce qui nécessite d’accélérer les mesures de sécurité de la part des sociétés d’IA, et en particulier les lois qui punissent les contrevenants.
Dans l'Iowa, au moins, un projet de loi parrainé par le sénateur Chris Cournoyer (R-LeClaire) devrait entrer en vigueur d'ici le 1er juillet. La loi érigera en délit la création et la diffusion de photos nues totales ou partielles de mineurs dans les États, qui couvre le Nevada.
Google, Meta, OpenAI et d'autres acceptent de revoir leurs modèles de lutte contre la maltraitance des enfants
Les grandes entreprises technologiques ont également lancé un mouvement visant à freiner l’augmentation des images d’abus d’enfants réalisées avec l’IA. Google, Meta, OpenAI, Microsoft et Amazon, entre autres, ont convenu de revoir leurs modèles contre la création et la diffusion de matériels d'abus sexuels sur enfants générés par l'IA et d'autres préjudices sexuels contre des enfants.
Cette décision intervient à un moment où le taux d’abus sexuels sur des enfants en ligne atteint généralement un niveau record. En fait, 2023 a été « l’année la plus extrême jamais enregistrée », selon l’Internet Watch Foundation .
L'organisation basée au Royaume-Uni a déclaré que des milliers d'images et de vidéos d'enfants âgés de trois à six ans se trouvent désormais sur Internet.
