L'Internet Watch Foundation met en garde : les avancées en IA pourraient aggraver la CSAM

L'Internet Watch Foundation (IWF) s'inquiète du fait que la prévalence des matériaux d'abus sexuel sur mineurs (CSAM) générés par l'IA sur Internet pourrait continuer d'augmenter, stimulée par les avancées des outils d'IA.

À lire également : Les deepfakes d'IA rendent difficile la protection des enfants par les autorités américaines – rapport

Le gardien de la sécurité a indiqué qu'à mesure que les outils d'IA générative deviennent sophistiqués, il est également devenu difficile de distinguer les images ou vidéos réelles du contenu généré par l'IA et falsifié. Selon l'organisation, les images générées par l'IA en 2024 sont devenues plus « réalistes » que celles qui ont été vues pour la première fois en 2023.

L'Internet Watch Foundation observe une augmentation du CSAM

L'IWF s'inquiète du fait que davantage de CSAM générés par l'IA puissent se retrouver sur Internet alors que des pervers en profitent des avancées de la technologie IA, qui rendent les outils plus faciles à utiliser et plus répandus. Le gardien de la sécurité a déjà noté une augmentation des CSAM générés par l'IA sur Internet.

L'organisation a déjà noté des cas de manipulation de CSAM, tandis que d'autres cas impliquaient de la pornographie pour adultes mais avec le visage d'un enfant utilisé sur les vidéos. Selon l'IWF, certains contenus comprenaient des vidéos d'environ 20 secondes.

Le directeur technologique de l'IWF, Dan Sexton, a révélé qu'il y avait des chances que davantage de CSAM générés par l'IA émergent si les outils vidéo IA suivaient la même tendance que les outils de génération d'images IA, car la technologie évolue à un rythme rapide.

« Je dirais provisoirement que si cela suit les mêmes tendances, nous verrons plus de vidéos », a-t-il déclaré.

Sexton a ajouté qu'il était également probable que les futures vidéos IA soient de « meilleure qualité et plus réalistes ».

Selon les analystes de l'IWF, la plupart des vidéos examinées par l'organisation sur un forum sombre par des pédophiles étaient des deepfakes partiels. Dans ce cas, des modèles IA librement disponibles en ligne ont été utilisés pour manipuler les images, y compris celles de victimes connues de CSAM, sur des vidéos de CSAM existantes et de la pornographie pour adultes.

L'organisation a trouvé neuf telles vidéos, tandis qu'un petit nombre de vidéos entièrement créées par l'IA était de qualité basique.

(1/4) #IA paysage des matériaux d'abus sexuel sur mineurs – L'année dernière, nous avons été parmi les premiers à alerter sur la prolifération d'images réalistes #IA générées d'abus sexuel sur mineurs… pic.twitter.com/s4igkjHH78

— Internet Watch Foundation (IWF) (@IWFhotline) 22 juillet 2024

Le gardien de la sécurité souhaite criminaliser la production de CSAM

L'IWF pousse désormais à l'adoption de lois criminalisant la production de tels matériaux, y compris la création de guides pour produire ce contenu. Il devrait également criminaliser le développement d'outils et de plateformes permettant la création de CSAM.

Cela fait suite à une étude réalisée cette année sur un seul forum du web sombre qui a révélé 12 000 nouvelles images générées par l'IA publiées sur une période d'un mois.

Selon l'IWF, neuf images sur dix de celles-ci étaient réalistes et elles pourraient faire l'objet de poursuites en vertu des mêmes lois britanniques couvrant le CSAM réel.

À lire également : Un homme du Texas condamné pour avoir acheté de la pornographie infantile avec de la cryptomonnaie

L'année dernière, le Centre national pour les enfants disparus et exploités (NCMEC) a déclaré avoir reçu de nombreux rapports indiquant que des pervers utilisaient l'IA de diverses manières, comme en saisissant des invites de texte pour créer des images d'abus sur mineurs. Dans certains cas, les prédateurs ont modifié des images précédemment téléchargées pour les rendre sexuellement explicites et abusives.

La PDG de l'IWF, Susie Hargreaves, a souligné la nécessité de réglementer les outils d'IA générative pour limiter la prolifération du CSAM.

« Sans contrôles appropriés, les outils d'IA générative offrent un terrain de jeu aux prédateurs en ligne pour réaliser leurs fantasmes les plus pervers et dégoûtants », a déclaré Hargreaves.

Hargreaves a ajouté que l'IWF commençait à voir davantage de CSAM partagé et vendu sur des sites commerciaux d'abus sexuel sur mineurs.

Selon The Guardian, une autre organisation qui exploite une ligne d'assistance pour signaler les abus a révélé avoir trouvé du CSAM créé par l'IA en vente sur des plateformes en ligne par des délinquants.