Les deepfakes créés par l'intelligence artificielle compliquent la tâche des autorités américaines pour protéger les enfants – rapport

Le nombre considérable de deepfakes à caractère sexuel explicite d'enfants, créés par intelligence artificielle, complique la tâche des forces de l'ordre américaines qui peinent à distinguer les enfants réellement en détresse des images fictives, ont averti des procureurs et des associations de protection de l'enfance. Selon le Guardian, ces images sont si réalistes qu'il est devenu difficile de savoir si de véritables enfants ont été victimes d'abus.

À lire également : Poe, l’ours en peluche propulsé par ChatGPT, lit des histoires aux enfants avant de dormir.

Kristina Korobov, avocate principale de Zero Abuse Project, une association de protection de l'enfance basée au Minnesota, explique que son organisation a commencé à recevoir des signalements d'images d'enfants réels, créées par intelligence artificielle, qui n'avaient pas subi d'abus sexuels. « Mais maintenant, leur visage est associé à celui d'un enfant qui a été maltraité », déplore-t-elle.

Un procureur du ministère de la Justice affirme que « nous sommes en train de nous noyer » à cause de l'IA

« Parfois, nous reconnaissons la literie ou le décor d'une vidéo ou d'une image, l'auteur des faits ou la série dont elle est issue, mais maintenant, le visage d'un autre enfant y est superposé », a déclaré Korobov, selon le Guardian.

Les modèles d'intelligence artificielle sont capables de générer chaque jour des milliers d'images et de vidéos ressemblant à des photographies réelles. Selon le rapport, cela facilite l'utilisation de cette technologie par des prédateurs pour diffuser des contenus illicites sur le dark web et l'internet traditionnel.

Pour les autorités, c'est devenu un cauchemar. « Du point de vue des forces de l'ordre, les crimes contre les enfants constituent l'un des domaines les plus démunis en ressources, et il va y avoir une explosion de contenus générés par l'IA », a déclaré un procureur du département de la Justice américain, ajoutant :

« On est déjà complètement submergés par tout ça. »

Le Centre national américain pour les enfants disparus et exploités (NCMEC) indique qu'en 2023, les signalements d'abus sexuels sur enfants en ligne ont augmenté de 12 % pour atteindre 36,2 millions. Si la plupart de ces signalements concernaient la diffusion de photos et de vidéos réelles d'enfants victimes d'abus sexuels, le centre a également reçu 4 700 signalements d'images ou de vidéos truquées (deepfakes) générées par intelligence artificielle et impliquant l'exploitation sexuelle d'enfants.

Le NCMEC a indiqué que parmi les méthodes les plus courantes utilisées par les prédateurs pour exploiter l'IA figure la modification d'images en ligne existantes afin de les rendre explicites. Les criminels utilisent également des chatbots d'intelligence artificielle générative qui fournissent des instructions détaillées sur la manière de recruter des enfants à des fins d'abus.

Les lois actuelles ne vont pas assez loin en matière de deepfakes générés par l'IA

Il semble exister une lacune dans la définition même du crime. Dans de nombreuses juridictions, la possession d'images à caractère pédopornographique est un délit, mais la législation n'a pas encore évolué pour prendre en compte les images générées par l'intelligence artificielle.

« Lorsqu’il s’agit de poursuites au niveau fédéral », a déclaré le procureur du ministère de la Justice, « l’IA ne change rien aux poursuites que nous pouvons engager, mais dans de nombreux États, il faut pouvoir prouver qu’il s’agit d’un enfant réel. » Le procureur a ajouté :

« S’attarder sur la légitimité des images risque de poser problème lors des procès. Si j’étais avocat de la défense, c’est exactement ce que je plaiderais. »

Même si les lois sont adoptées, les technologies nécessaires à l'arrestation des criminels resteront indispensables, et actuellement, un fossé important existe. Les associations de protection de l'enfance ont averti que les services de police risquent d'être submergés de demandes.

À lire également : Le chef de l’ONU avertit que l’IA accroît le risque de guerre nucléaire.

Les images à caractère sexuel d'enfants générées par l'IA ont commencé à se multiplier en ligne vers 2022, au moment même où le logiciel ChatGPT d'OpenAI a été lancé, selon un article du Guardian.

Le NCMEC reproche aux entreprises spécialisées en IA de ne pas en faire assez pour empêcher la création et la diffusion de contenus à caractère abusif. L'année dernière, seules cinq entreprises d'IA ont volontairement soumis des rapports au Centre. À titre de comparaison, 70 % des plateformes de médias sociaux ont partagé leurs rapports, indique le Centre.