Les deepfakes d'IA rendent difficile la protection des enfants par les autorités américaines – rapport

Le volume considérable de deepfakes sexuellement explicites d’enfants générés par l’IA rend difficile pour les forces de l’ordre aux États-Unis de distinguer les enfants réels en détresse des faux, ont averti les procureurs et les groupes de défense de la sécurité. Ils disent que les images sont si réalistes qu’il est devenu difficile de savoir si de vrais enfants ont été abusés, rapporte le Guardian..

À lire également : L'ours en peluche Poe alimenté par ChatGPT lit des histoires du soir aux enfants

Kristina Korobov, avocate senior au sein du groupe à but non lucratif Zero Abuse Project basé au Minnesota, déclare que le groupe a commencé à remarquer des signalements d’images de vrais enfants créées à l’aide de l’IA, qui n’avaient pas été abusés sexuellement. « Mais maintenant, leur visage est sur un enfant qui a été abusé », dit-elle.

Un procureur du ministère de la Justice déclare : « Nous sommes submergés » en raison de l’IA

« Parfois, nous reconnaissons le lit ou l’arrière-plan dans une vidéo ou une image, l’auteur, ou la série dont il provient, mais maintenant le visage d’un autre enfant y est superposé », a déclaré Korobov, selon The Guardian.

Les modèles d’IA sont capables de produire des milliers d’images et de vidéos similaires aux photographies de la vie réelle par jour. Selon le rapport, cela a facilité l’utilisation de cette technologie par les prédateurs pour diffuser du contenu répugnant sur le dark web et l’internet grand public.

Pour les autorités, cela est devenu un cauchemar. « D’un point de vue des forces de l’ordre, les crimes contre les enfants sont l’un des domaines les plus sous-financés, et il y aura une explosion de contenu provenant de l’IA », a déclaré un procureur du ministère de la Justice (DoJ) des États-Unis, ajoutant :

« Nous sommes déjà submergés par ce genre de choses. »

Le Centre national américain pour les enfants disparus et exploités (NCMEC) indique qu’en 2023, les signalements d’abus en ligne d’enfants ont augmenté de 12 % pour atteindre 36,2 millions. Bien que la plupart des signalements soient liés à la circulation de photos et de vidéos réelles d’enfants abusés sexuellement, le centre a également reçu 4 700 signalements d’images ou de vidéos deepfake générées par l’IA impliquant l’exploitation sexuelle d’enfants.

Le NCMEC a indiqué que certaines des méthodes les plus courantes utilisées par les prédateurs avec l’IA consistent à modifier des images existantes en ligne pour les rendre explicites. Les criminels exploitent également des chatbots d’IA générative qui donnent des instructions graphiques sur la manière de recruter des enfants pour des abus.

Les lois actuelles ne vont pas assez loin concernant les deepfakes IA

Il semble y avoir un vide juridique concernant ce qui peut être considéré comme un crime. Dans de nombreuses juridictions, la possession d’images objectivant sexuellement des enfants est un crime, mais les lois n’ont pas encore évolué pour intégrer les images générées par l’IA.

« Lors du dépôt d’accusations dans le système fédéral », a déclaré le procureur du DoJ, « l’IA ne change pas ce que nous pouvons poursuivre, mais il existe de nombreux États où vous devez pouvoir prouver qu’il s’agit d’un vrai enfant. » Le procureur a ajouté :

« Contester la légitimité des images posera des problèmes lors des procès. Si j’étais un avocat de la défense, c’est exactement ce que j’argumenterais. »

Même si les lois sont adoptées, la technologie sous-jacente sera toujours nécessaire pour arrêter les criminels, et il existe actuellement un large fossé. Les groupes de défense de la sécurité des enfants ont averti que les départements de police seraient probablement submergés de demandes.

À lire également : Le chef de l’ONU met en garde : l’IA augmente le risque de guerre nucléaire

Les images sexuellement explicites d’enfants générées par l’IA ont commencé à augmenter leur empreinte en ligne autour de 2022, coïncidant avec la sortie de ChatGPT par OpenAI, selon le rapport du Guardian.

Le NCMEC accuse les entreprises d’IA de ne pas faire assez pour empêcher la génération et la propagation de contenus exploitants. L’année dernière, seulement cinq entreprises d’IA ont soumis volontairement des rapports au Centre. En comparaison, 70 % des plateformes de médias sociaux ont partagé leurs rapports, a-t-il indiqué.