Les entreprises technologiques sont appelées à lutter contre la recrudescence des contenus pédopornographiques générés par l'IA

L'année dernière a été qualifiée d'« année la plus extrême jamais enregistrée » par l'association caritative britannique Internet Watch Foundation (IWF), qui a découvert le nombre alarmant de 275 652 pédopornographiques en ligne, dont un nombre effrayant où des prédateurs contraignaient leurs victimes à produire des images à caractère sexuel. L'IWF appelle les entreprises technologiques et les plateformes en ligne à agir rapidement, car la réglementation a pris du retard et l'intelligence artificielle…

« Chaque URL peut révéler une seule, une douzaine, des centaines ou même des milliers de ces images ou vidéos individuelles d’abus sexuels sur enfants », indique le rapport (92 %) (avec soi-même ou contraint ou avec l’aide d’un réseau social à agir via une webcam).

Résultats de l'IWF

D’après l’IWF, ces chiffres proviennent d’une recherche proactive et de l’analyse de près de 400 000 signalements dans le monde entier, recueillis via plus de 50 portails de signalement. Cela représente une augmentation de 8 % par rapport à l’année précédente.

Les États-Unis étaient le premier pays hôte avec 14,8 % des sites web, soit 41 502 URL, en hausse d'un point de pourcentage par rapport à l'année précédente où ils représentaient 34 %, soit un tiers de l'ensemble des sites web annexés.

L'IWF a indiqué que l'analyse a révélé que 2 401 vidéos autoproduites d'enfants âgés de 3 à 6 ans étaient concernées. La plupart de ces enfants étaient des filles, ce qui montre à quel point les agresseurs qualifiés d'« opportunistes » sont aujourd'hui très actifs dans les abus sexuels, non seulement sur des adolescents, mais aussi sur de jeunes enfants.

Mesures à prendre 

L'IWF estime que les entreprises technologiques et les plateformes en ligne devraient immédiatement renforcer la sécurité en ligne des enfants, au lieu de compter sur les gouvernements pour prendre des mesures réglementaires contraignantes ou de perdre du temps à attendre l'entrée en vigueur de la loi britannique sur la sécurité en ligne. L'IWF a également constaté une augmentation de 22 % des contenus de catégorie A par rapport à 2022. La consultation de plus en plus fréquente de ces contenus extrêmes est une tendance majeure, selon l'IWF : entre 2021 et 2022, le volume de contenus de catégorie A a augmenté de 38 %. 

Le nombre de cas de sextorsion – l'utilisation de photos, de fichiers, d'informations ou de vidéos d'enfants pour faire chanter les victimes et obtenir davantage de photos ou d'argent – ​​est également en augmentation. L'agence n'a enregistré que 6 cas de ce type en 2021, année de la mise en place du système de facturation. L'année dernière, elle a recensé 176 cas liés à la sextorsion. La fondation souligne que les preuves l'IA constituent une menace sérieuse pour les enfants sur Internet. En 2023, l'IWF a conclu avoir traité 51 pages web contenant des images générées automatiquement à caractère pédopornographique, dont 38 semblaient authentiques. 

Ainsi, ces images figuraient dans les rapports statistiques comme de « vraies » images. Par ailleurs, 228 autres URL contenaient du contenu généré par l'IA. Bien que seul un faible pourcentage des documents examinés par l'IWF soit généré par ordinateur, l'association s'inquiète du « potentiel de croissance rapide ». C'est notamment le cas pour des domaines tels que la publication de manuels expliquant comment créer ou diffuser du contenu pédopornographique via l'IA, ce qui pourrait échapper au cadre légal existant. L'IWF a déclaré avoir découvert sur DW un manuel expliquant comment les auteurs de ces actes… « Nous avons déjà observé ce type de comportement, mais le fait qu'il s'agisse de la première preuve de criminels agissant de concert pour se conseiller et s'encourager mutuellement à utiliser l'IA à des fins d'autodéfense est particulièrement inquiétant », aurait commenté l'IWF.