Les entreprises technologiques exhortées à combattre la flambée des matériaux d'abus sexuel sur les mineurs générés par l'IA

L'année dernière a été qualifiée d'« année la plus extrême jamais enregistrée » par la charity britannique Internet Watch Foundation (IWF), qui a découvert un nombre alarmant de 275 652 images d'abus sexuel sur les enfants en ligne, avec un nombre effrayant de prédateurs ayant contraint des victimes à produire du matériel explicite – appelant les entreprises technologiques et les plateformes en ligne à agir rapidement – alors que la réglementation a ralenti et que l'intelligence artificielle

« Chaque URL peut révéler une seule image ou vidéo, une douzaine, des centaines ou même des milliers d'images ou de vidéos individuelles d'abus sexuels sur les mineurs », a déclaré le rapport (92 %) (avec soi-même ou sous la contrainte ou avec l'aide d'un réseau social pour effectuer une webcam).

Résultats de l'IWF

Selon l'IWF, les chiffres ont été dérivés d'une « recherche proactive » et d'une analyse de près de 400 000 rapports du monde entier via plus de 50 portails de signalement. Cela représente une augmentation de 8 % par rapport à l'année précédente.

Les États-Unis étaient le premier pays avec 14,8 % des sites web, avec 41 502 URL, en hausse d'une proportion de la nation en tant qu'hôte par rapport à l'année précédente de 34 %, un tiers de l'ensemble des sites annexés.

L'IWF a déclaré que l'analyse a montré que 2 401 vidéos auto-générées d'enfants âgés de 3 à 6 ans en faisaient partie. La plupart de ces enfants étaient des filles, ce qui est un signal indiquant que les prédateurs considérés comme « opportunistes » de nos jours sont très actifs dans les abus sexuels non seulement avec les adolescents mais aussi avec les jeunes enfants.

Mesures à prendre 

Il est de la position de l'IWF que « les entreprises technologiques et les plateformes en ligne » devraient immédiatement renforcer ces mesures de sécurité pour les enfants en ligne au lieu de dépendre des gouvernements pour prendre des mesures de réglementation très douloureuses ou de perdre plus de temps pour que cette activité entre en vigueur au Royaume-Uni avec sa loi sur la sécurité en ligne. L'IWF a révélé que la catégorie de matériel a également connu une augmentation de 22 % par rapport à 2022. Ce contenu extrême étant vu de plus en plus fréquemment est l'une des tendances, selon l'IWF ; de 2021 à 2022, le montant du contenu de la catégorie A a augmenté de 38 %. 

Le nombre de cas d'extorsion sexuelle – l'utilisation d'images/fichiers d'enfants, d'informations ou de vidéos que les auteurs peuvent ensuite utiliser pour faire chanter leurs victimes pour plus d'images/d'argent – est également en augmentation. L'agence n'a enregistré que 6 cas de ce type en 2021 lorsqu'ils ont introduit le mécanisme de dénonciation. L'année dernière, ils ont mentionné que l'institution a enregistré 176 cas liés à l'extorsion sexuelle. La fondation a souligné que les preuves que l'IA reçoit et génère deviennent une menace sérieuse pour les enfants sur Internet. En 2023, l'IWF a conclu qu'elle avait traité 51 pages web contenant des images générées automatiquement d'abus sexuels sur les mineurs, dont 38 ayant l'apparence d'être réelles.

De cette manière, elles ont été incluses dans les rapports statistiques en tant qu'images « réelles ». Par ailleurs, 228 autres URL contenaient du contenu généré par l'IA. Bien que seul un petit pourcentage du matériel examiné par l'IWF soit généré par ordinateur, la charity est alarmée par le « potentiel de croissance rapide ». C'est le cas, en particulier dans des domaines tels que la publication de manuels sur la façon de créer ou de distribuer du matériel pornographique impliquant des mineurs via l'IA, qui peut échapper aux cadres juridiques existants. L'IWF a déclaré avoir rencontré un texte manuel sur DW expliquant comment les auteurs « Nous avons vu ce type de comportement auparavant, mais le fait que ce soit la première preuve de criminels agissant de concert pour se conseiller et s'encourager mutuellement à utiliser l'IA à des fins d'autodéfense est particulièrement troublant », a commenté l'IWF.