Des élèves britanniques utilisent l'IA pour produire des images indécentes de mineurs, avertissent des experts

Une situation préoccupante se développe : des experts en matière de protection de l'enfance et de technologies s'inquiètent de l'utilisation de l'intelligence artificielle (IA) par des élèves au Royaume-Uni pour créer des images indécentes d'autres enfants. Plusieurs écoles signalent, pour la première fois, desdentimpliquant desdentutilisant des technologies de génération d'IA pour produire des images qui constituent légalement du matériel pédopornographique. Emma Hardy, directrice du Centre britannique pour un Internet plus sûr (UKSIC), s'est dite profondément préoccupée par le réalisme « terrifiant » de ces images générées par l'IA, qui ressemblent étrangement à des photos scolaires professionnelles.

Hardy, qui est également directrice de la communication de l'Internet Watch Foundation, a souligné le réalisme photographique de ces images générées par l'IA, rendant souvent les enfants représentés facilement reconnaissables. De manière alarmante, certains de ces enfants sontdentcomme victimes d'abus sexuels antérieurs, ce qui aggrave encore la gravité de la situation. Une fois créées, ces images générées par l'IA peuvent se propager sur Internet et potentiellement atteindre des inconnus et des prédateurs sexuels. Les experts ont insisté sur l'urgence pour les établissements scolaires de mettre en place des systèmes de blocage plus efficaces contre les contenus pédopornographiques afin de lutter contre cette menace émergente.

Appels urgents à l'action et à la sensibilisation face aux inquiétudes croissantes

UKSIC, une organisation de protection de l'enfance de premier plan, a lancé un appel à l'action, soulignant que les signalements d'enfants produisant des images aussi choquantes ne devraient pas surprendre. Avec l'accessibilité croissante de nouvelles technologies telles que les générateurs d'images par IA, de tels comportements néfastes étaient prévisibles. David Wright, directeur d'UKSIC, a insisté sur l'importance d'agir immédiatement pour remédier à ce problème, notamment en sensibilisant les enfants aux risques qu'ils peuvent encourir involontairement en expérimentant avec ces générateurs d'images.

Bien que le nombre de cas reste relativement faible à l'heure actuelle, les experts estiment qu'il ne s'agit que d'un début et que des mesures proactives sont nécessaires pour éviter toute aggravation. Les conséquences de ces actions sont considérables, étant donné que la diffusion d'images à caractère pédopornographique est illégale au Royaume-Uni, qu'elles soient générées par intelligence artificielle ou photographiques. Même les dessins animés ou les représentations moins réalistes de tels abus sont interdits en termes de création, de possession et de diffusion.

Les images d'abus sexuels sur enfants générées par l'IA constituent une menace croissante pour Internet

Le mois dernier, l'Internet Watch Foundation a lancé un avertissement alarmant concernant la prolifération croissante d'images pédopornographiques générées par intelligence artificielle, soulignant qu'elles « menacent de submerger Internet ». Le réalisme de ces images est tel qu'elles sont pratiquement indiscernables de véritables photographies, même pour des analystes avertis. Cette évolution inquiétante souligne l'urgence d'agir rapidement et efficacement face à ce problème.

L'apparition de contenus pédopornographiques générés par l'IA dans les écoles britanniques est une tendance profondément inquiétante qui exige une attention et des mesures immédiates. Le réalisme de ces images, associé à leur potentiel de diffusion sur Internet, constitue une grave menace pour la sécurité et le bien-être des enfants. Les experts exhortent les établissements scolaires à mettre en place des systèmes de blocage efficaces et à sensibiliser lesdentaux conséquences de leurs actes lorsqu'ils utilisent l'IA. Il est impératif de traiter ce problème rapidement afin d'en prévenir l'aggravation et de protéger les enfants.