Les ensembles d'entraînement d'IA abritent des niveaux inquiétants de matériel d'abus sexuel sur mineurs

Dans une récente enquête menée par le Stanford Internet Observatory (SIO), des centaines d'images connues de matériel d'abus sexuel sur mineurs (CSAM) ont été identifiées dans un ensemble de données ouvert utilisé pour l'entraînement de modèles populaires de génération d'images par texte à l'IA, y compris Stable Diffusion. Les résultats mettent en lumière l'utilisation troublante d'ensembles de données ouvertement disponibles dans le développement de modèles d'intelligence artificielle (IA) avancés.

Découverte de sources de données d'entraînement troublantes

L'enquête du SIO a révélé que ces modèles d'IA ont été entraînés directement sur du CSAM présent dans l'ensemble de données LAION-5B, qui comprend des milliards d'images provenant de diverses plateformes, y compris des sites de réseaux sociaux grand public et des sites populaires de vidéos pour adultes. La révélation soulève des inquiétudes quant à la perpétuation involontaire de l'exploitation des enfants par l'utilisation d'ensembles de données contaminés par du contenu illégal et nuisible.

Actions rapides pour résoudre le problème

Après avoir identifié la source du matériel, les chercheurs ont initié le processus de suppression en signalant les URL des images au National Center for Missing and Exploited Children (NCMEC) aux États-Unis et au Canadian Centre for Child Protection (C3P). L'utilisation d'outils de hachage, tels que PhotoDNA, a joué un rôle crucial dans la correspondance des empreintes d'images avec les bases de données maintenues par des organisations à but non lucratif dédiées à la lutte contre l'exploitation et les abus sexuels sur mineurs en ligne.

Défis du nettoyage des ensembles de données ouverts

Bien qu'il existe des méthodes pour minimiser la présence de CSAM dans les ensembles de données d'entraînement, le rapport souligne les défis liés au nettoyage ou à l'arrêt de la distribution d'ensembles de données ouverts dépourvus d'autorité centrale. L'absence d'entité hébergeant ces ensembles de données complique les efforts pour garantir leur intégrité et leur sécurité. L'étude met l'accent sur la nécessité de mesures proactives pour empêcher l'inclusion involontaire de contenu illégal dans les données d'entraînement de l'IA.

Recommandations de sécurité pour la gestion future des ensembles de données

À la lumière de ces résultats, le rapport énonce des recommandations de sécurité pour la collecte d'ensembles de données, l'entraînement des modèles et l'hébergement de modèles entraînés sur des ensembles de données extraits. Il préconise des vérifications approfondies des images par rapport aux listes connues de CSAM à l'aide d'outils de détection tels que PhotoDNA de Microsoft. La collaboration avec des organisations de protection de l'enfance, telles que le NCMEC et le C3P, est également recommandée pour garantir l'utilisation éthique et légale de la technologie IA.

Alors que l'IA continue de progresser, la gestion responsable des ensembles de données d'entraînement devient primordiale pour prévenir les contributions involontaires à des activités illicites. L'enquête du SIO sert de réveil pour la communauté de l'IA, exhortant les parties prenantes à adopter des mesures strictes dans la curation des ensembles de données, l'entraînement des modèles et la collaboration avec les agences pertinentes de protection de l'enfance.

En réponse à ces révélations, la communauté de l'IA est invitée à réévaluer ses normes éthiques et à prendre des mesures décisives pour remédier à l'utilisation involontaire de CSAM dans les ensembles de données d'entraînement. En mettant en œuvre les mesures de sécurité recommandées, l'industrie peut contribuer au développement de la technologie IA de manière responsable et éthique, se protégeant contre les conséquences involontaires de sources de données non contrôlées.

Les résultats de l'enquête du SIO soulignent l'importance de la vigilance à une époque où les avancées technologiques doivent être accompagnées d'un fort engagement envers le développement éthique de l'IA. La collaboration entre les chercheurs, les leaders de l'industrie et les organisations de protection de l'enfance est essentielle pour garantir que la technologie IA progresse d'une manière qui s'aligne sur les valeurs sociétales et privilégie le bien-être des individus vulnérables.