Le Stanford Report Met en Lumière la Pornographie Infantile dans les Données d'Entraînement de l'IA

L'Observatoire Internet de Stanford a fait une découverte inquiétante : plus de 1 000 fausses images d'abus sexuel sur mineurs dans LAION-5B, un ensemble de données utilisé pour entraîner des générateurs d'images IA. Cette découverte, rendue publique en avril, a soulevé de sérieuses préoccupations concernant les sources et les méthodes utilisées pour compiler les matériaux d'entraînement de l'IA.

LAION-5B, associé à l'IA de Stable Diffusion de Stability AI basée à Londres, a accumulé ces images en échantillonnant du contenu provenant de réseaux sociaux et de sites pornographiques. La découverte d'un tel contenu dans les matériaux d'entraînement de l'IA est alarmante, compte tenu de l'utilisation généralisée de ces plateformes et de leur influence potentielle.

Répondre au défi avec la technologie

Les chercheurs de Stanford, dans leur quête pour identifier ces images, n'ont pas consulté directement le contenu abusif. Au lieu de cela, ils ont utilisé la technologie PhotoDNA de Microsoft, un outil conçu pour détecter les images d'abus sur mineurs en faisant correspondre des images hachées avec du contenu abusif connu provenant de diverses bases de données.

Les résultats de l'équipe de Stanford communiqués aux organisations à but non lucratif pertinentes aux États-Unis et au Canada soulignent la nécessité urgente de mesures plus strictes pour la curation des ensembles de données d'entraînement de l'IA. Les chercheurs suggèrent l'utilisation d'outils comme PhotoDNA pour les futures compilations d'ensembles de données afin de filtrer le contenu nuisible. Cependant, ils soulignent également les défis du nettoyage des ensembles de données ouverts, en particulier en l'absence d'autorité d'hébergement centralisée.

En réponse au rapport, LAION, ou le Réseau Ouvert à Grande Échelle pour l'Intelligence Artificielle, a temporairement supprimé ses ensembles de données pour garantir leur sécurité avant de les republier. LAION a souligné sa politique de tolérance zéro pour le contenu illégal et la nécessité de prudence dans la manipulation de tels matériaux sensibles.

Les Implications et Réactions Plus larges

Ce problème ne se limite pas à l'ensemble de données en question. Le rapport de Stanford suggère que même un petit nombre d'images abusives peut avoir un impact significatif sur les outils d'IA, leur permettant de générer des milliers de deepfakes. Cela pose une menace mondiale pour les jeunes et les enfants, car cela perpétue et amplifie non seulement les abus réels des victimes.

La précipitation sur le marché de nombreux projets d'IA générative a été critiquée, avec des experts comme David Thiel, chef technologue de l'Observatoire Internet de Stanford, plaidant pour une attention plus rigoureuse à la compilation des ensembles de données. Thiel souligne que ce type de grattage à l'échelle d'Internet devrait être limité aux opérations de recherche et non open-sourcé sans un examen approfondi.

À la lumière de ces résultats, Stability AI, un utilisateur important de l'ensemble de données LAION, a pris des mesures pour atténuer les risques de mauvaise utilisation. Les versions plus récentes de son modèle Stable Diffusion ont été conçues pour rendre la création de contenu nuisible plus difficile. Cependant, une version plus ancienne publiée l'année dernière présente toujours des risques et est largement utilisée dans d'autres applications.

Les réactions internationales à ce problème ont varié. Aux États-Unis, le gouvernement lance un institut de sécurité de l'IA pour évaluer les risques posés par les modèles d'IA. De même, l'Australie met en œuvre de nouveaux algorithmes pour empêcher le partage de matériel d'abus sexuel sur mineurs créé par l'IA. En Grande-Bretagne, les principaux développeurs d'IA ont convenu de travailler avec les gouvernements pour tester les nouveaux modèles avant leur sortie.

Le Sommet mondial sur la sécurité de l'IA en Grande-Bretagne a vu la signature de la « Déclaration de Bletchley » par plus de 25 pays, y compris les États-Unis et l'Inde, ainsi que l'Union européenne. Cet accord vise à établir une approche commune de la supervision de l'IA, soulignant l'engagement de la communauté internationale à gérer les risques de l'IA de manière responsable.

La découverte de pornographie infantile dans les ensembles de données d'entraînement de l'IA soulève des préoccupations éthiques et de sécurité profondes. Cela met en lumière la nécessité de mécanismes de curation et de surveillance des données plus rigoureux dans le développement des technologies d'IA. Alors que l'IA continue d'évoluer et de pénétrer divers aspects de la vie, garantir l'utilisation éthique et le déploiement sûr de ces technologies devient de plus en plus crucial.