Le nouvel outil « Nightshade » remet en question la technologie de conversion texte-image par IA

Les technologies d'intelligence artificielle générative, telles que ChatGPT d'OpenAI, ont permis des avancées considérables dans le traitement automatique du langage naturel. Cependant, ces modèles d'IA s'appuient sur d'immenses ensembles de données extraites du web, ce qui suscite des inquiétudes chez les artistes et les photographes dont les œuvres sont utilisées sans autorisation ni compensation.

Artistes et photographes contre IA générative

Les outils d'IA générative peuvent créer des images à partir de textes, mais ils dépendent d'images extraites d'Internet pour leur apprentissage. Cette situation a suscité la frustration d'artistes et de photographes qui voient leurs œuvres utilisées sans leur consentement. Ils cherchent des moyens de protéger leurs droits de propriété intellectuelle.

Nightshade : un outil pour perturber les modèles d'IA

Une équipe de chercheurs a mis au point un outil nommé « Nightshade » pour lutter contre ce problème. Nightshade est conçu pour perturber les modèles d'entraînement de l'IA en introduisant des pixels invisibles dans les œuvres d'art avant leur mise en ligne. Ce procédé « empoisonne » les données d'entraînement, ce qui amène les modèles d'IA à générer des images inexactes en réponse aux sollicitations.

Implications pour les modèles d'IA

La MIT Technology Review signale que l'utilisation de Nightshade pourrait potentiellement nuire aux futures versions de modèles d'IA de génération d'images comme DALL-E, Midjourney et Stable Diffusion. Ces modèles pourraient produire des résultats où des chiens deviennent des chats, des voitures des vaches, etc. Les recherches sur Nightshade ont été soumises à une évaluation par les pairs, ce qui souligne leur importance.

Équilibre des pouvoirs : artistes contre entreprises technologiques

Nightshade offre une lueur d'espoir aux artistes soucieux de protéger leurs créations. Ben Zhao, professeur à l'Université de Chicago et responsable de l'équipe de recherche, estime que cet outil pourrait redonner le pouvoir aux créateurs de contenu. Il constitue un avertissement pour les entreprises technologiques qui bafouent les droits d'auteur et de propriété intellectuelle.

L'ampleur du problème

Les grands modèles d'IA utilisent des ensembles de données composés de milliards d'images, ce qui rend l'impact des images corrompues considérable. Plus le nombre d'images corrompues intégrées à ces modèles est important, plus les perturbations sont grandes, pouvant potentiellement redessiner le paysage de l'IA.

collaboration open source et utilisation éthique

L'équipe derrière Nightshade prévoit de le publier en tant qu'outil open source, invitant d'autres à l'améliorer. Elle insiste sur le fait que Nightshade doit être considéré comme un dernier recours pour les créateurs de contenu confrontés à des sites web qui bafouent leurs droits.

Les défis liés à la protection des droits des artistes

OpenAI, créateur de DALL-E, a récemment autorisé les artistes à retirer leurs œuvres de ses données d'entraînement. Cependant, la procédure a été critiquée pour sa lourdeur, les artistes devant soumettre une demande individuelle pour chaque image à retirer. Simplifier ce processus pourrait dissuader les artistes d'utiliser des outils comme Nightshade, ce qui pourrait avoir des répercussions à long terme pour les développeurs d'IA.

Alors que s'intensifie la lutte entre les artistes soucieux de protéger leurs droits de propriété intellectuelle et les développeurs d'IA qui entraînent leurs modèles, des outils comme Nightshade pourraient devenir essentiels pour les créateurs de contenu. L'utilisation éthique de l'IA et le respect du droit d'auteur revêtent une importance croissante dans le paysage en constante évolution de l'intelligence artificielle.