Un nouvel outil pourrait protéger les créateurs d'images contre l'IA

Une équipe de développeurs dirigée par Ben Zhao, professeur à l'Université de Chicago, a présenté un nouvel outil appelé « Nightshade » pour aider les artistes numériques à protéger leurs œuvres contre la récupération et l'utilisation dans l'entraînement des algorithmes d'IA.

La belladone pourrait être la solution au cauchemar des artistes face à l'IA

Ces derniers mois, les générateurs d'art par IA sont devenus de plus en plus sophistiqués et sont désormais capables de créer des images qu'il est presque impossible de distinguer des œuvres d'art réalisées par l'homme. 

Si certaines personnes tirent profit des images générées par l'IA, les artistes eux-mêmes s'inquiètent de l'exploitation et de la dévalorisation de leurs œuvres par les outils d'IA, entre autres problèmes de violation des droits d'auteur et de la propriété intellectuelle. 

En août, trois artistes numériques ont intenté un procès contre les sociétés d'imagerie par IA Stability AI, Midjourney et DeviantArt, réclamant des dommages et intérêts ainsi qu'une injonction interdisant à ces sociétés d'exploiter les œuvres des artistes sans leur consentement.

Les artistes ont dénoncé le fait que les entreprises aient violé leurs droits et ceux de millions d'autres artistes dont les œuvres ont été extraites et intégrées à des algorithmes d'IA pour produire des œuvres dérivées qui concurrencent désormais les originaux. 

Nightshade, bien qu'encore en développement, pourrait bien être la solution à ce cauchemar. 

Comment fonctionne la belladone ?

D'après les rapports, ce logiciel rend les images inutilisables pour l'entraînement des modèles d'IA en modifiant infimes fois les pixels. Ces modifications sont si minimes qu'elles sont imperceptibles à l'œil nu, mais suffisamment efficaces pour induire les algorithmes d'IA en erreur et les amener à maldentle sujet. 

Par exemple, une image de chat modifiée avec Nightshade pourrait être interprétée à tort par un algorithme d'IA comme celle d'un chien. La présence de telles images modifiées dans les bibliothèques d'images pour l'IA pourrait nuire considérablement aux résultats ou aux performances des générateurs d'images pour IA.

L’objectif est d’empêcher les entreprises spécialisées en IA de fournir sans autorisation des images artistiques aux algorithmes d’IA et de dissuader l’utilisation des générateurs d’images par IA pour créer de fausses images et des œuvres d’art piratées.

Sur ce point, certaines entreprises commencent à mettre en œuvre des mesures pour aider les gens à faire la distinction entre les contrefaçons et les œuvres d'art originales. 

Plus tôt ce mois-ci, Cryptopolitan a rapporté qu'OpenAI, la société à l'origine de ChatGPT, développe un nouvel outil capable de distinguer les images générées par IA des images réelles avec une précision de 99 %. Cet outil est actuellement testé en interne avant sa mise à disposition du public.