Alibaba Cloud dévoile un générateur de texte-à-vidéo par IA de pointe
- Les artistes collaborent avec des chercheurs pour empêcher l'IA de copier leurs œuvres ; des logiciels libres comme Glaze permettent de rendre l'art méconnaissable par les systèmes d'intelligence artificielle.
- Le logiciel Kudurru détecte la récupération d'images en ligne et permet aux artistes de bloquer l'accès, tandis qu'AntiFake protège les enregistrements vocaux contre les deepfakes.
- L'objectif est une utilisation éthique des données par l'IA, avec l'espoir d'un monde où toutes les données utilisées seraient soumises à un consentement et à une rémunération, afin de protéger les artistes et les créateurs.
À une époque où l'intelligence artificielle continue de repousser les limites de l'innovation technologique, une nouvelle collaboration entre artistes et chercheurs universitaires émerge pour sauvegarder la propriété intellectuelle des esprits créatifs. La récente rencontre de l'illustratrice américaine Paloma McClain avec la reproduction non autorisée de son œuvre par l'IA a suscité une réponse proactive au sein de la communauté artistique, aboutissant à des solutions logicielles innovantes pour empêcher les activités de copie inspirées par l'IA.
L'illustratrice américaine Paloma McClain s'est retrouvée dans le collimateur de la poursuite implacable de l'IA en matière de reproduction créative. Plusieurs modèles d'IA s'étaient « entraînés » en utilisant son art sans sa connaissance ni son consentement, la laissant sans crédit ni compensation dus. McClain, ardente défenseure d'une avancée technologique éthique, a exprimé ses préoccupations : « Je crois qu'une avancée technologique véritablement significative est réalisée de manière éthique et élève toutes les personnes au lieu de fonctionner aux dépens des autres. »
En réponse à la question croissante de l'imitation par l'IA, Paloma McClain s'est tournée vers Glaze, un logiciel révolutionnaire et gratuit créé par des chercheurs de l'Université de Chicago. La fonction principale de Glaze est de berner les modèles d'IA lors de leur processus d'entraînement, en manipulant les pixels de manière subtile, invisible à l'œil humain, tout en altérant radicalement l'apparence de l'art numérisé pour les algorithmes d'IA.
Protéger les créateurs humains
Le professeur Ben Zhao, membre clé de l'équipe de développement de Glaze, a souligné leur mission : « Nous fournissons essentiellement des outils techniques pour aider à protéger les créateurs humains contre les modèles d'IA invasifs et abusifs. » Ce logiciel, développé en quatre mois, s'appuie sur une technologie initialement conçue pour perturber les systèmes de reconnaissance faciale. Zhao a souligné l'urgence de la situation, expliquant : « Nous travaillions à une vitesse super rapide car nous savions que le problème était sérieux. Beaucoup de gens souffraient. »
Bien que certains géants de l'IA générative aient des accords formels pour l'utilisation des données, une part significative des données utilisées pour entraîner l'IA, englobant des images numériques, de l'audio et du texte, est extraite d'Internet sans consentement explicite. Cette pratique soulève des questions critiques sur l'utilisation éthique de l'IA et les droits de propriété intellectuelle.
Depuis sa sortie en mars 2023, Glaze a connu une adoption massive, avec plus de 1,6 million de téléchargements, reflétant l'urgence du besoin d'outils protégeant les artistes de la reproduction par l'IA. L'équipe de Glaze développe une amélioration appelée Nightshade, qui vise à confondre davantage l'IA en distordant ses interprétations, comme lui faire percevoir un chien comme un chat.
Tout en approuvant Nightshade, Paloma McClain a noté son potentiel d'impact significatif s'il était largement adopté : « Selon la recherche sur Nightshade, il ne faudrait pas autant d'images empoisonnées qu'on pourrait le penser. » Plusieurs entreprises ont déjà approché l'équipe de Zhao pour explorer l'utilisation de Nightshade, soulignant sa pertinence dans la protection à la fois des artistes individuels et des organisations disposant d'une propriété intellectuelle substantielle.
Kudurru : Se défendre contre le prélèvement d'images
Viva Voce Startup Spawning a contribué à la défense des œuvres créatives avec son logiciel Kudurru. Kudurru détecte les tentatives de collecte de grandes images à partir de sources en ligne, permettant aux artistes de bloquer l'accès ou de fournir des données trompeuses pour perturber le processus d'apprentissage de l'IA. Plus d'un millier de sites web ont déjà intégré le réseau Kudurru.
Spawning a étendu ses efforts avec le lancement de haveibeentrained.com, un site web présentant un outil en ligne qui permet aux artistes de déterminer si leurs œuvres numérisées ont été utilisées pour entraîner des modèles d'IA. Cette plateforme permet aux artistes de refuser toute utilisation future non autorisée, leur offrant un contrôle nécessaire sur leur contenu créatif.
Des chercheurs de l'Université Washington à Missouri se sont aventurés à protéger les enregistrements vocaux avec leur logiciel AntiFake. Le programme enrichit les enregistrements vocaux numériques de bruits inaudibles, le rendant « impossible à synthétiser une voix humaine », selon Zhiyuan Yu, l'étudiant en doctorat derrière le projet. L'objectif d'AntiFake va au-delà de la prévention de l'entraînement non autorisé de l'IA pour empêcher la création de deepfakes, une préoccupation croissante à l'ère de la désinformation pilotée par l'IA.
Un appel à une utilisation éthique des données
À mesure que ces solutions logicielles évoluent, le débat sur l'utilisation éthique des données pour l'IA reste primordial. Jordan Meyer, co-fondateur de Spawning, a articulé l'objectif ultime : « La meilleure solution serait un monde dans lequel toutes les données utilisées pour l'IA sont soumises au consentement et au paiement. » Les défenseurs espèrent orienter les développeurs dans cette direction, en privilégiant le consentement et l'équité dans l'utilisation des données pour l'IA.
En conclusion, la collaboration entre artistes et chercheurs est à la tête du développement de solutions logicielles innovantes pour combattre l'imitation par l'IA des œuvres créatives. Les plateformes logicielles Glaze, Nightshade, Kudurru et AntiFake représentent des avancées significatives dans la protection de la propriété intellectuelle dans un monde de plus en plus piloté par l'IA. Bien que ces technologies fournissent des mécanismes de défense précieux, elles soulignent également la nécessité de discussions plus larges sur l'utilisation éthique des données dans l'intelligence artificielle. Alors que les artistes et les créateurs continuent de faire valoir leurs droits, l'avenir de l'IA et de la propriété intellectuelle est promis à une évolution plus éthique et équilibrée.
Si vous lisez ceci, vous êtes déjà en avance. Restez ainsi grâce à notre newsletter.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Brenda Kanana
Brenda possède plus de 4 ans d'expérience spécialisée en cryptomonnaies, intelligence artificielle et technologies émergentes. Elle a travaillé chez Zycrypto, Blockchain Reporter et The Coin Republic, et fait désormais de Cryptopolitan son foyer. Son diplôme en sociologie de l'Université technique de Mombasa lui permet de rester alignée avec les préoccupations de ses lecteurs.
