YouTube dévoile de nouveaux outils pour protéger les créateurs contre les deepfakes générés par l'IA

YouTube développe des outils pour détecter l'utilisation, sans leur consentement, de versions générées par IA de la voix ou de l'apparence physique des utilisateurs dans les vidéos. Dans un communiqué publié aujourd'hui, la plateforme appartenant à Google a indiqué que ces outils protégeront les créateurs de contenu.

Cette annonce est une avancée positive, car ces outils répondent aux préoccupations majeures liées à la prolifération des deepfakes, qui entraîne parfois des pertes financières et des atteintes à la réputation. Nombreux sont ceux qui espèrent qu'ils simplifieront le processus d'dentet de signalement des deepfakes.

Deux outils sont axés sur la protection des musiciens et des personnalités publiques

L'entreprise a expliqué qu'elle travaillait sur deux outils. Le premier est un outil d'dentdes voix chantées qui ferait partie du système Content ID de YouTube. Cette fonctionnalité détecte etmaticmaticles contenus générés par IA qui imitent les voix chantées d'autres personnes sur la plateforme.

Concernant le second outil, YouTube développe une technologie permettant aux personnalités populaires, telles que les créateurs de contenu, les athlètes, les musiciens et les artistes, de détecter et de supprimer les deepfakes les concernant sur la plateforme. L'entreprise a indiqué que ces outils, associés à ses mises à jour de confidentialité et à ses conditions d'utilisation, suffiraient à protéger les créateurs.

Toutefois, l’objectif de YouTube n’est pas d’empêcher l’utilisation de l’IA sur sa plateforme ; il cherche seulement à garantir une utilisation responsable de l’IA et à donner aux créateurs les moyens de contrôler l’utilisation de leur image.

Il était écrit:

« Nous pensons que l'IA doit enrichir la créativité humaine, et non la remplacer. Nous sommes déterminés à collaborer avec nos partenaires pour que les progrès futurs donnent davantage de poids à leurs voix, et nous continuerons à mettre en place des garde-fous pour répondre à leurs préoccupations et atteindre nos objectifs communs. »

Par ailleurs, YouTube n'a pas précisé de calendrier quant à la disponibilité de ces fonctionnalités pour les utilisateurs, indiquant seulement que l'outil de détection de la voix chantée nécessitait encore quelques ajustements, mais qu'un programme pilote serait mis en place début 2025.

YouTube présente une technologie visant à empêcher l'extraction de données par l'IA

YouTube a également laissé entendre qu'il travaillait sur un outil visant à empêcher les entreprises spécialisées en IA d'utiliser le contenu de sa plateforme pour entraîner leurs modèles sans l'autorisation des propriétaires. Considérant ce problème comme majeur, la plateforme a déclaré investir dans des systèmes capables de détecter et de bloquer toute tentative de collecte de données par des tiers, en violation de ses conditions d'utilisation.

YouTube reconnaît toutefois que les créateurs pourraient souhaiter collaborer avec des entreprises spécialisées en intelligence artificielle. C'est pourquoi la plateforme travaille à des solutions permettant aux créateurs de contrôler l'utilisation de leur contenu par des tiers.

Malgré la position ferme de YouTube contre l'utilisation de son contenu par les entreprises d'IA pour entraîner leurs modèles, la plateforme et sa maison mère, Google, utilisent ce contenu à la même fin, mais dans le respect des conditions d'utilisation. Elles prévoient de continuer à l'utiliser pour développer des outils d'IA de manière responsable.