Meta retire l'outil de génération d'images IA d'Instagram, testant les limites du scraping de ressemblance IA

Trois jours seulement après son lancement, Meta a supprimé une fonctionnalité Instagram qui permettait aux utilisateurs d'utiliser l'IA pour créer des images basées sur les photos de profil d'autres utilisateurs. La décision de l'entreprise de supprimer cette fonctionnalité montre une préoccupation croissante concernant le consentement et l'utilisation des images à l'ère de l'intelligence artificielle.

Ce recul est un premier revers pour les efforts de Meta pour rattraper OpenAI et Google dans le domaine de l'IA générative. Bien que le modèle d'image Muse soit toujours disponible, l'entreprise a supprimé l'option de créer des images basées sur des profils Instagram publics dans ses demandes de génération d'images après les critiques des créateurs, des artistes et des défenseurs de la vie privée.

Ce que Meta a construit, et ce qu'il a annulé

Meta a dévoilé Muse Image le 7 juillet, déclarant que le nouvel outil de génération d'images alimenté par l'IA est le premier produit de son laboratoire de superintelligence dirigé par Alexandr Wang. La nouvelle technologie entraîne 30 effets sur Instagram et se dirait supérieure à Google Nano Banana 2 selon les tests internes de Meta, tout en restant derrière le générateur d'images de ChatGPT.

Le difféportait non pas sur le modèle en tant que tel, mais sur la manière dont il traitait les images téléchargées par les utilisateurs. En balisant leur compte Instagram public pour adultes, les utilisateurs pouvaient utiliser les images publiques de ce compte dans des photos générées par IA. Les utilisateurs de moins de 18 ans et les comptes privés étaient exclus du système, tandis que les comptes publics pour adultes étaient automatiquement inscrits à moins qu'ils ne soient désactivés manuellement par les utilisateurs.

Selon Meta, l'objectif de la fonctionnalité était de donner aux utilisateurs « le contrôle sur le fait que leur contenu public puisse être référencé ». Cependant, de nombreux critiques pensent le contraire : introduire un système de désinscription signifie supposer que le consentement est donné par défaut.

En conséquence, vendredi, l'entreprise a changé d'avis.

Un représentant de Meta a déclaré à Variety que « nous avons reçu les retours indiquant que cette fonctionnalité n'a pas atteint ses objectifs, elle n'est donc plus disponible ».

Les créateurs et les groupes de sécurité ont forcé le recul

La fonctionnalité a suscité des critiques presque immédiatement après son lancement. La Screen Actors Guild–American Federation of Television and Radio Artists (SAG-AFTRA) a conseillé à ses membres de désactiver la fonctionnalité, avertissant les artistes de « prendre des mesures pour protéger votre ressemblance ».

L'agence de talents Creative Artists Agency, LLC (CAA), qui représente Tom Hanks et Meryl Streep entre autres, a déclaré être en contact direct avec Meta et a exprimé que le système IA ne devrait jamais utiliser les noms, images, ressemblances et voix des personnes en l'absence de leur consentement explicite.

Pendant ce temps, les défenseurs de la vie privée ont averti que la technologie pourrait faciliter l'usurpation d'identité, les images intimes non consensuelles et les escroqueries en ligne. Haley McNamara, du National Center on Sexual Exploitation, a déclaré dans une interview pour The Verge que la notion de désinscription individuelle transformait la responsabilité de l'entreprise vers les utilisateurs de la technologie.

Le difféportait met en lumière la bataille juridique sur les ressemblances IA

La controverse met en lumière une question plus large à laquelle fait face l'industrie de l'IA : le fait de publier une photo en public donne-t-il également aux entreprises le droit de l'utiliser pour l'IA générative ?

Ce sujet est de plus en plus lié à la législation européenne sur la protection de la vie privée. Le Règlement général sur la protection des données (RGPD) définit les images de personnes comme des données à caractère personnel, ce qui signifie que les organisations doivent trouver une base légale pour traiter ces données conformément à l'article 6.

S'il est nécessaire d'obtenir le consentement d'un individu, l'article 7 stipule que le consentement doit être donné librement, spécifiquement et en connaissance de cause. L'article 9 précise que le traitement des données biométriques devrait exiger plus de responsabilité afin d'identifier de manière unique une personne. Les articles 12 à 14 indiquent également que les organisations devraient décrire comment les informations personnelles sont utilisées afin que les individus soient plus conscients de leur utilisation.

Les régulateurs élargissent également leur champ d'application au-delà des règles traditionnelles de confidentialité. La loi européenne sur l'IA exige que les fournisseurs informent le public si du contenu a été créé ou augmenté à l'aide de technologies IA, telles que les deepfakes. L'objectif de cette exigence est de fournir de la transparence sur les médias synthétiques plutôt que d'interdire l'utilisation de ce type de technologie dans son intégralité.

Mais Meta n'est pas la seule entreprise confrontée à ce problème. Il y a quelques mois seulement, OpenAI a été contraint de supprimer une option de désinscription similaire dans son modèle vidéo Sora en raison de la controverse suscitée par son utilisation d'images accessibles au public.

Ces interventions confirment que les développeurs de technologies IA font face à des défis plus difficiles en raison de l'attention que les régulateurs et les créateurs accordent à s'assurer que le consentement est donné de manière non équivoque avant de manipuler la ressemblance de quiconque.

Le débat sur la question est déjà entré dans le domaine de la législation. La Californie a adopté deux projets de loi, AB 2602 et AB 1836, exigeant une autorisation avant l'utilisation commerciale d'une image générée par IA d'un artiste vivant ou décédé.

Bien que ces lois puissent être davantage liées aux accords de divertissement qu'à l'applicabilité de l'IA dans le domaine de la consommation, elles indiquent néanmoins une tendance à considérer les ressemblances IA comme des éléments nécessitant une autorisation, plutôt que de présumer simplement qu'elles peuvent être utilisées par tout le monde.

Les investisseurs semblent insensibles à tout ce battage. Selon les rapports précédents de Cryptopolitan, les actions Meta ont clôturé à 615,58 $ le jour du lancement (7 juillet), soit une hausse de 2,55 % sur la journée et leur plus haut niveau de clôture en un mois.

Cependant, la question de savoir si la publicité du contenu permet aux utilisateurs d'en tirer parti pour le développement de l'IA reste posée. En fait, si les récentes décisions de Meta reflètent une tendance plus large sur le marché de l'IA, rendre simplement quelque chose public ne donne pas aux autres le droit de l'utiliser dans l'IA. En même temps, il devient clair que le consentement jouera un rôle important dans le développement de nouveaux produits IA pour les consommateurs, car il est de plus en plus demandé par l'industrie ainsi que par les organisations publiques.