Meta retire l'outil d'analyse d'images IA d'Instagram, testant les limites de l'extraction de données de ressemblance par IA

Trois jours seulement après son lancement, Meta a supprimé une fonctionnalité d'Instagram qui permettait aux utilisateurs de créer des images à partir des photos de profil d'autres utilisateurs grâce à l'IA. Cette décision témoigne d'une préoccupation croissante concernant le consentement et l'utilisation des images à l'ère de l'intelligence artificielle.

Le problème de latracconstitue un revers initial pour Meta, qui cherche à rattraper OpenAI et Google dans le domaine de l'IA générative. Bien que le modèle d'image Muse reste disponible, l'entreprise a abandonné l'option de créer des images à partir de profils Instagram publics lors de ses requêtes de génération d'images, suite aux critiques de créateurs, d'artistes et de défenseurs de la vie privée.

Ce que Meta a construit, et ce qu'elle a renié

Meta a dévoilé Muse Image le 7 juillet, précisant que ce nouvel outil de génération d'images basé sur l'IA est le premier produit de son laboratoire de superintelligence dirigé par Alexandr Wang. Cette nouvelle technologie alimente 30 effets sur Instagram et surpasserait Google Nano Banana 2 d'après les tests internes de Meta, n'étant devancée que par le générateur d'images de ChatGPT.

Le litige ne portait pas sur le modèle en lui-même, mais sur la manière dont il traitait les images téléchargées par les utilisateurs. En identifiant leur compte Instagram public pour adultes, ces derniers pouvaient utiliser les images publiques de ce compte dans des photos générées par l'IA. Les utilisateurs de moins de 18 ans et les comptes privés étaient exclus du système, tandis que les comptes publics pour adultes étaientmaticinscrits, sauf si les utilisateurs les désactivaient manuellement.

Selon Meta, l'objectif de cette fonctionnalité était de donner aux utilisateurs « le contrôle sur la possibilité de référencer leur contenu public ». Cependant, de nombreux critiques pensent exactement le contraire : introduire ce système de désactivation revient à présumer que le consentement est donné par défaut.

En conséquence, vendredi, l'entreprise a changé d'avis.

Un représentant de Meta a déclaré à Variety : «Nous avons pris en compte les commentaires indiquant que cette fonctionnalité n'a pas atteint ses objectifs, elle n'est donc plus disponible. »

Les créateurs et les groupes de sécurité ont forcé letracen arrière

La fonctionnalité a suscité des critiques presque immédiatement après son lancement. La Screen Actors Guild–American Federation of Television and Radio Artists (SAG-AFTRA) a conseillé à ses membres de la désactiver, les avertissant de « prendre des mesures pour protéger leur image »

L'agence artistique Creative Artists Agency, LLC (CAA), qui représente notamment Tom Hanks et Meryl Streep, a déclaré être en contact direct avec Meta et a exprimé que le système d'IA ne devrait jamais utiliser les noms, images, ressemblances et voix des personnes en l'absence de leur consentement explicite.

Parallèlement, des défenseurs de la vie privée ont mis en garde contre le risque que cette technologie facilite l'usurpation d'identité, la diffusion non consentie d'images intimes et les escroqueries en ligne. Haley McNamara, du National Center on Sexual Exploitation, a déclaré dans une interview accordée à The Verge que la possibilité pour les individus de se désinscrire transférait la responsabilité de l'entreprise aux utilisateurs de la technologie.

Ce différend met en lumière la bataille juridique autour des représentations par IA

Cette controverse met en lumière une question plus large à laquelle est confrontée l'industrie de l'IA : le fait de publier une photo publiquement donne-t-il également aux entreprises le droit de l'utiliser pour l'IA générative ?

Ce sujet est de plus en plus lié au droit européen de la protection des données. Le Règlement général sur la protection des données (RGPD) defiles images de personnes comme des données à caractère personnel, ce qui signifie que les organisations doivent trouver une base juridique pour le traitement de ces données en vertu de l'article 6.

Si le consentement d'une personne est requis, l'article 7 stipule que celui-ci doit être libre, spécifique et éclairé. L'article 9 précise que le traitement des données biométriques doit impliquer une plus grande responsabilité afin d'dentune personne de manière unique. Les articles 12 à 14 indiquent également que les organismes doivent informer les personnes concernées de l'utilisation qui est faite de leurs données personnelles.

Les autorités de régulation étendent également leur champ d'action au-delà des règles traditionnelles de protection de la vie privée. La réglementation européenne sur l'IA impose aux fournisseurs d'informer le public si un contenu a été créé ou modifié à l'aide de technologies d'IA, telles que les deepfakes. L'objectif de cette exigence est d'assurer la transparence concernant les médias synthétiques plutôt que d'interdire purement et simplement l'utilisation de ce type de technologie.

Mais Meta n'est pas la seule entreprise confrontée à ce problème. Il y a quelques mois à peine, OpenAI a été contrainte de supprimer une option de désactivation similaire dans son modèle vidéo Sora en raison des vives critiques suscitées par son utilisation d'images publiques.

Ces interventions confirment que les développeurs de technologies d'IA sont confrontés à des défis plus ardus en raison de l'attention que les organismes de réglementation et les créateurs portent à s'assurer que le consentement est donné sans ambiguïté avant toute manipulation de l'image d'une personne.

Le débat sur cette question s'est déjà orienté vers la législation. La Californie a adopté deux projets de loi, AB 2602 et AB 1836, exigeant une autorisation avant toute utilisation commerciale d'une image générée par intelligence artificielle représentant un artiste, vivant ou décédé.

Bien que ces lois concernent davantage les accords de divertissement que l'applicabilité de l'IA dans le domaine de la consommation, elles indiquent néanmoins une tendance à considérer les représentations par l'IA comme des choses qui nécessitent une autorisation, plutôt que de simplement présumer qu'elles peuvent être utilisées par n'importe qui.

Les investisseurs semblent indifférents à toute cette agitation. Selon de précédents rapports de Cryptopolitan, l'action Meta a clôturé à 615,58 $ le jour de son lancement (7 juillet), soit une hausse de 2,55 % sur la journée et son meilleur cours de clôture en un mois.

Il reste néanmoins à savoir si la publication d'un contenu permet aux utilisateurs de l'exploiter pour le développement de l'IA. En effet, si les récentes décisions de Meta reflètent une tendance plus générale du marché de l'IA, la simple publication d'un contenu n'autorise en aucun cas son utilisation par des tiers dans ce domaine. Parallèlement, il apparaît clairement que le consentement jouera un rôle important dans le développement de nouveaux produits d'IA destinés aux consommateurs, car il est de plus en plus exigé par l'industrie et les organismes publics.