Meta annonce une politique élargie pour l'étiquetage des images générées par l'IA

Meta, anciennement connu sous le nom de Facebook, a dévoilé une politique élargie pour faire face aux défis associés à la prolifération de contenu généré par l'IA sur ses plateformes, y compris Facebook, Instagram et Threads.

En réponse à l'utilisation croissante de l'intelligence artificielle générative, l'entreprise mettra désormais en place des étiquettes d'avertissement sur les images générées par l'IA pour informer les utilisateurs de leur origine artificielle. Bien que cette mesure soit considérée comme un pas positif, des préoccupations subsistent quant à son efficacité pour combattre les acteurs malveillants et aux limites de la technologie.

Étiquettes d'avertissement sur les images générées par l'IA

Le dernier changement de politique de Meta consiste à étiqueter les images générées par l'IA, qu'elles soient créées à l'aide de ses propres outils d'IA générative ou de ceux fournis par d'autres entreprises, avec des étiquettes indiquant leur nature artificielle. Cette mesure est conçue pour réduire le risque de désinformation et de mésinformation propagée par des images générées par l'IA présentées comme de vraies photos.

 Meta étiquetait les images produites par son IA comme « Imaginé avec l'IA », principalement en identifiant le filigrane numérique intégré par ses algorithmes dans la sortie.

Défis et limites

Malgré l'engagement de Meta à mettre en œuvre ces étiquettes d'avertissement, des défis importants subsistent. Un défi notable est que de nombreux outils de génération d'images IA ne filigranent pas leur sortie, ce qui facilite la manipulation et la diffusion de contenu généré par l'IA par des acteurs malveillants sans divulgation. 

De plus, la technologie permettant de détecter de manière fiable les images générées par l'IA et de les étiqueter est encore en développement, et aucune norme universellement déployée n'existe.

La Coalition pour la provenance et l'authenticité du contenu (C2PA), une initiative fondée par Adobe, a tenté d'aligner le travail des entreprises sur la provenance du contenu. Cependant, la technologie développée jusqu'à présent n'est pas infaillible. 

Les chercheurs ont démontré la facilité avec laquelle les filigranes peuvent être brisés ou ajoutés à des images non générées par l'IA, compromettant ainsi leur efficacité.

Hany Farid, professeur à la School of Information de l'UC Berkeley qui conseille l'initiative C2PA, met en garde contre le fait que les acteurs malveillants pourraient utiliser des outils IA qui ne filigranent pas leur sortie pour tromper davantage les utilisateurs. 

Il suggère qu'une combinaison de méthodes d'identification, telles que le filigrane et la technologie basée sur les hachages , pourrait être nécessaire pour identifier de manière robuste le contenu généré par l'IA. Le filigrane est moins développé pour les médias générés par l'IA autres que les images, comme l'audio et la vidéo.

Élargissement des politiques et de la supervision

Bien que les nouvelles politiques de Meta représentent un pas en avant dans la lutte contre les faux contenus, elles ne se limitent pas au matériel généré par l'IA. Le Conseil de supervision de l'entreprise, composé d'experts indépendants, a récemment confirmé la décision de Meta de laisser en ligne une vidéo du président Joe Biden qui avait été modifiée pour créer une impression trompeuse. 

Cette décision met en lumière la nécessité pour Meta de réviser et d'étendre ses règles pour les « médias manipulés » afin d'englober plus que simplement le contenu généré par l'IA.

Le porte-parole de Meta, Kevin McAlister, reconnaît la nécessité d'une approche plus large, déclarant : « Bien que les entreprises commencent à inclure des signaux dans leurs générateurs d'images, elles n'ont pas commencé à les inclure dans les outils IA qui génèrent de l'audio et de la vidéo à la même échelle. » 

À cet égard, Meta travaille à l'ajout d'une fonctionnalité permettant aux utilisateurs de divulguer lorsqu'ils partagent de la vidéo ou de l'audio générés par l'IA, afin que des étiquettes appropriées puissent être appliquées.