Meta étiquettera les médias générés par l'IA sur Facebook et Instagram

Meta, la société mère de Facebook et Instagram, a annoncé qu'elle cesserait d'appliquer ses étiquettes manuelles aux médias synthétiques produits à partir de mai. De telles réglementations peuvent alléger le fardeau des attaques courantes de deepfakes et de désinformation sur ses médias.

Aborder les préoccupations liées à la désinformation

Meta devrait prendre de nouvelles mesures pour atténuer la propagation du contenu synthétique en réponse aux critiques croissantes et aux technologies IA en pleine expansion. À partir de mai 2024, l'entreprise introduira des étiquettes « Créé avec l'IA » pour indiquer lorsque du texte, des images, de l'audio et des vidéos ont été créés ou modifiés à l'aide de l'intelligence artificielle.

La décision de Meta d'étiqueter le matériel produit par l'IA fait partie de la large campagne de l'entreprise pour offrir aux utilisateurs beaucoup d'informations et, en effet, plus de transparence. Cela signifie par conséquent que Facebook ne sera pas en mesure de supprimer ces éléments qui sont falsifiés, mais pourrait les étiqueter en les mettant en contexte. C'est ce que Mark Zuckerberg, PDG de Meta, a déclaré que l'entreprise ferait : lancer éventuellement une initiative éducative sur les dangers des médias manipulés. C'est ce qu'affirme une enquête du comité de surveillance commandée par Facebook.

Cependant, il y avait une crainte que les applications alimentées par l'IA dans les campagnes de fausses nouvelles puissent être utilisées pour interférer avec le processus électoral. Deuxièmement, le comité a exprimé son urgence et a souligné le besoin désespéré de contre-mesures efficaces, surtout pendant les périodes électorales dans tout pays.

Planification du déploiement et modifications de la politique

Les médias manipulés qui ont été supprimés avant la politique seront réactivés à une date ultérieure, disponibles à la visualisation par les consommateurs sur les pages de contenu d'actualités de Facebook. Le contenu manipulé par l'IA selon la nouvelle norme ne sera supprimé que s'il viole d'autres règles de la plateforme, telles que celles contre la haine ou l'interférence électorale.

Parmi les nombreux accords traitant du contenu manipulé, Meta accorde une grande importance à la coopération avec d'autres géants de la technologie et les développeurs d'IA. Meta, Google et OpenAI ont tous convenu d'un traité d'interopérabilité via une étiquette de filigrane unifiée invisible, qu'ils utiliseront pour leur application d'images automatisées par IA. Cependant, face à un tel défi, certaines questions sur l'efficacité de telles solutions, surtout celles liées au code open source, qui peuvent ne pas s'appuyer sur de telles politiques, doivent rester sans réponse à ce jour.

Les cas récents de deepfakes générés par l'IA, qui se sont avérés être authentiques, ajouteront du carburant aux craintes sociétales concernant le contenu faux. Le service de Meta vise à résoudre ce problème en étiquetant le contenu faux et en ne servant aux utilisateurs que les informations dont ils ont vraiment besoin sur l'intégrité du contenu avec lequel ils interagissent sur son site.

Ce développement récent, par lequel le géant des réseaux sociaux Facebook a indiqué qu'il étiquetterait désormais les médias générés par l'IA sur Facebook et Instagram, peut simplement être présenté comme une étape de préemption contre la peur instillée par les deepfakes et la désinformation. L'idée est de nettoyer tous les débris avec cette approche, neutralisant tous les périls résultant de l'utilisation de matériel délogé et défendant les principes de la liberté d'expression. Ceux-ci ont été remarquablement efficaces pour atténuer les défis induits par l'IA, bien que le problème continue d'être écrasant, compte tenu de la vitesse à laquelle l'IA se développe et de la nature mutable des fausses nouvelles.