Meta met en œuvre un système d'étiquetage de contenu par IA d'ici mai en réponse aux inquiétudes liées aux deepfakes

Pour apaiser les inquiétudes des utilisateurs et des gouvernements concernant les deepfakes, Meta, le géant des réseaux sociaux qui gère Facebook et Instagram, a annoncé vendredi qu'il commencerait à étiqueter les contenus générés par l'IA en mai. Le géant a également précisé que, par respect pour la liberté d'expression, il ne supprimerait plus les photos et les sons modifiés qui ne contreviennent pas à ses règles, mais se baserait plutôt sur la terminologie et le contexte. La mention « Créé avec une IA » sera apposée. Cette politique s'appliquera aux publications Facebook, Threads et Instagram.

Meta a annoncé qu'elle commencerait à désigner davantage de contenus audio, vidéo et image comme étant générés par l'intelligence artificielle (IA), reconnaissant que sa politique actuelle est « trop restrictive ». Bien que l'entreprise n'ait pas précisé sa méthode de détection, les étiquettes seraient apposées soit lorsque les utilisateurs admettent utiliser des outils d'IA, soit lorsque Meta reconnaît le contenu grâce à ses indicateurs d'images d'IA, qui sont la norme du secteur.

Meta répond aux critiques du conseil de surveillance

Ces modifications ont été motivées par les critiques du conseil de surveillance de Meta, un organisme d'évaluationdent du géant d'Internet qui modifie les contenus. Face aux progrès fulgurants de l'IA et à la facilité avec laquelle les médias peuvent être manipulés pour créer des deepfakes extrêmement convaincants, le conseil a interrogé Meta en février

Afin de réévaluer rapidement sa stratégie de manipulation des médias, le conseil a lancé un avertissement en pleine année électorale, tant au niveau local qu'international, face aux inquiétudes suscitées par l'utilisation croissante d'applications d'intelligence artificielle à des fins de désinformation sur les plateformes.

Monika Bickert, vice-présidentedent de la politique de contenu, a déclaré :

« Nous partageons l’avis du Conseil de surveillance selon lequel notre approche actuelle est trop restrictive puisqu’elle ne couvre que les vidéos créées ou modifiées par une IA pour faire dire à une personne quelque chose qu’elle n’a pas dit. »

Source : Meta

Suite aux recommandations du conseil de surveillance, Meta a choisi de modifier son approche concernant les contenus manipulés. Au lieu de les supprimer purement et simplement, l'entreprise privilégiera désormais l'étiquetage et la contextualisation afin de garantir la transparence quant à l'origine et l'authenticité des contenus. Comme l'explique Meta, cette décision s'explique par son engagement en faveur de la liberté d'expression et de la protection contre les préjudices causés par des contenus trompeurs ou mensongers.

Mise en œuvre de l'étiquetage de contenu par IA

Le projet d'étiquetage de Meta sera mis en œuvre en deux phases, la première débutant en mai 2024. les contenus générés par l'IA— incluant divers formats multimédias tels que l'audio, la vidéo et les images — seront reconnus et catégorisés de manière appropriée. Afin d'alerter les utilisateurs sur les risques de manipulation, les contenus jugés à haut risque de tromperie seront également signalés de façon plus visible.

La suppression des contenus modifiés, fondée uniquement sur l'ancienne politique, sera abandonnée lors de la deuxième phase de déploiement de Meta, prévue pour juillet. À moins que les contenus manipulés par IA n'enfreignent d'autres Standards de la communauté, comme ceux interdisant les discours haineux ou l'ingérence dans les élections, ils resteront accessibles sur la plateforme conformément à la nouvelle réglementation. Meta s'engage à trouver un équilibre entre la préservation de l'intégrité de ses plateformes et la liberté d'expression, et cette méthode témoigne de cet engagement.

Bickert a ajouté, 

« Les étiquettes couvriront un éventail de contenus plus large, en plus des contenus manipulés dont le comité de surveillance a recommandé l’étiquetage. » 

Source : Meta Inc.

Qu’il ait été créé avec des outils d’IA ou non, tout contenu enfreignant d’autres règles – comme celles relatives au harcèlement, à l’ingérence dans les élections et au harcèlement moral – sera supprimé.

En février, les géants du numérique et les entreprises spécialisées en intelligence artificielle ont conclu un accord pour lutter contre la manipulation de contenus destinés à induire les électeurs en erreur, un enjeu lié aux nouvelles méthodes d'étiquetage. Meta, Google et OpenAI se sont déjà entendus sur une norme unique de tatouage numérique pour les photos générées par les applications d'IA.