Le Conseil de surveillance de Meta appelle à une politique de contenu plus stricte dans le retrait d'une vidéo de deepfake d'un politicien britannique

Le Conseil de surveillance de Meta a statué que l'entreprise doit retirer une vidéo générée par IA d'un conseiller du Parti travailliste écossais qui montrait faussement qu'elle soutenait la violence sexuelle par les réfugiés. 

L'entreprise avait initialement décidé de la laisser en ligne, et au-delà de l'annulation de cette décision, le conseil de surveillance a également averti que la gestion des deepfakes par Meta expose les utilisateurs à un risque de tromperie.

Quelle vidéo fabriquée Meta doit-elle retirer ? 

En novembre 2025, un clip utilisant l'image d'une politicienne locale du Parti travailliste en Écosse est apparu sur Facebook. La vidéo montrait l'image disant : « Les réfugiés sont les bienvenus ici, même s'ils violent nos femmes, parce que les Blancs font ça aussi. »

Le Conseil de surveillance de Meta a décrit la représentation comme réaliste mais synthétique, notant que l'audio ne correspondait pas à ses mouvements faciaux. La vidéo a été trouvée dans un album qui contenait également une photographie de plusieurs femmes nommées, y compris la conseillère, lors d'une manifestation contre l'extrême droite.

Deux personnes, dont la conseillère elle-même, ont signalé la vidéo en vertu des règles de cyberharcèlement et de harcèlement de Meta, mais les systèmes de Meta ne l'ont jamais acheminée vers un réviseur humain, et elle est restée en ligne malgré deux appels. 

Un troisième utilisateur a ensuite porté l'affaire devant le Conseil, et même après qu'il l'ait signalée, Meta a maintenu que la vidéo ne violait aucune règle et ne justifiait pas d'étiquette IA. La conseillère a dit au Conseil que la vidéo était « assez traumatisante. » 

Une majorité du Conseil a estimé que le clip violait la politique de Conduite Haineuse de Meta car il accusait les réfugiés en tant que groupe entier de criminalité grave et de comportement sexuel prédateur, rejetant la prétention de Meta selon laquelle il ne visait que certains réfugiés. Le Conseil ne l'a pas traité comme une désinformation supprimable, mais a déclaré qu'il aurait dû porter une étiquette « Risque élevé IA ».

Le Conseil a convenu sur un point en faveur de Meta, à savoir que les règles de cyberharcèlement et de harcèlement n'exigeaient pas le retrait car un élu est une personnalité publique ayant droit à moins de protection qu'une personne privée.

Quelles recommandations le Conseil de surveillance fait-il à Meta ?

Le Conseil est également intervenu dans un deuxième cas, qui impliquait une interview manipulée par IA d'une femme promouvant l'éducation à la santé menstruelle. Suite à l'intervention du Conseil, Meta a retiré la vidéo pour cyberharcèlement. 

Les deux décisions ont conduit le Conseil à qualifier les sauvegardes de Meta de « constamment et fondamentalement inadéquates. »

Le Conseil a recommandé que Meta abaisse le seuil pour les étiquettes « risque élevé » afin qu'elles ne soient pas réservées aux élections ou aux crises et remplace certaines étiquettes par une interstitielle cliquable. Il a également suggéré que le contenu IA à risque élevé devrait être démonétisé, déclassé ou retiré des recommandations, avec des pénalités croissantes pour les partageurs récidivistes. 

Il veut également que Meta priorise le contenu IA suspecté pour examen humain lorsqu'il est signalé, publie des données annuelles sur la fréquence à laquelle il applique des étiquettes IA, y compris pour les publications sur les politiciens, et formule ses règles de vote et de recensement pour s'appliquer mondialement plutôt que seulement aux États-Unis. Meta dispose de 60 jours pour répondre au conseil. 

Les gouvernements et les plateformes du monde entier durcissent leurs règles sur les médias synthétiques. Par exemple, la Cour populaire suprême de Chine a établi des règles de responsabilité le 7 septembre, qui stipulent que la création ou le partage d'une réplique IA du visage ou de la voix de quelqu'un sans autorisation constitue une atteinte. Cryptopolitan l'a rapporté que Pékin a séparément retiré plus de 14 000 produits IA lors de la première phase de son nettoyage « Qinglang » plus tôt cette année. 

Le Code de pratique sur la transparence du contenu généré par l'IA de l'Union européenne pousse les fournisseurs à marquer la sortie IA et les déployeurs à étiqueter les deepfakes. 

La politique de contenu généré par l'IA de Google Play interdit aux utilisateurs de publier du matériel sexuel deepfake non consensuel et du contenu électoral qui est « manifestement trompeur ou faux. »

Seuls quelques utilisateurs ont le droit d'utiliser l'IA pour écrire sans divulgation sur Medium, et la plateforme interdit la désinformation générée par l'IA tout simplement.