Le Royaume-Uni s'allie à Microsoft pour la détection de deepfakes face à la montée de l'IA

Le Royaume-Uni a annoncé son intention de travailler avec Microsoft, des universitaires et des experts techniques pour construire un système de détection de deepfakes, alors que les préoccupations grandissent concernant l'ampleur de la tromperie générée par l'IA en ligne.

L'initiative place les deepfakes, l'IA, le Royaume-Uni, Microsoft et les systèmes de détection au cœur d'une nouvelle poussée pour limiter les contenus nuisibles qui deviennent de plus en plus réalistes et difficiles à repérer.

Le Royaume-Uni cible la fraude et les images non consensuelles

Selon le gouvernement, le partenariat développera un cadre d'évaluation de détection de deepfakes, qui créera un ensemble de normes partagées pour l'évaluation des dispositifs de détection de falsification pour les fichiers audio, vidéo et image altérés.

Ainsi que fournir une référence pour ces types de dispositifs de détection par rapport à des exemples réels d'utilisation (fraude et usurpation d'identité) ainsi que des images ou vidéos d'exploitation sexuelle d'enfants.

La ministre de la Technologie, Liz Kendall, a mis en garde en disant que ce risque n'existe pas seulement théoriquement.

« Les deepfakes sont utilisés par des criminels pour tromper le public, profiter des femmes et des filles, et diminuer la crédibilité de ce que nous voyons et entendons. Et cela continuera jusqu'à ce que nous prenions des mesures pour protéger les citoyens et les institutions démocratiques de la manipulation. »

Kendall

La modification des médias existe depuis de nombreuses décennies. Cependant, les experts affirment qu'avec le développement de l'IA, la quantité d'argent et de compétences requise pour produire un faux de haute qualité est plus accessible que jamais.

Au Royaume-Uni, il y a un accent accru mis sur l'acte criminel de production d'images intimes sans consentement, en raison de la hausse rapide du nombre de fausses images produites par l'IA.

Selon les données gouvernementales, il y a eu huit millions de fausses images produites sous forme de deepfakes en 2025, contre seulement 500 000 en 2023. Cela montre à quelle vitesse les gens créent ce type d'images.

Le cadre a été créé pour permettre aux forces de l'ordre de détecter, prévenir et poursuivre ce crime, et pour fournir à l'industrie un ensemble clair d'attentes concernant les réglementations de sécurité.

C'est une mesure que les gouvernements ont été incités à prendre, et Microsoft a appelé le Congrès en 2024 à adopter une nouvelle législation ciblant les deepfakes générés par l'IA. Brad Smith, Vice-Président et Président de Microsoft, a souligné l'urgence pour les législateurs de faire face à la menace croissante de la technologie deepfake.

Dans son article de blog, Smith a mis en avant l'importance d'adapter les lois pour lutter contre la fraude par deepfake et prévenir l'exploitation. Selon Smith, il devrait exister un statut juridique permettant de poursuivre les escroqueries et fraudes impliquant des deepfakes.

Selon le rapport de Microsoft, plusieurs interventions légales peuvent être prises pour empêcher l'utilisation abusive de la technologie deepfake. L'une des suggestions est de créer un « statut fédéral de fraude par deepfake ».

Exercer une pression sur les plateformes par la réglementation

Partout dans le monde, les régulateurs ont du mal à suivre les avancées rapides de la technologie IA.

Au Royaume-Uni, le bureau qui régule les communications (le « Régulateur des Communications ») et le bureau qui régule la vie privée (le « Régulateur de la Vie Privée ») ont commencé à enquêter sur le chatbot Grok, exploité par Elon Musk, en raison de la production d'images sexualisées d'enfants créées sans leur consentement.

Dans le cadre de cette enquête, les deux organismes de réglementation travailleront ensemble pour élaborer un nouveau cadre visant à aider les forces de l'ordre et les agences de régulation à établir des normes cohérentes pour l'évaluation des outils de détection utilisés par ces entités.

Selon Kendall, l'objectif de ce nouveau cadre est « de promouvoir la restauration de la confiance dans ce que les gens voient et entendent en ligne », et d'exiger que tous les fournisseurs de technologies assument la responsabilité d'atténuer les dommages potentiels liés à l'utilisation croissante des technologies d'IA.