Google met à disposition des utilisateurs un outil de tatouage numérique open source pourdentles textes générés par l'IA

Google a rendu open source l'outil de tatouage numérique de texte SynthID, une technologie qui permet aux utilisateurs de détecter facilement si un texte est original ou généré par l'IA.

Selon Google, le détecteur de texte généré par IA peut être téléchargé depuis la plateforme d'IA Hugging Face et la version mise à jour du Responsible GenAI Toolkit de Google. Les filigranes sont devenus essentiels avec l'essor de l'IA générative ces deux dernières années, car les modèles de langage naturel (MLN) sont manipulés pour diffuser de la désinformation, des contenus sexuels non consensuels et à des fins malveillantes.

Cette évolution intervient alors qu'il est urgent de développer de tels outils, l' Agence européenne pour la répression des fraudes s'inquiétant du fait que 90 % des textes en ligne pourraient être synthétiques d'ici 2026, ce qui favoriserait la propagande, la fraude et la tromperie.

Des chercheurs de Google expliquent leur outil de tatouage numérique

Dans un article publié sur la plateforme X, le géant des moteurs de recherche a révélé qu'il rendait open source son outil de tatouage numérique SynthID Text, précisant qu'il serait « disponible gratuitement pour les entreprises et les développeurs, car il les aidera à identifierdentcontenu généré par l'IA ».

Pushmeet Kohli, vice-dent de la recherche chez Google DeepMind et co-auteur d'un article de recherche de Google DeepMind, a déclaré : « Le système ne compromet pas les fonctions des modèles d'IA, mais les améliore simplement. »

Les images et les vidéos ont occupé une place centrale dans les discussions sur lesdentet les filigranes ont été désignés comme la solution nécessaire pour lutter contre les deepfakes.

La Coalition pour la provenance et l'authenticité du contenu (C2PA), une collaboration entre des entreprises technologiques et de grands médias visant à élaborer un système permettant d'ajouter des métadonnées chiffrées pour indiquer les fichiers image et vidéo générés par l'IA, a également été au cœur de ces discussions.

Selon l'étude de Google DeepMinds, SynthID Text interfère lors de la génération car il modifie certains mots prononcés par un chatbot pour qu'ils soient clairs pour un détecteur SynthID mais presque invisibles pour les humains.

« Des modifications comme celles-ci introduisent une signature statistique dans le texte généré par l’IA et, lors de la phase de détection du filigrane, cette signature peut être mesurée pour déterminer si le texte provient d’un modèle d’IA par le LLM filigrané », ont écrit les chercheurs dans l’article.

Les modèles de langage (LLM) qui alimentent les chatbots génèrent des phrases mot à mot, choisissant le mot suivant le plus probable en fonction du contexte. En attribuant aléatoirement des scores numériques aux mots candidats, le LLM identifie les mots ayant le score le plus élevé. Un filigrane est apposé sur le texte analysé par le détecteur et ayant obtenu un score élevé.

Aujourd'hui, nous publions en open source notre outil de tatouage numérique de texte SynthID grâce à une version mise à jour de notre kit d'outils d'IA générative responsable.

Disponible gratuitement pour les développeurs et les entreprises, cet outil les aidera àdentleur contenu généré par l'IA. 🔍

Pour en savoir plus → https://t.co/n2aYoeJXqn pic.twitter.com/4uRKYaz57Y

— Google DeepMind (@GoogleDeepMind) 23 octobre 2024

Les experts du secteur félicitent Google pour cette initiative qui va dans le bon sens

Bien que le système DeepMind soit plus performant que d'autres outils de tatouage numérique de texte, les chercheurs reconnaissent dans leur article que l'outil présente encore des failles. Par exemple, si l'on modifie un texte généré par Gemini, le détecteur sera trompé.

« Bien que SynthID ne soit pas une solution miracle pourdentle contenu généré par l'IA, il constitue un élément fondamental pour le développement d'outils d'dentpar l'IA plus fiables. »

– Kohli.

Si les utilisateurs modifient considérablement les textes ou utilisent un autre chatbot pour les résumer, le détecteur sera induit en erreur lors du marquage du texte généré par l'IA.

Google affirme que SynthID Text ne compromet ni la qualité, ni la précision, ni la vitesse de génération de texte, comme l'ont confirmé les tests effectués par le système intégré à ses modèles Gemini. L'entreprise précise également que le système fonctionne même avec des textes rognés, modifiés ou paraphrasés.

« La détection pose un problème particulier lorsqu'on commence à prendre en compte la mise en œuvre dans des situations réelles, car il existe des problèmes liés à l'examen du texte en situation réelle, où il faut savoir quel modèle de tatouage numérique a été appliqué pour savoir et où localiser le signal », a expliqué Bruce MacCormack, membre du comité directeur du C2PA.

Outre Google, OpenAI travaille également depuis des années sur une technologie de tatouage numérique de texte par IA, mais a retardé sa publication en raison de problèmes de viabilité technique et commerciale.

Mais les experts du secteur ont généralement salué l'initiative de Google comme un pas dans la bonne direction.

« Cela ouvre des perspectives prometteuses pour améliorer l'utilisation desdentde contenu durables de la C2PA pour les documents et les textes bruts », a déclaré Andrew Jenks, directeur de la provenance des médias chez Microsoft et président exécutif de la C2PA.

MacCormack a également ajouté que même si les chercheurs de Google ont encore beaucoup de travail à faire pour que cela devienne une solution concrète, il s'agit néanmoins d'une excellente initiative et de « la première étape d'un long marathon »