Google open-source l’outil de marquage d’eau pour permettre aux utilisateurs d’identifier le texte généré par l’IA

- « Le détecteur de texte généré par l'IA de Google, SynthID, ne compromettra pas la qualité et la précision des textes. »
- Cela est considéré comme une étape nécessaire pour lutter contre les deepfakes.
- D'autres entreprises technologiques comme OpenAI ont travaillé sur un outil de filigrane pour le texte, mais ont retardé sa mise en release.
Google a open-sourcé l’outil de marquage d’eau SynthID Text, une technologie qui permet aux utilisateurs de détecter facilement si un texte est original ou généré par l’IA.
Selon Google, le détecteur de texte généré par l’IA peut être téléchargé à partir de la plateforme IA Hugging Face et de la mise à jour de l’outil de responsabilité GenAI de Google. Les marques d’eau sont devenues significatives avec l’essor de l’IA générative au cours des deux dernières années, car les LLM sont manipulés pour propager de la désinformation et de la mésinformation, ainsi que du contenu sexuel non consensuel et à des fins malveillantes.
Ce développement survient alors qu’il y a une urgence à développer de tels outils, l’Agence européenne de police craignant que 90 % des textes en ligne ne soient synthétiques d’ici 2026, rendant la propagande, la fraude et la tromperie monnaie courante.
Les chercheurs de Google expliquent leur outil de marquage d’eau
Dans un message sur la plateforme X, le géant de la recherche a révélé qu’il open-source son outil de marquage d’eau SynthID Text, indiquant qu’il sera « disponible gratuitement pour les entreprises et les développeurs car cela les aidera à identifier leur contenu généré par l’IA ».
Pushmeet Kohli, vice-président de la recherche chez Google DeepMind et co-auteur d’un article de recherche de Google DeepMind, a déclaré : « Le système ne compromet pas les fonctions des modèles d’IA mais les rend simplement meilleurs. »
Les images et les vidéos ont été au centre des discussions sur les credentials de contenu et les marques d’eau ont été désignées comme la solution nécessaire pour combattre les deepfakes.
La Coalition pour la provenance et l’authenticité du contenu (C2PA), une collaboration entre des entreprises technologiques et de grands médias pour élaborer un système permettant d’attacher des métadonnées chiffrées afin d’indiquer les fichiers image et vidéo générés par l’IA, a également été au centre de ces discussions.
Selon l’article de recherche de Google DeepMind, SynthID Text interfère pendant la génération en altérant certains mots produits par un chatbot pour qu’ils soient clairs pour un détecteur SynthID mais presque invisibles pour les humains.
« Des modifications comme celles-ci introduisent une signature statistique dans le texte généré par l’IA et, lors de la phase de détection de la marque d’eau, la signature peut être mesurée pour voir si le texte provient d’un modèle d’IA par le LLM marqué d’eau », ont écrit les chercheurs dans l’article.
En générant des phrases mot par mot, c’est ainsi que fonctionnent les LLM qui alimentent les chatbots, car ils choisissent le mot suivant probable en fonction du contexte de ce qui a précédé. En attribuant aléatoirement des scores numériques aux mots candidats, le LLM produit des mots avec un score plus élevé. Les marques d’eau seront placées sur un morceau de texte qui aurait été analysé par le détecteur, et ayant été trouvé avec un score plus élevé.
Aujourd’hui, nous open-source notre outil de marquage d’eau de texte SynthID via une mise à jour de l’outil de responsabilité de l’IA générative.
Disponible gratuitement pour les développeurs et les entreprises, il les aidera à identifier leur contenu généré par l’IA. 🔍
En savoir plus → https://t.co/n2aYoeJXqn pic.twitter.com/4uRKYaz57Y
— Google DeepMind (@GoogleDeepMind) le 23 octobre 2024
Les experts de l’industrie saluent le pas de Google dans la bonne direction
Malgré le fait que le système de DeepMind performe mieux que d’autres outils pour le marquage d’eau du texte, les chercheurs ont reconnu dans leur article que l’outil présente encore des défauts. Par exemple, si vous modifiez un texte généré par Gemini, le détecteur sera trompé.
« Bien que SynthID ne soit pas une solution miracle pour identifier le contenu généré par l’IA, c’est un élément important pour développer des outils d’identification de l’IA plus fiables. »
– Kohli.
Si les utilisateurs modifient considérablement les textes ou utilisent un autre chatbot pour résumer le texte, le détecteur sera induit en erreur dans le marquage d’eau du texte généré par l’IA.
Google affirme que SynthID Text ne compromet pas la qualité, la précision ou la vitesse de génération de texte, comme testé par le système intégré dans ses modèles Gemini. L’entreprise a également ajouté qu’il fonctionne même sur des textes qui ont été recadrés, modifiés ou paraphrasés.
« La détection est un problème particulier lorsqu’on commence à prendre en compte l’implémentation dans des situations réelles, car il y a des problèmes avec l’examen du texte dans la nature, où l’on devra savoir quel modèle de marquage d’eau a été appliqué pour savoir où localiser le signal », a expliqué Bruce MacCormack, membre du comité directeur de la C2PA.
Outre Google, OpenAI travaille également sur la technologie de marquage d’eau pour le texte IA depuis des années, mais a reporté sa sortie en raison de considérations techniques et de viabilité commerciale.
Mais les experts de l’industrie ont généralement salué l’initiative de Google comme un pas dans la bonne direction.
« Cela promet d’améliorer l’utilisation des credentials de contenu durables de la C2PA pour les documents et le texte brut », a déclaré Andrew Jenks, directeur de la provenance des médias chez Microsoft et président exécutif de la C2PA.
MacCormack a également ajouté que bien que les chercheurs de Google aient encore beaucoup à faire pour rendre cela pratique, il s’agit d’une excellente initiative et de « la première étape du marathon à venir ».
Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Enacy Mapakame
Enacy Mapakame est journaliste avec plus de 10 ans d'expérience dans les actualités économiques et financières. Elle couvre les marchés capitalistiques et les technologies émergentes – le métavers, l'IA et la cryptomonnaie. Enacy détient un diplôme de licence (BSc) en études médiatiques et sociales avec mention.














