Google lancia uno strumento open source per la filigrana che consente agli utenti didentil testo generato dall'intelligenza artificiale

Google ha reso open source lo strumento di filigrana del testo SynthID, una tecnologia che consente agli utenti di rilevare facilmente se il testo è originale o generato dall'intelligenza artificiale.

Secondo Google, il rilevatore di testo generato dall'IA può essere scaricato dalla piattaforma di intelligenza artificiale Hugging Face e dal Responsible GenAI Toolkit aggiornato di Google. Le filigrane sono diventate importanti con il boom dell'IA generativa negli ultimi due anni, poiché gli LLM vengono manipolati per diffondere disinformazione e informazioni errate, nonché contenuti sessuali non consensuali e per scopi dannosi.

Questo sviluppo avviene in un momento in cui è urgente sviluppare tali strumenti, dato che l' Agenzia europea per l'applicazione della legge teme che entro il 2026 il 90% dei testi online potrebbe essere sintetico, rendendo dilaganti propaganda, frode e inganno.

I ricercatori di Google spiegano il loro strumento di filigrana

In un post sulla piattaforma X, il gigante dei motori di ricerca ha rivelato che renderà open source il suo strumento di watermarking SynthID Text, affermando che sarà "disponibile gratuitamente per aziende e sviluppatori, in quanto li aiuterà a identificaredentcontenuti generati dall'intelligenza artificiale".

Pushmeet Kohli, vicepresidentedent della ricerca presso Google DeepMind e coautore di un documento di ricerca di Google DeepMind, ha affermato: "Il sistema non compromette le funzionalità dei modelli di intelligenza artificiale, ma le migliora"

Immagini e video sono stati al centro delle discussioni sulledentdei contenuti e le filigrane sono state individuate come la soluzione necessaria per combattere i deepfake.

la Coalition for Content Provenance and Authenticity (C2PA), una collaborazione tra aziende tecnologiche e importanti organi di informazione per elaborare un sistema per allegare metadati crittografati per indicare file di immagini e video generati dall'intelligenza artificiale, è stata al centro di queste discussioni.

Secondo il documento di ricerca di Google DeepMinds, SynthID Text interferisce durante la generazione poiché modifica alcune parole emesse da un chatbot in modo che siano chiare a un rilevatore SynthID ma quasi invisibili agli esseri umani.

"Modifiche come queste introducono una firma statistica nel testo generato dall'intelligenza artificiale e, durante la fase di rilevamento della filigrana, la firma può essere misurata per verificare se il testo proviene da un modello di intelligenza artificiale tramite l'LLM con filigrana", hanno scritto i ricercatori nel documento.

Generando frasi parola per parola, è così che funzionano gli LLM che alimentano i chatbot, scegliendo la parola successiva più probabile in base al contesto di ciò che l'ha preceduta. Assegnando casualmente punteggi numerici alle parole candidate, l'LLM produce parole con un punteggio più alto. Verranno applicate delle filigrane a un testo che sarebbe stato analizzato dal rilevatore e che avrebbe ottenuto un punteggio più alto.

Oggi rendiamo open source il nostro strumento di filigrana del testo SynthID tramite un Responsible Generative AI Toolkit aggiornato.

Disponibile gratuitamente per sviluppatori e aziende, li aiuterà adenti loro contenuti generati dall'intelligenza artificiale. 🔍

Scopri di più → https://t.co/n2aYoeJXqn pic.twitter.com/4uRKYaz57Y

— Google DeepMind (@GoogleDeepMind) 23 ottobre 2024

Gli esperti del settore elogiano Google per il passo nella giusta direzione

Nonostante il sistema DeepMind abbia prestazioni migliori rispetto ad altri strumenti nell'inserimento di filigrane nel testo, i ricercatori hanno riconosciuto nel loro articolo che lo strumento presenta ancora dei difetti. Ad esempio, se si altera un testo generato da Gemini, il rilevatore verrà ingannato.

"Sebbene SynthID non sia la soluzione definitiva perdenti contenuti generati dall'intelligenza artificiale, è un elemento fondamentale per lo sviluppo di strumenti didentdell'intelligenza artificiale più affidabili."

– Kohli.

Se gli utenti modificano significativamente i testi o utilizzano un altro chatbot per riassumere il testo, il rilevatore verrà tratto in inganno e apporrà una filigrana al testo generato dall'IA.

Google afferma che SynthID Text non compromette la qualità, l'accuratezza o la velocità di generazione del testo, come testato dal sistema integrato nei suoi modelli Gemini. L'azienda ha inoltre aggiunto che funziona anche su testo ritagliato, modificato o parafrasato.

"Il rilevamento è un problema particolare quando si inizia a considerare l'implementazione in situazioni reali, poiché ci sono problemi con la revisione del testo in natura, dove sarà necessario sapere quale modello di filigrana è stato applicato per sapere e dove localizzare il segnale", ha spiegato Bruce MacCormack, membro del comitato direttivo del C2PA.

Oltre a Google, anche OpenAI lavora da anni alla tecnologia di filigrana del testo basata sull'intelligenza artificiale, ma ne ha ritardato il rilascio per motivi di fattibilità tecnica e commerciale.

Ma gli esperti del settore hanno generalmente elogiato l'iniziativa di Google, definendola un passo nella giusta direzione.

"Ciò promette di migliorare l'uso delledentdi contenuto durevoli di C2PA per documenti e testo grezzo", ha affermato Andrew Jenks, direttore della provenienza dei media di Microsoft e presidente esecutivo di C2PA.

MacCormack ha aggiunto inoltre che, sebbene i ricercatori di Google abbiano ancora molto da fare per rendere questa iniziativa un caso concreto, resta comunque un'ottima iniziativa e "il primo passo nella maratona che ci attende"