OpenAI applicherà un watermark al testo di ChatGPT solo nell'UE

OpenAI ha iniziato a etichettare i testi generati dai suoi sistemi AI, ChatGPT e Codex, per gli utenti nella regione UE, ha annunciato l'azienda lunedì, a causa del requisito di trasparenza previsto dal Regolamento europeo sull'intelligenza artificiale entrato in vigore il 2 agosto.

Queste regole obbligano le aziende di intelligenza artificiale a etichettare i contenuti generati da AI in un formato leggibile da altri sistemi, con sanzioni per le violazioni dell'articolo 50 che possono arrivare fino a 15 milioni di euro o al 3% del fatturato annuo globale. Il rollout raggiungerà gli account idonei su tutti i piani nelle prossime settimane, ma solo all'interno della UE.

È possibile per gli sviluppatori che accedono all'API da qualsiasi località attivare la funzionalità per determinati modelli a partire da oggi, sebbene la funzione rimanga disattivata finché un cliente non la attiva, secondo TechCrunch.

Stiamo ampliando il nostro approccio alla provenienza dei contenuti per includere il testo in risposta ai requisiti normativi dell'UE, riconoscendo al contempo le significative limitazioni della tecnologia attuale di watermarking del testo.

I nostri strumenti aiutano già a verificare se un'immagine o un file audio è stato creato con il nostro…

— OpenAI (@OpenAI) October 5, 2026

textGrain nasconde il watermark nelle scelte lessicali del modello

Il sistema textGrain di OpenAI funziona orientando leggermente le parole che ChatGPT sceglie quando diverse alternative sarebbero ugualmente appropriate. Su un testo sufficientemente lungo, queste piccole decisioni creano uno schema statistico invisibile a occhio nudo ma rilevabile da software specializzato.

Poiché il watermark è integrato direttamente nel testo e non nei metadati del file, può rimanere rilevabile anche dopo che il testo viene copiato e incollato altrove.

OpenAI ha sviluppato il sistema insieme a ricercatori dell'Università della Pennsylvania e di Yale. Il loro paper tecnico spiega che textGrain utilizza una chiave segreta per classificare le possibili parole successive e favorire in modo sottile determinate scelte. Quando un numero sufficiente di queste scelte appare in un brano, un software con accesso alla stessa chiave può identificare il modello e stabilire che il testo è stato probabilmente generato o elaborato da un modello OpenAI.

OpenAI afferma che il watermark non contiene alcuna informazione in grado di identificare l'utente che ha generato il testo. L'azienda segnala inoltre che i propri test non hanno rilevato alcun calo significativo delle prestazioni di GPT-6 Astra quando textGrain era attivato.

Una leggera modifica del testo può indebolire notevolmente la rilevabilità del watermark

OpenAI ha anche pubblicato i limiti del sistema. Nei suoi test, la sostituzione del solo 10% delle parole con sinonimi ha ridotto la rilevazione dal circa 92% al 66%. Il watermark risulta inoltre più difficile da rilevare in brani brevi, nelle risposte matematiche e nei testi tradotti.

A causa di queste limitazioni, OpenAI limiterà temporaneamente l'utilizzo dei propri strumenti di rilevamento ai ricercatori autorizzati e alle organizzazioni esperte. Viene inoltre specificato che l'impossibilità di rilevare un watermark non può confermare che il testo sia stato scritto da un essere umano: il testo potrebbe essere semplicemente troppo breve, ampiamente modificato o persino generato da un modello di un'altra azienda.

Un watermark può indicare che un sistema OpenAI ha generato o elaborato una parte di un testo, ma non quanto giudizio umano, editing o creatività siano stati impiegati.

– OpenAI

Anthropic ha scelto il watermarking globale, mentre OpenAI inizia con l'Europa

Ad agosto, Anthropic ha iniziato ad applicare il watermarking alle output di Claude a livello globale. Inizialmente, è sembrata una politica più ampia rispetto a quella di OpenAI, che lo applicava solo in Europa, ma la ragione era di natura tecnica: Anthropic non disponeva ancora di un sistema per limitare il watermarking a specifiche regioni.

Entrambe le aziende avevano già firmato nel luglio il Codice di condotta dell'UE sulla trasparenza dei contenuti generati dall'IA, insieme a circa 190 altre organizzazioni, tra cui Google, Meta, Microsoft e Mistral. Di conseguenza, i loro sforzi di watermarking rispondono agli stessi requisiti di trasparenza dell'UE entrati in vigore dal 2 agosto.

Il rollout di Anthropic ha comunque suscitato critiche da parte di alcuni utenti, che sostenevano di fornire idee, istruzioni e giudizio, mentre Claude si limitava principalmente ad aiutare nella stesura.

Secondo il Wall Street Journal, OpenAI aveva effettivamente sviluppato un sistema di water-marking per i testi anni fa, ma ha scelto di non renderlo pubblico a causa del timore che gli utenti potessero migrare verso altri sistemi di intelligenza artificiale che non applicano watermark ai loro output.