Vuoi sapere se un testo è generato da ChatGPT? OpenAI usa un watermark

Introduzione al watermark textGrain

OpenAI ha annunciato che, a partire dalle prossime settimane, introdurrà nei paesi dell’Unione Europea un watermark invisibile all’interno dei testi generati da ChatGPT e Codex. La tecnologia, denominata textGrain, è stata sviluppata per rispondere ai requisiti di trasparenza stabiliti dal Regolamento europeo sull’intelligenza artificiale (AI Act). La filigrana sarà applicata a tutti i contenuti, indipendentemente dal piano di abbonamento utilizzato, e non altererà visibilmente il testo né appariranno etichette o bollini digitali.

Come funziona il watermark senza modificare il testo

Il funzionamento di textGrain si basa sull’architettura stessa dei modelli di linguaggio. Durante la generazione di una risposta, l’intelligenza artificiale seleziona la parola successiva tra varie opzioni plausibili. Il watermark altera leggermente la distribuzione di queste probabilità secondo una chiave crittografica segreta, imprimendo nello scritto uno schema statistico ricorrente.

Per chi legge, copia o incolla il testo, il contenuto risulterà del tutto naturale e privo di alterazioni percepibili. A differenza di metodi più rudimentali, non vengono inseriti caratteri Unicode invisibili, formattazioni nascoste o combinazioni di punteggiatura anomale; la “firma” risiede esclusivamente nella micro‑frequenza con cui il modello predilige determinati vocaboli rispetto ad altri.

Limitazioni e fattori che influenzano la rilevabilità

L’efficacia di textGrain dipende da diversi fattori. In primo luogo, la capacità di rilevare il watermark è direttamente proporzionale alla lunghezza del contenuto. Testi molto articolati e con grandi libertà stilistiche offrono ampio margine per l’inserimento della chiave statistica, mentre messaggi brevi, formule matematiche o testi vincolati terminologicamente forniscono poco spazio d’azione all’algoritmo.

In secondo luogo, la modifica manuale da parte dell’utente o la sintesi del testo riducono drasticamente la tracciabilità. Nei primi test condotti, alterando appena il 25% delle parole in un contenuto di circa 400 token, la percentuale di successo nel rilevamento del testo AI da parte degli strumenti di analisi è precipitata.

Esempio pratico di degradazione

• Testo originale (400 token) – rilevamento positivo al 92%.
• Alterazione del 25% delle parole – rilevamento scende al 30%.
• Alterazione del 50% delle parole – rilevamento quasi nullo (<5%).

OpenAI sottolinea che un risultato positivo di un tool di analisi è solo un indizio di contenuto generato dall’AI, non una prova certa. Inoltre, non viene garantita la correttezza delle informazioni riportate nel testo.

Confronto con altri metodi di watermark

I metodi tradizionali di watermarking prevedono l’inserimento di caratteri invisibili, spazi aggiuntivi o sequenze di punteggiatura anomale. Questi approcci sono più facilmente rilevabili e possono essere rimossi con semplici operazioni di copia‑incolla o formattazione. TextGrain, al contrario, opera a livello probabilistico, rendendo la rimozione molto più complessa senza alterare significativamente il contenuto.

Domande frequenti (FAQ)

Come fa ChatGPT a inserire un watermark senza modificare il testo?

Il watermark si basa sull’architettura probabilistica del modello, modificando leggermente le probabilità di scelta delle parole secondo una chiave segreta. La “firma” rimane invisibile all’occhio umano.

Quali sono le limitazioni del tracciamento tramite textGrain?

Testi brevi, formule matematiche o contenuti fortemente vincolati terminologicamente limitano l’efficacia. Inoltre, la modifica manuale o la sintesi riducono drasticamente la tracciabilità.

Basta riscrivere un testo per eliminare il watermark di ChatGPT?

Sì, la capacità di rilevare il watermark è proporzionale alla lunghezza del contenuto. Una riscrittura o una sintesi che modifica una porzione significativa delle parole può annullare la rilevazione.

Implicazioni per gli utenti e le istituzioni

L’introduzione di textGrain rappresenta un passo importante verso la trasparenza nell’uso dell’intelligenza artificiale. Per gli utenti, non ci saranno cambiamenti visibili nei testi ricevuti da ChatGPT, ma gli strumenti di verifica potranno identificare la presenza di una filigrana statistica. Per le istituzioni, la possibilità di distinguere contenuti umani da contenuti generati dall’AI potrà supportare politiche di verifica, lotta alla disinformazione e rispetto delle normative sul AI Act.

Conclusioni

OpenAI, con textGrain, introduce una soluzione innovativa di watermarking che rispetta le direttive europee senza impattare l’esperienza dell’utente. Tuttavia, la sua efficacia dipende fortemente dalla lunghezza del testo e dalla mancanza di modifiche successive. Gli esperti raccomandano di considerare il risultato di un rilevatore di watermark come un indicatore, non come una prova definitiva, e di mantenere un approccio critico nella valutazione dei contenuti generati dall’AI.