OpenAI lancia una marca d'acqua invisibile per individuare i testi generati da ChatGPT

OpenAI, insieme a Anthropic, adegua i propri sistemi alle norme di trasparenza introdotte dall’AI Act dell’Unione Europea, entrate in vigore il 2 agosto scorso. In risposta a queste disposizioni, la società ha annunciato una nuova funzionalità denominata textGrain, progettata per segnalare la provenienza dei contenuti testuali generati da intelligenza artificiale mediante una marca d’acqua invisibile.

Come funziona textGrain

Contrariamente a quanto avviene per le immagini, la marca d’acqua testuale non inserisce simboli o caratteri nascosti nel contenuto. Il modello di linguaggio compie scelte lessicali specifiche, creando così un pattern statistico riconoscibile da strumenti dedicati. Tale pattern è più evidente nei testi lunghi, dove la probabilità di rilevare la firma digitale supera il 80 % per documenti di 200 parole e il 95 % per testi di 400 parole in ambiti come la psicologia.

Limiti di rilevabilità

OpenAI ammette che textGrain non è una “macchina della verità”. I test interni mostrano un tasso di falsi positivi dell’1 % e una precisione che diminuisce drasticamente con la riduzione della lunghezza del documento. I contenuti matematici risultano particolarmente difficili da analizzare, poiché il pattern statistico si disperde tra simboli e formule.

Un’altra criticità riguarda la manipolazione del testo: sostituire solo il 10 % delle parole con sinonimi riduce la capacità di rilevamento dal 92 % al 66 %. Quando la sostituzione raggiunge il 25 % la percentuale scende al 17 %, rendendo quasi impossibile distinguere l’origine IA.

Accesso e utilizzo

In una prima fase, l’accesso a textGrain sarà limitato a ricercatori e organizzazioni autorizzate da OpenAI, per contenere il rischio di falsi positivi e falsi negativi. La società prevede di rilasciare ulteriori dettagli tecnici e, a lungo termine, di rendere il software open source, consentendo una verifica indipendente da parte della comunità.

Distinzione tra testo, immagine e audio

Per quanto riguarda le immagini e l’audio, OpenAI dispone già di strumenti pubblici che analizzano i file alla ricerca di segnali di provenienza. Per le immagini, la compagnia combina le Content Credentials basate sullo standard C2PA con la marca d’acqua invisibile SynthID, sviluppata da Google DeepMind. SynthID è impiegata anche per alcuni contenuti audio, garantendo una tracciabilità simile a quella offerta per i testi.

Implicazioni per utenti e professionisti

Identificare un documento come generato da IA non consente di attribuire la paternità a un singolo utente né di ricostruire il prompt originale o la conversazione che ha prodotto il risultato. Di conseguenza, la tecnologia non è in grado di distinguere tra parti scritte da un essere umano e parti generate dall’IA all’interno dello stesso lavoro.

Prospettive future

Con l’entrata in vigore dell’AI Act, le soluzioni di marca d’acqua come textGrain rappresentano un passo fondamentale verso la trasparenza e la responsabilità nell’uso dell’intelligenza artificiale. Tuttavia, le limitazioni tecniche evidenziate da OpenAI suggeriscono che la sfida di distinguere in modo affidabile i contenuti umani da quelli artificiali rimane aperta, soprattutto in scenari in cui i testi sono brevi o soggetti a revisione. Il futuro sviluppo di strumenti più sofisticati e l’apertura del codice potrebbero migliorare la precisione, ma la crescita rapida delle capacità dei modelli di linguaggio richiederà continui aggiornamenti normativi e tecnologici.