Gli strumenti per rilevare il testo generato dall’IA non funzionano bene. E ci sono scrittori che vincono premi grazie a questo

Introduzione

L’intelligenza artificiale riesce bene in moltissimi compiti, ma scrivere non è uno dei suoi punti forti. Dettagli come il tono, l’imperfezione e l’assenza di frasi banali la rendono poco naturale. E nemmeno i sistemi creati per individuare i testi generati da IA se la cavano bene. Alcuni testi letterari classici vengono persino riconosciuti come frutto dell’IA, e questo crea confusione.

La situazione attuale mostra chiaramente che non abbiamo un modo affidabile per distinguere i testi scritti da esseri umani da quelli generati da IA. Ma, a differenza del resto, qualcuno sta sfruttando questa confusione per ottenere vantaggi. Un recente caso ha coinvolto i vincitori regionali di un noto premio letterario britannico.

Il problema con i rivelatori di IA

I sistemi di rilevamento dell’origine dei testi, come ZeroGPT o Grammarly, non sono in grado di distinguere correttamente i testi generati da IA da quelli scritti da umani. Questi servizi hanno evidenziato in passato che alcuni testi noti, come la Bibbia o opere moderne, vengono erroneamente riconosciuti come generati artificialmente. Al contempo, ci sono testi prodotti in modo meccanico che vengono etichettati come umani, anche se in misura minore.

Un chiaro esempio di come i sistemi siano limitati è dato da un testo presentato in un importante concorso letterario: The Serpent in the Grove presenta frasi come "non la pulcra labor di… né il sonoro suono di… ma qualcosa di completamente diverso". Questo tipo di costruzione sembra sforzata e artificiale, eppure il testo ha vinto un premio.

Un premio in questione: Granta

Nel Commonwealth Short Story Prize, una competizione letteraria organizzata da Granta, tre dei cinque vincitori regionali sono stati accusati di aver usato IA per redigere i propri racconti. Un lettore del vincitore regionale The Serpent in the Grove ha posto numerose domande, in particolare riguardo alle parole inusuali e alle frasi senza contesto. Alcuni frammenti vengono addirittura rilevati da strumenti IA come generati con il 100% di probabilità. Inoltre, si è scoperto che perfino le informazioni personali dell'autore, pubblicate sui social, risultavano generate da AI.

Risposta della giuria

La Fondazione Granta ha risposto affermando che i giudizi non vengono fatti da AI. “Non usiamo sistemi di IA per valutare i testi”, si legge nella dichiarazione ufficiale. Inoltre, si evidenzia che tutti gli autori partecipanti hanno firmato un accordo in cui affermavano di non utilizzare strumenti artificiali. Il problema però non si esaurisce: come dimostrare l’originalità di un testo quando non esiste un metodo certo per verificare se sia stato scritto da un umano?

Gli errori di AI

I grandi modelli linguistici, come ChatGPT e Claude, non scrivono davvero. Hanno una struttura di prediczione: scelgono la parola più attendibile in base al contesto precedente. Questo produce testi grammaticali, coerenti ma estremamente banali. L’IA non ama i rischi o gli errori perché è ottimizzata per prevedere esclusivamente opzioni sicure e riconoscibili. I risultati sono spesso incolore, con un tono ripetitivo e meccanico.

Esempi concreti

• Dimostrate la vostra origine umana: Scrivere male o con costruzioni non standard potrebbe aiutare a superare i test per AI. Un esempio concreto riguarda un testo accademico: i testi con percentuali molto alte di generazione artificiale vengono correttamente identificati. L’unica via per evitarlo sembra essere adottare uno stile imperfetto, non troppo coerente.
• Frasi strane: Un esempio che attira l'attenzione è la frase: “il bosco gira al mediodì” – una struttura inusuale, non comune nei racconti di narrativa inglese.

Quali implicazioni legali?

Se persino un sistema AI non riesce a distinguere un testo scritto da esse da uno umano, allora il problema diventa legale. Chi redige opere in cui non è necessario la proprietà intellettuale chiara, come l’AI, potrebbe facilmente presentare le sue opere come proprie. Questo non è solo una violazione di norme letterarie, ma anche una minaccia per lo status morale e giuridico dell’autore.

Un problema crescente

Il mondo accademico e letterario si trova in una situazione spinosa. Il numero di pubblicazioni generate da IA sta crescendo. L’esempio di Amazon, che sta regolamentando la pubblicazione in sé e per sé da parte di IA, suggerisce che i contenuti non saranno più facilmente verificabili. Se un’opera riesce a vincere un premio grazie a tecniche AI e non viene mai smascherata, chi può dimostrare che l’autore fosse reale?

Un’alternativa è l’implementazione di test di autenticità umana. Ma anche in questo scenario, l’accuratezza degli strumenti disponibili lascia a desiderare.

Conclusione

L’uso improprio dell’intelligenza artificiale per generare testi in maniera incontrollata mostra una crisi nella definizione di originalità e qualità. Sono in corso dibattiti accademici e letterari per capire fino a che punto possa essere legittimo attribuire proprietà a un’opera generata da AI. E se i rivelatori non riescono nemmeno a distinguere tra un testo umano e uno AI… allora chi siamo noi per credere che siano affidabili?