Ora non basta più contare le dita per capire se un’immagine è fatta con l’IA. Bisogna imparare disegno tecnico
La lotta per riconoscere le immagini generate dall'intelligenza artificiale è diventata un gioco di gatto e topi. Un tempo si andava a contare le dita delle persone o si cercava l'anomalia nella forma delle mani. Oggi, con modelli di immagini e video sempre più avanzati, riconoscere l’IA è molto più difficile rispetto al passato.
Tuttavia, esistono ancora metodi validi per identificare un'immagine generata con l’IA. Basta osservare la geometria, la prospettiva e le ombre. In poche parole, il disegno tecnico.
Quelle che stanno dietro questa idea
Hany Farid, esperto dell'Università di Berkeley, è uno dei più influenti analisti di immagini forensi al mondo. Santiago Lyon, ex direttore fotografico dell’Associated Press, lo descrive in un articolo di Science come il “decano del forense digitale”, per aver fondato questa disciplina più di 20 anni fa. Secondo Farid, l’intelligenza artificiale è la sfida più grande mai affrontata in questo campo.
Farid illustra con esempi pratici come riconoscere la falsità. Ad esempio, tracciando una linea lungo i piastrellati e i bordi in una stanza, un’immagine prodotta con IA mostra linee che non convergono in un unico punto, una violazione logica della prospettiva reale.
Il problema della veridicità
Stiamo perdendo la capacità di credere a ciò che vediamo. La combinazione di immagini generate in maniera realistica e di una debole regolamentazione sulle piattaforme social sta alimentando la diffusione di informazioni poco veritiere. Questa situazione rende sempre più difficile stabilire se un'immagine è attendibile. In alcuni casi, nemmeno importa.
Per Farid, si tratta di una guerra globale per la verità, con conseguenze pesanti per le persone, le istituzioni e le democrazie. Egli afferma che quasi metà degli immagine presenti in rete oggi sono fasulle.
I metodi non tengono più conto dei pixel
Uno dei primi metodi sviluppati da Farid si basava sull'analisi del “rumore” nei pixel, una caratteristica esclusiva delle foto reali. Ma oggi i generatori di immagini imitano perfino questi dettagli, arrivando a replicare i difetti fisici come la distorsione ottica.
Secondo Science, molti metodi pionieri di Farid, basati su relazioni statistiche tra i pixel, oggi sono ormai obsoleti perché i generatori creano le immagini dall’origine e non modificano foto esistenti.
Disegno tecnico
Farid spiega che l’IA non comprende la fisica e la geometria e commette errori significativi. Per scoprire l’inganno, si deve guardare a tre principi fondamentali:
- Punti di fuga. In un ambiente reale, le linee parallele si uniscono in un punto unico all'orizzonte; l'AI non rispetta questo criterio.
- Ombre. La luce solare viaggia in modo parallelo, quindi le ombre dovrebbero riflettersi rispetto alla posizione della fonte. Spesso, in un’immagine generata con AI, ciò non è coerente.
- Riflessi. Una logica analoga si applica ai riflessi, ad esempio su uno specchio.
Se un'immagine mostra deviazioni in uno o più di questi aspetti, è molto probabile che non sia autentica.
Accumulare prove
Detecting immagini falsi richiede l’accumulazione di diversi indizi, come nella stesura di un'indagine forense. Ad esempio, nella sua presentazione a TED, Farid ha spiegato come individua errori nel rumore pixel, la mancanza di punto di fuga coerente, e ombre che non si comportano come ci si aspetterebbe.
Questo approccio è particolarmente affidabile perché le IA non sono realizzate per ingannare esperti, ma per confondere l’occhio non allenato di comuni utenti. Farid spiega che “il sistema visivo umano perdonerebbe tutti i tipi di errori perché non è importante.”
Limiti e criticità
Non tutti gli esperti sono ottimisti riguardo a queste strategie. Secondo alcuni ricercatori, le tecniche di rilevamento hanno una “vita utile” assai breve, spesso pochi mesi, proprio perché l’IA si evolve velocemente. Ad esempio, gli errori tipici, come le mani con sei dita, scomparvero quasi immediatamente.
Pur così, alcuni sono scettici sull'idea che l’AI riesca un giorno a imitare perfettamente processi fisici complessi, come un'esplosione. Questa simulazione richiede livelli tecnici altissimi ed è economicamente poco conveniente, per le società IA, andare tanto lontano.
Soluzioni a vista
Farid mette a disposizione le sue analisi a squadre di giornalisti, e si sta lavorando per integrarle anche tra tribunali e istituzioni. Inoltre, esiste uno standard internazionale di “credenziali di contenuto” che punta a verificare l'autenticità di un immagine fin da quando viene creata.
Tuttavia, sottolinea che le piattaforme social non sono luoghi di informazione attendibili, considerando che sono “piene di falsità” e di “AI slop”. Ogni giorno riceve almeno una dozzina di richieste di verifica da parte di giornalisti di tutto il mondo, il che è in netto aumento rispetto a un periodo precedente.