Interferire con le operazioni “false front” alimentate dall’IA

Panoramica delle minacce AI‑enabled

Negli ultimi 30 mesi OpenAI ha pubblicato numerosi rapporti per informare regolatori, settori industriali e pubblico su come attori maligni tentino di utilizzare i modelli di intelligenza artificiale per cyber‑attacchi, operazioni di influenza covert, truffe e altre violazioni delle Policy d’uso. Queste pubblicazioni hanno lo scopo di far luce sulle vulnerabilità sfruttate e di facilitare la difesa collettiva.

Le due operazioni “false front” svelate

Recentemente sono state bloccate due campagne di influenza, una di origine russa e una iraniana, che hanno combinato l’uso dei modelli di OpenAI con tecniche tradizionali per creare entità fittizie capaci di lavare messaggi geopolitici e di conflitto verso il pubblico di destinazione.

Operazione iraniana

L’attività iraniana ha messo in scena una rete di sette “personas” giornalistiche, utilizzate per proporre articoli lunghi a testate online di piccole e medie dimensioni in tutto il mondo. Oltre agli articoli, la campagna ha prodotto lotti di commenti sui social media, prevalentemente su temi legati alla guerra USA‑Iran.

• Creazione di contenuti editoriali lunghi
• Generazione di commenti coordinati su piattaforme social
• Uso intensivo di IA per redigere rapporti interni
• Metodologie ingannevoli per gonfiare l’apparente efficacia operativa

Operazione russa “Dark Clark”

La campagna russa ha cooptato persone ignare in America Latina per gestire un “think tank” locale. Gli operatori hanno prodotto documenti “leaked” falsi e script audio, molti dei quali identificati e diffusi online. Il fulcro dell’attività è stato l’uso massiccio di IA per redigere rapporti interni, più di qualsiasi altra operazione.

• Creazione di un fittizio “Social Research Center” (SRC)
• Utilizzo di una falsa persona “Mia Clark” per gestire il think tank
• Produzione di documenti e audio falsi
• Diffusione di contenuti tramite testate esterne anziché solo social media

Paralleli con operazioni pre‑AI

Le “personas” giornalistiche iraniane ricordano il fittizio giornalista Alice Donovan, copertura della intelligence militare russa del 2016‑17. Analogamente, nel 2020 la Russian Internet Research Agency ha lanciato il fittizio portale PeaceData, che ha ingannato giornalisti di tutto il mondo.

Valutazione della portata: Breakout Scale

Utilizzando la Breakout Scale, che classifica le operazioni di influenza da 1 (minima) a 6 (massima), la campagna russa è stata valutata come Categoria 5, la prima di tale livello identificata da OpenAI. L’operazione iraniana ha raggiunto la Categoria 4. Entrambe le campagne hanno collocato i loro contenuti – non tutti generati dall’IA – in media mainstream, superando la semplice distribuzione sui social.

Vantaggi dell’IA per le “false front”

L’intelligenza artificiale fornisce a queste operazioni una scala maggiore, efficienza, fluidità linguistica e capacità editoriale. Gli attori possono così:

• Sfruttare vittime ignare, come dipendenti o redattori, per inserire contenuti falsi
• Mascherare le proprie motivazioni dietro identità plausibili
• Amplificare rapidamente messaggi in più lingue e contesti

Queste dinamiche evidenziano la sofisticazione nella creazione di false identità e entità per raggiungere obiettivi geopolitici.

L’importanza della divulgazione responsabile

Le operazioni “false front” sono particolarmente sensibili alle segnalazioni. Dopo la loro esposizione, sia Alice Donovan che PeaceData hanno cessato le attività. OpenAI mira a rendere più agevole la ricerca e l’interruzione di tali campagne, rendendo più difficili le loro continuazioni.

Dettagli dell’operazione russa “Dark Clark”

Attori: Un cluster di account ChatGPT di origine russa, con prompt in russo e spagnolo, mirati a paesi dell’America Latina. L’obiettivo principale era screditare l’Ucraina nella regione, ma si sono osservati tentativi di influenzare elezioni locali in Argentina e Bolivia.

Compiti svolti con ChatGPT:

• Redazione di rapporti interni sulle attività operative
• Creazione di contenuti per campagne di disinformazione
• Stesura di valutazioni di performance del “Social Research Center” (SRC)

Gli operatori hanno controllato il SRC tramite la finta persona “Mia Clark”. Poiché OpenAI non consente l’accesso dal territorio russo, hanno usato VPN per connettersi ai servizi.