I gruppi terroristi utilizzano chatbot di intelligenza artificiale per la pianificazione degli attacchi e la costruzione d'armi, riferisce uno studio

Una ricerca appena pubblicata mette in evidenza come alcuni gruppi terroristici, tra cui Boko Haram in Nigeria, stiano utilizzando chatbot con intelligenza artificiale per la pianificazione strategica, la costruzione di bombe e l'addestramento di combattenti. L'esperta Antonia Jülich del Cambridge Programme on AI Science & Policy (CASP) ha intervistato 27 ex membri del gruppo per analizzare l’introduzione di strumenti di intelligenza artificiale a partire dal 2023.

Una crescente adozione della tecnologia

Boko Haram, in particolare la sua fratta ISWAP, ha adottato piattaforme come ChatGPT, Claude, Gemini, Grok, Meta AI e DeepSeek. I combattenti seguivano corsi strutturati, insegnati da rappresentanti di ISIS, dedicati a bypassare meccanismi di sicurezza di questi chatbot usando tecniche di jailbreak e manipolando gli input (prompt). Secondo Jülich, l’uso mirava a migliorare non solo l’efficacia operativa, ma anche il controllo dell’informazione all’interno della struttura.

Esempi concreti di impiego

Sono state osservate applicazioni molto dettagliate: da progettare la logistica di raid urbani a studiare modi per migliorare le mine finte (claymore) e per assemblare materiali esplosivi. Una delle dimostrazioni più sorprendenti fu realizzata da ISWAP, che sfruttò l’AI per replicare tecniche di salto su motorini, apprese da film western, per spiccicare balzi a vuoto su fossati. In totale, 18 soldati persero la vita durante l’addestramento, mentre solo otto riuscirono nel salto.

• La tecnologia permette ai terroristi di evitare di spendere risorse locali per ottenere informazioni.
• La pianificazione si affina grazie al feedback costante da modelli AI.
• L’apprendimento diventa più rapido, riducendo al contempo i costi e il tempo necessario.

I limiti dei tentativi di controllo

Le società dietro le grandi chatbot – OpenAI, Anthropic, Google – hanno espresso da tempo le loro preoccupazioni. L’apprendimento automatizzato, infatti, rende disponibile informazione tecnica a coloro che intendono usarla in modo dannoso. Nonostante misure volontarie come blocchi su domande sensibili, i controlli non riescono a prevenire l’abuso. Secondo Jülich, le aziende di AI devono adottare tecnologie di controllo più rigorose, inclusi modelli “forti” con protezioni di livello superiore.

Quali azioni sono possibili?

Il settore governativo e il privato hanno bisogno di collaborare più strettamente per rivedere i criteri di sicurezza. Jülich propone una combinazione di controllo su input (prompt filtering), riconoscimento del comportamento sospetto e formazione del personale tecnico sui rischi di abuso. L’utilizzo di modelli AI “closed-source”, accessibili solo con autorizzazione, potrebbe mitigare il rischio.

• Implementare protocolli di controllo in tempo reale.
• Ridurre la disponibilità di modelli di grandi dimensioni ai non autorizzati.
• Educare gli sviluppatori AI sui rischi reali di abuso.

Uno studio così esaustivo mette in guardia non solo il settore degli sviluppatori AI, ma anche l’amministrazione civile e le forze internazionali che operano in aree a rischio. L’uso strategico di strumenti AI nei gruppi terroristici richiede un approccio integrato, dove la tecnologia avanzata non debba andare a vantaggio di coloro che la mettono in pericolo.