Centinaia di ricercatori chiedono una revisione della sicurezza dell'IA

Un enorme gruppo di studiosi internazionali, numerosi tra i quali premi Nobel e leader di importanti laboratori di ricerca, ha firmato un open letter indirizzato ai governi, alle istituzioni internazionali e alle aziende tecnologiche. L’obiettivo è quello di richiedere una revisione completa delle attuali pratiche di sicurezza dell’intelligenza artificiale (IA), ritenute insufficienti di fronte ai rapidi progressi tecnologici.

Chi ha firmato la petizione

Il documento è stato sottoscritto da più di trecento ricercatori provenienti da università, centri di ricerca e organizzazioni non governative di tutto il mondo. Tra i firmatari figurano esperti di machine learning, etica dell’IA, diritto tecnologico e sociologia, includendo personalità di spicco come Yoshua Bengio, Timnit Gebru e Stuart Russell. La diversità dei firmatari sottolinea la portata globale della preoccupazione e la necessità di un approccio coordinato.

Principali preoccupazioni sollevate

L’open letter individua quattro aree critiche dove le misure di sicurezza attuali risultano carenti:

• Robustezza contro attacchi avversari: i modelli di IA, soprattutto quelli basati su deep learning, sono vulnerabili a manipolazioni sottili (ad es. attacchi di avvelenamento dei dati) che possono alterare il loro comportamento in modo imprevedibile.
• Allineamento degli obiettivi: molte applicazioni commerciali non garantiscono che gli obiettivi dell’IA siano pienamente allineati con quelli degli esseri umani, soprattutto in settori ad alto rischio come la sanità o la finanza.
• Trasparenza e spiegabilità: la mancanza di meccanismi chiari per spiegare le decisioni dei sistemi complessi rende difficile valutare responsabilità e bias.
• Governance e responsabilità normativa: le normative attuali, spesso fragmentarie, non riescono a tenere il passo con l’evoluzione rapida delle tecnologie, lasciando un vuoto normativo per la supervisione e la rendicontazione.

Le richieste concrete dei ricercatori

Per affrontare queste lacune, gli autori del documento propongono una serie di raccomandazioni strutturate in cinque punti chiave:

• Standard internazionali di sicurezza: avviare un organismo globale, simile al World Health Organization per la salute, che definisca standard tecnici e linee guida di certificazione per tutti i sistemi IA ad alto rischio.
• Audit indipendenti e verifiche periodiche: rendere obbligatori controlli di sicurezza condotti da entità terze, con pubblicazione di report accessibili al pubblico e alle autorità di regolamentazione.
• Obbligo di “red teaming”: richiedere a ogni organizzazione che sviluppa IA di sottoporre i propri modelli a squadre di esperti che simulino attacchi reali, al fine di identificare vulnerabilità prima del rilascio.
• Trasparenza dei dati di training: chiedere la documentazione completa delle fonti di dati, dei processi di curazione e dei metodi di anonimizzazione, per ridurre i bias e migliorare la tracciabilità.
• Responsabilità legale chiara: introdurre normative che definiscano in modo preciso le responsabilità legali in caso di danni causati da sistemi IA, includendo sanzioni proporzionali al livello di rischio del prodotto.

Impatto sul settore privato

Le imprese tecnologiche, in particolare le grandi piattaforme di IA, dovranno adeguare le proprie pratiche di sviluppo per conformarsi a questi standard. Ciò comporterà costi aggiuntivi legati a:

• l’implementazione di pipeline di verifica continua,
• l’assunzione di esperti di sicurezza specializzati in IA,
• l’investimento in infrastrutture per la gestione sicura dei dati di addestramento.

Nonostante i costi, gli autori dell’open letter sostengono che il beneficio a lungo termine – in termini di fiducia dei consumatori e riduzione del rischio di scandali o incidenti – supererà di gran lunga le spese iniziali.

Reazioni delle istituzioni pubbliche

Già alcune autorità hanno manifestato interesse verso le proposte. La Commissione Europea sta preparando una revisione del Regolamento IA, mentre negli Stati Uniti il Congressional AI Task Force ha richiesto una audizione pubblica con i firmatari della petizione. A livello globale, organismi come l'UNESCO e l'OCSE stanno valutando la possibilità di creare una “Carta dei Diritti dell’Intelligenza Artificiale” che includa i principi di sicurezza avanzata.

Confronto con iniziative precedenti

La richiesta di una maggiore sicurezza non è nuova. Già nel 2020, la Partnership on AI aveva pubblicato linee guida su trasparenza e responsabilità. Tuttavia, i firmatari dell’open letter sottolineano che tali iniziative erano troppo focalizzate su best practice volontarie e mancavano di potere vincolante.

Un altro esempio è il AI Risk Management Framework del NIST (Stati Uniti), che fornisce un approccio strutturato ma resta limitato a standard tecnici senza una componente normativa globale.

Il ruolo della ricerca accademica

Gli studiosi che hanno firmato il documento evidenziano l’importanza di mantenere una ricerca di base ben finanziata. Propongono un aumento del 10 % dei fondi pubblici destinati all’IA esclusivamente per progetti che esplorano la robustezza e l’allineamento, con priorità alle collaborazioni interuniversitarie e multilaterali.

Inoltre, chiedono la creazione di centri di eccellenza sulla sicurezza dell’IA, simili a quelli esistenti per la cyber‑security, per favorire la condivisione di dataset di test e metodologie di valutazione.

Scenari di rischio illustrati

Per rendere più tangibile la necessità di interventi, la petizione illustra tre casi ipotetici:

1. Manipolazione di sistemi di voto elettronico: un attacco avversario sfrutta una vulnerabilità di un modello di IA utilizzato per il conteggio delle schede, alterando i risultati elettorali.
2. Diagnosi mediche errate: un algoritmo di imaging medico, addestrato con dati non sufficientemente diversificati, porta a diagnosi di cancro inesistenti per una parte significativa della popolazione.
3. Propagazione di deepfake sofisticati: IA avanzate generano video falsi indistinguibili dalla realtà, usati per diffondere disinformazione su scala politica ed economica.

In tutti e tre gli scenari, la mancanza di audit indipendenti e di standard di robustezza è la radice del problema, secondo i firmatari.

Prospettive future e prossimi passi

Il documento invita a un “processo di consultazione globale” che includa non solo scienziati e legislatori, ma anche cittadini, ONG e rappresentanti del settore privato. La proposta prevede:

• una conferenza internazionale entro l’inizio del 2027 per definire un framework comune,
• la pubblicazione di un “white paper” riepilogativo entro sei mesi,
• l’attivazione di gruppi di lavoro tematici per ciascuna delle cinque raccomandazioni principali.

Se adottate, queste misure potrebbero stabilire una base solida per lo sviluppo di IA affidabili, prevenendo incidenti catastrofici e promuovendo un ambiente di innovazione sostenibile.

Conclusioni

La richiesta di rivedere la sicurezza dell’IA da parte di centinaia di ricercatori rappresenta un punto di svolta nella governance tecnologica. Le loro proposte, se attuate, promettono di trasformare le attuali pratiche frammentarie in un sistema di regole condiviso a livello globale, capace di tutelare la società dagli effetti collaterali indesiderati dei sistemi intelligenti. Il futuro dell’intelligenza artificiale, infatti, dipenderà non solo dalla potenza computazionale, ma soprattutto dalla capacità collettiva di gestire i rischi in modo responsabile e trasparente.