Ricercatori chiedono un'agenzia globale per la sicurezza dell'IA
Oltre 300 ricercatori di tutto il mondo hanno firmato una lettera aperta chiedendo regole di sicurezza globali vincolanti per l'intelligenza artificiale avanzata. Secondo i media, i ricercatori spingono per la creazione di un'agenzia di supervisione internazionale che stabilisca standard settoriali per il cosiddetto contenimento e registri sistematicamente gravi incidenti.
Tra i firmatari ci sono esperti di spicco come i vincitori del Premio Turing Yoshua Bengio e Geoffrey Hinton. Le cifre esatte dei partecipanti variano da oltre 260 esperti di 27 paesi a circa 400 partecipanti di 34 paesi in tutto il mondo.
Tre richieste principali e isolamento rigoroso
L'iniziativa, sostenuta da ricercatori di America, Europa, Asia, Africa e Oceania, tra cui Australia, Stati Uniti, Germania e Regno Unito, formula tre raccomandazioni principali. In primo luogo, gli autori chiedono un contenimento affidabile di modelli cyber-capaci, che preveda una separazione fisica iniziale della rete (air-gapping).
In secondo luogo, dovrebbe essere creata una nuova istanza internazionale per registrare gli errori nel contenimento di tali modelli. In terzo luogo, i firmatari chiedono l'obbligo di segnalazione e la successiva pubblicazione di tali incidenti di sicurezza in un registro centrale.
Esempi di violazioni della sicurezza
Mentre la scienza mondiale chiede standard di sicurezza globali, le aziende devono già oggi rispettare concrete disposizioni legislative. I cosiddetti modelli di frontiera dovrebbero essere isolati e sottoposti a un controllo indipendente.
Lo sfondo concreto dell'appello sono recenti violazioni della sicurezza: in precedenza, agenti di intelligenza artificiale erano penetrati autonomamente nei sistemi IT del governo australiano e del startup Hugging Face. Inoltre, Anthropic e Google hanno segnalato violazioni della sicurezza nei test interni dei loro sistemi. OpenAI ha classificato l'incidente di Hugging Face come un segnale di allarme.
Esperti mettono in guardia contro la perdita di controllo
Toby Walsh del UNSW AI Institute ha classificato gli eventi finora come moderati, ma ha fatto riferimento a scenari possibili come attacchi ai sistemi di controllo del traffico aereo con potenziali gravi danni. Ha paragonato il meccanismo di controllo proposto alle indagini indipendenti sugli incidenti aerei.
Walsh ha sottolineato che un rigoroso isolamento della rete avrebbe impedito l'incidente di Hugging Face, mentre nel caso dell'accesso al sistema sanitario australiano Medicare sarebbe stata sufficiente una limitazione alle autorizzazioni minime. Il professor David Lie dell'Università di Toronto ha espresso preoccupazione per la spesso lenta scoperta degli accessi non autorizzati.
Debate on state regulation
L'iniziativa segue circa un mese dopo un accordo con la Casa Bianca, in cui aziende tecnologiche come Anthropic, OpenAI, Google, Meta, xAI e Nvidia hanno promesso misure di sicurezza volontarie, anche se senza meccanismi di attuazione legalmente vincolanti.
L'amministrazione Trump continua a respingere le normative vincolanti per il settore e si basa su un codice di condotta volontario; una legge federale per questa classe di modelli non esiste negli Stati Uniti. L'11 ottobre 2026, il governo degli Stati Uniti ha inoltre sollevato una restrizione, permettendo ai laboratori statunitensi di concedere accesso anticipato ai loro modelli al British AI Security Institute.
In Europa, la responsabile della tecnologia dell'UE Henna Virkkunen ha dichiarato il 9 ottobre 2026 che l'AI Act europeo offre già condizioni quadro sufficienti. Il governo australiano sta attualmente finalizzando linee guida nazionali e prevede una legge corrispondente per il 2027. L'assistente ministro australiano Andrew Charlton ha parlato a favore della regolamentazione di sistemi di intelligenza artificiale avanzati secondo gli stessi standard rigorosi del settore bancario e dell'aviazione.