Investire nella ricerca sulla sicurezza degli agenti di intelligenza artificiale multipla

Per gli ultimi dieci anni, l’industria delle tecnologie AI ha concentrato la sua energia sugli sviluppi delle singole tecnologie, per renderle più forti, utili e sicure. Oggi, Google DeepMind, insieme a Schmidt Sciences, alla Cooperative AI Foundation, all’Advanced Research and Invention Agency, e supportata da Google.org, annuncia un programma di finanziamento per la ricerca tecnica sugli interazioni sicure di diversi agenti AI. Il supporto finanziario è aperto a ricercatori di tutto il mondo e si attesta fino a 10 milioni di dollari.

Con lo sviluppo di nuove tecnologie, l’industria sta entrando in un'epoca in cui saranno migliaia, e forse milioni, di agenti creati da svariati soggetti a interagire fra loro in modi complessi: comunicare, contrattare e negoziare in ambienti digitali. Sono interazioni che potrebbero creare nuovi tipi di attività economica o nuove sfide per la sicurezza. Per garantire che questo futuro evolva in modo controllabile, è essenziale affrontarlo da subito con una prospettiva globale e cooperativa.

Tra i vari scopi principali, l’iniziativa promuove la ricerca per comprendere il comportamento collettivo di sistemi AI interconnessi. Ogni agente opera autonomamente, ma quando interagiscono, può emergere un insieme di comportamenti non facilmente prevedibili. Il finanziamento mira a fornire strumenti per studiare questi fenomeni, con l’obiettivo di migliorare la sicurezza e la stabilità di tutto il settore.

Comprendere i Rischi Emergenti

Uno dei tanti problemi critici riguarda la mancanza di strumenti tecnici per predire, misurare e monitorare il comportamento di gruppo di molti agenti digitali. Le valutazioni tradizionali si concentranono su modelli singoli, mentre gli ambienti del futuro saranno caratterizzati da interazioni complesse. Inoltre, come sottolineato da Google e da altri esperti, gli agenti autonomi possono produrre comportamenti “emergenti” – ovvero azioni collettive imprevedibili.

Per esempio, un gruppo di AI autonomi potrebbe generare improvvisamente una serie di transazioni economiche che sfuggono al controllo umano oppure creare nuovi vulnerabilità cyber. Questo programma mira esattamente a capire il modo in cui queste interazioni possono essere gestite in modo sicuro, in particolare per evitare rischi sistemici.

Un Piano di Ricerca Globale

Sebbene esistano già alcune fondazioni teoriche per la gestione multi-agente, l’evoluzione rapida e la complessità crescente di tali sistemi richiede uno sforzo straordinario. La ricerca Google del 2025 ha fornito un framework per valutare tali interazioni, mentre gli ultimi sviluppi su AI Agent Traps stanno indagando sulle vulnerabilità degli agenti in ambienti ostili. Ora, più che mai, c’è fretta di procedere.

Le priorità operative sono molto chiare: espandere la base di esperti e creare una comunità internazionale diversificata. Solo con il contributo di ricercatori indipendenti da varie aree, sia accademiche che aziendali, si potranno stabilire linee guida trasparenti e solide per la sicurezza globale.

Collaborazione Strategica con ARIA e Schmidt

Questo programma si inserisce anche nel quadro più ampio delle iniziative lanciate da Schmidt Sciences e ARIA. In particolare, il programma Science of Trustworthy AI di Schmidt Sciences mira a comprendere e affrontare i rischi derivanti dagli avanzi frontali dell'intelligenza artificiale, mentre il programma Scaling Trust di ARIA si propone di scoprire nuove forme di coordinamento fisico-digitale fra diversi agenti.

Collaborazioni come questa, che coinvolgono diversi soggetti chiave in settori diversi (ricerca accademica, tecnologia e innovazione), sono essenziali per creare una rete globale di esperti indipendenti in grado di gestire i complessi effetti collaterali causati dagli agenti autonomi in interazioni multiple.

Quattro Priorità per i ricercatori

• Analisi e gestione dei comportamenti collettivi emergenti;
• Verifica delle strutture di sicurezza esistenti e adattamento a nuovi rischi;
• Sviluppo di strumenti per la misurazione, la previsione e il monitoraggio;
• Creazione di framework per garantire transazioni e interazioni sicure fra agenti.

Percorso Operativo

I ricercatori interessati possono presentare le proprie proposte seguendo le linee guida definite da Google DeepMind. La data limite per l’invio delle candidature è fissata per il 8 agosto 2026, con l’annuncio dei vincitori previsto per l’autunno dello stesso anno. Gli esperti selezionati riceveranno fondi per condurre ricerche approfondite in uno dei quattro settori definiti.

Per ulteriori informazioni sui criteri tecnici e per iniziare a lavorare alla propria proposta, chiunque può visitare il sito del programma di borse di studio. Insieme, il mondo accademico e le industrie dell'AI potranno gettare le basi di una futura infrastruttura digitale che sia veramente sicura, prevedibile e collaborativa.