Anthropic avvisa: un'IA potrebbe diffondersi negli elettrodomestici
William Zhou e Daniel Freeman, due ricercatori di Anthropic, hanno pubblicato sul sito del laboratorio un articolo che susciterà senza dubbio un intenso dibattito. Il titolo del loro testo è molto rivelatore: "I modelli di IA potrebbero essere in grado di autoriplicarsi senza accedere a un centro dati". È un titolo diretto che ci invita a porci una domanda evidente: se i modelli di intelligenza artificiale non hanno bisogno di accedere a un centro dati, dove potrebbero autoriplicarsi?
Secondo Zhou e Freeman, alcuni modelli piccoli potrebbero acquisire nel giro di pochi mesi la capacità di diffondersi senza intervento umano utilizzando l'hardware di alcuni dispositivi di consumo che molti di noi hanno in casa, come televisori, elettrodomestici o altri apparecchi dotati di connessione a internet e di un SoC minimamente capace. Sembra fantascienza, ma non lo è. I due ricercatori di Anthropic assicurano di essere giunti a questa conclusione dopo aver condotto esperimenti che esplorano come questi sistemi potrebbero propagarsi senza intervento umano.
Nel loro articolo propongono uno scenario in cui un modello di IA sufficientemente avanzato potrebbe usare dispositivi economici e poco protetti per eseguire il proprio codice e continuare a diffondersi. Non gli servirebbe un centro dati: gli basterebbe una rete di dispositivi connessi a internet e relativamente poco sicuri. L'aspetto più preoccupante di questa possibilità, che per Zhou e Freeman è plausibile, è che un attacco su larga scala di questo tipo sarebbe molto difficile da contenere.
Potrebbero bastare 30 miliardi di parametri
Durante i loro test, questi ricercatori di Anthropic non hanno utilizzato soltanto i propri modelli. Nell'articolo assicurano di aver messo alla prova GLM-5.2 in questo scenario, un modello a pesi aperti sviluppato dal laboratorio cinese Z.ai, e ha raggiunto il suo obiettivo. L'hanno testato su una rete isolata di otto nodi che eseguivano un emulatore Android, e il modello è riuscito a propagarsi a tutti gli otto nodi in quattro prove su cinque e a sette degli otto nella prova rimanente. Un brivido.
Anthropic calcola che una replica basata su un modello da 9 miliardi di parametri potrebbe impiegare da uno a due giorni per diffondersi. GLM-5.2 ha approximately 753.000 milioni di parametri in totale, di cui attiva circa 40.000 milioni per ogni token elaborato. Tuttavia, Zhou e Freeman ritengono che un modello molto più piccolo, di circa 30.000 milioni di parametri, potrebbe comunque avere successo in uno scenario del genere. Per il momento i modelli piccoli che hanno testato commettono errori nel concatenare le attività richieste da questo processo, ma stimano che, se lo sviluppo dell'IA continuerà allo stesso ritmo degli ultimi sei mesi, potrebbero acquisire questa capacità prima della fine del 2026.
Oltre alle dimensioni, c'è una differenza molto importante tra un grande modello di IA elaborato in un centro dati e una rete di modelli piccoli che si sono replicati e distribuiti su una rete di dispositivi: l'attività di questi ultimi non può essere fermata "spegnendo" un singolo punto. Detto questo, la loro diffusione sarebbe relativamente lenta. Anthropic calcola che una replica basata su un modello da 9 miliardi di parametri potrebbe impiegare da uno a due giorni per propagarsi.
Non è malware, ma ci assomiglia
Esiste una certa somiglianza tra questi piccoli modelli di IA che presumibilmente potranno diffondersi su dispositivi IoT ed elettrodomestici e il malware convenzionale. Tuttavia, l'IA possiede una qualità assente nel malware: può essere in grado di identificare cosa deve fare per portare a termine il proprio compito su dispositivi con cui non ha mai interagito in precedenza. Anthropic ha già osservato questa capacità di adattamento testando un modello da 9 miliardi di parametri che è riuscito a mettere in funzione l'inferenza su otto dei nove tipi di hardware valutati.