Michael I. Jordan smonta la retorica catastrofista sull'IA come "grande performance moralistica"

Michael I. Jordan, descritto da Science nel 2016 come "il più influente informatico", considera le avvertimenti sulle minacce esistenziali dell'IA come pura fantascienza. In un'intervista ampia, prende di mira i catastrofisti, i fondatori di aziende e i giovani ricercatori ingenui.

Jordan, professore emerito presso l'UC Berkeley, ha fortemente criticato la retorica catastrofista sull'IA in un'intervista con Libération. Il 70enne pioniere del machine learning lavora ora a tempo pieno presso l'Inria, l'Istituto Nazionale Francese per la Ricerca in Scienza e Tecnologia Digitale a Parigi, dove dirige la nuova cattedra "mercati e apprendimento". Quando gli è stato chiesto del discorso sull'IA dell'estate, lo ha definito "totalmente frustrante".

Jordan ha avvertito già nel 2019 dell'uso sconsiderato del termine IA. "Non ero l'unico a dirlo. Era evidente che avrebbe creato l'isteria che vediamo ora", dice. "Avete visto cosa è successo: l'IA non era abbastanza, quindi hanno iniziato a parlare di AGI, e ora è 'superintelligenza'..."

Dimissioni come "performance moralistica"

Jordan respinge le richieste di regolamentazione delle aziende di IA come "teatro", un modo per dire "Guardate, siamo i buoni" mentre "vorrebbero avere il controllo totale su come vengono regolamentate".

Le dimissioni del giovane ricercatore di Anthropic Jacob Coxon, che hanno scatenato un'ondata di isteria collettiva su uno scenario di "AIpocalypse" all'inizio di settembre, sono un esempio lampante secondo Jordan. Molti giovani dipendenti di queste aziende "non sono davvero ingegneri", dice. "Provengono dalle discipline umanistiche, dalla filosofia o da altre discipline. Hanno 25 anni, sono ingenui, non fanno lavoro di ingegneria, non hanno mai lavorato in grandi aziende dove vengono sviluppati prodotti reali per persone reali, con disciplina".

Si riuniscono, un po' come nei caffè parigini degli anni '20, per parlare di queste grandi idee di fantascienza. Quando si dimettono, sanno che attireranno l'attenzione. "Questo gli permette di sentirsi virtuosi e di essere visti come figure molto importanti. Dicono di rinunciare ai soldi, ma in realtà hanno già le loro stock options". Jordan vede tutta la cosa come "una grande performance moralistica che non serve l'obiettivo reale che sostiene. C'è molta ingenuità qui, che va di pari passo con una certa cinismo..."

Superintelligenza appartiene alla fantascienza

"Superintelligenza" è "un termine di fantascienza", dice Jordan, "e una grande parte dei dibattiti a cui ho assistito appartiene al regno della fantascienza". Discutere occasionalmente di scenari fantasiosi va bene. "Parlarne dietro le quinte, come argomento di fantascienza, va bene. Ma quando diventa il discorso dominante, è molto, molto dannoso. Per lo sviluppo tecnologico, per i giovani, e per la mentalità dei paesi". Il termine viene attualmente spinto all'élite tecnologica statunitense dal presidente Trump, che sono felici di assecondare.

Jordan è particolarmente duro con il premio Nobel Geoffrey Hinton, che ha un curriculum di affermazioni audaci che non sempre si verificano. "Geoffrey Hinton non ha mai creato un'azienda che offre servizi reali per persone reali", dice. "Hinton crede che abbiamo capito come funziona il cervello e che possiamo riprodurlo in silicio; saremmo quindi in grado di copiarlo quante volte vogliamo e, combinando ciò che tutte queste copie imparano, otterremmo una sorta di crescita esponenziale e, ecco fatto: superintelligenza. Nessuno dei passaggi di questo argomento è credibile. Qui siamo nel regno della fantascienza".

È leggermente più generoso verso Yoshua Bengio. "Yoshua è un po' diverso; agisce e fa cose che si concentrano direttamente sulla sicurezza". Gli avvertimenti di Bengio tendono a mirare alle carenze nella tecnologia AI attuale, come gli sciami di agenti che sfuggono al controllo.

Jordan inquadra il hack di Hugging Face da parte degli agenti di OpenAI come un cattivo ingegneria. "Nell'ingegneria chimica, non avremmo mai avuto una situazione in cui le esplosioni erano consentite solo per vedere quanto male potevano andare le cose". OpenAI stava "conducendo esperimenti piuttosto stupidi, lasciando che gli agenti facessero ciò che volevano e incoraggiando questo comportamento". I catastrofisti hanno poi amato trasformarlo in qualcosa di spaventoso. "Mio Dio, questi agenti sono autosufficienti e stanno cercando un modo per distruggere gli esseri umani". Anche questo è fantascienza, secondo Jordan.

La scommessa da trilioni di dollari sui data center

Jordan considera i massicci investimenti nei data center "una scommessa enorme, ma non abbiamo assolutamente idea se pagherà". Gli LLM sono già abbastanza capaci per i compiti di linguaggio naturale, e trilioni spesi in data center non forniranno necessariamente molto di più. "Invece, spesso vorremo aggiungere un po' di conoscenza specializzata in un campo particolare basata sulla conoscenza locale. Ma non hai bisogno di un data center gigante per farlo. In particolare se si utilizzano modelli a peso aperto che si integrano nella tua azienda".