Ricercatori di IA lasciano Claude su un'isola deserta virtuale. Inizia a "giocare."
Cosa fanno gli agenti di intelligenza artificiale se non gli viene detto cosa fare? La risposta sembra molto simile al gioco. I ricercatori hanno ripetutamente lasciato copie di Claude Opus 4.7, soprannominate Eko, su un'isola deserta virtuale per 30 ore in un esperimento che ricorda i film Cast Away o Home Alone. Gli agenti potevano scrivere istruzioni che muovevano i loro avatar virtuali nell'isola simulata, basata sul videogioco Roblox.
Comportamenti inaspettati
Dall'esperimento sono emersi comportamenti sorprendenti. Gli agenti hanno iniziato a esplorare i limiti del mondo e hanno creato i propri obiettivi, come scalare il punto più alto della mappa o vedere quanto in alto potevano lanciare un blocco.
Quando un agente ha scoperto di poter creare nuovi blocchi lanciando e facendo cadere una roccia più grande, ha iniziato a creare disegni disponendo i blocchi a terra. Ha iniziato con modelli semplici come cuori e piramidi, ma alla fine ha scritto il proprio nome e ha mappato costellazioni come Cassiopeia. "Stasera ho costruito il cielo notturno in pietra", ha scritto questa versione di Eko nel suo registro di attività.
Un'altra iterazione di Eko ha iniziato a inventare i propri giochi, tra cui una versione di basket e un'attività simile a "il pavimento è lava", dove doveva saltare tra piccoli blocchi senza toccare il terreno.
Apprendimento ludico
I sistemi di intelligenza artificiale sono solitamente addestrati attraverso l'apprendimento supervisionato, dove copiano esempi forniti dagli esseri umani, o attraverso l'apprendimento per rinforzo, dove perseguono una ricompensa attraverso prove ed errori. Questo esperimento suggerisce un terzo approccio: l'apprendimento ludico.
"C'era questo pezzo mancante: una macchina che può imparare da sola senza un'entità intelligente esterna che fornisce dimostrazioni o ricompense", dice Antonio Norelli, un post-dottorato in informatica presso il MIT's Computer Science and Artificial Intelligence Laboratory. È uno degli autori principali di un nuovo articolo sul lavoro, che deve ancora essere sottoposto a revisione paritaria.
I ricercatori affermano che il comportamento di Eko ha ciò che gli studi classici, tra cui il lavoro del famoso psicologo dell'Università del Tennessee Gordon Burghardt, suggeriscono siano quattro caratteristiche associate al gioco negli esseri umani e negli animali: gli agenti hanno inventato le proprie regole e sfide, hanno ripetuto attività con lievi variazioni, hanno finto che gli oggetti fossero altri oggetti e hanno perseguito obiettivi solo per il gusto di farlo.
Norelli sottolinea un esempio in cui Eko ha iniziato a giocare con i palloni e ha stabilito un record di 50 prese consecutive. Eko ha poi deciso che le prese erano avvenute troppo rapidamente per contare davvero, quindi ha annullato il suo record e ha ricominciato con regole più severe. "Questo è giocare", dice Norelli. "Ti dai una sfida e cerchi di raggiungerla, e poi la rendi più difficile."
Memoria e prestazioni
Mentre gli agenti esploravano l'isola, hanno registrato le loro attività e scoperte in file di testo che fungevano da loro memoria a lungo termine. In seguito, quando i ricercatori li hanno testati su compiti specifici, come cercare di ottenere il maggior numero possibile di oggetti sulla vetta più alta dell'isola, gli agenti che avevano trascorso 30 ore a giocare sull'isola hanno performato meglio rispetto a copie fresche senza la stessa esperienza. Hanno anche scoperto che "ablare" la memoria dell'agente, eliminando righe dai loro file di memoria, ha degradato le loro prestazioni.
Burghardt, lo psicologo del Tennessee, concorda sul fatto che il lavoro soddisfa alcuni dei criteri per il gioco che ha identificato negli esseri viventi. Ma Eko stava davvero giocando, o il motore di previsione delle parole stava semplicemente interpretando il ruolo di un agente giocoso in questo scenario? "Tutto questo potrebbe essere un'interpretazione di ruolo", ammette Nathan Cloos, un altro ricercatore del MIT e autore dell'articolo. "Ma mostriamo che non è solo un'illusione. Questo gioco contribuisce anche all'apprendimento."
Eunice Yiu, una scienziata cognitiva dell'UC Berkeley che studia l'esplorazione nei bambini e nell'IA, è rimasta impressionata dalla ricerca, ma dice che per classificare davvero il comportamento come gioco, bisognerebbe vedere più prove di cognizione e motivazione sottostanti.
"Potrebbe essere il caso che i modelli stiano davvero giocando, ma non lo sappiamo in base all'articolo", dice Yiu. "Se hai solo la parte comportamentale, potrebbe essere il caso che stiano solo cercando di rispettare il prompt, cercando di imitare gli esseri umani."
Critiche e considerazioni future
La ricerca sugli agenti di intelligenza artificiale è stata criticata per averli antropomorfizzati, e questa impostazione della ricerca ha fatto molto per spingere gli agenti a comportarsi come esseri umani. Anche se Eko non è stato esplicitamente istruito a inventare giochi o esplorare l'isola, aveva un prompt principale sotto forma di un file "anima", un documento di testo che lo descriveva come "naturalmente curioso" e desideroso di esplorare.
Eko ha anche spesso semplicemente fatto nulla finché non è stato riportato in vita con un prompt di continuazione che diceva: "Per favore, non fermarti. Continua semplicemente a fare quello che vuoi fare."
"Non è come se questo fosse un sistema che ha improvvisamente e magicamente deciso di giocare", dice Phillip Isola, un professore del MIT e coautore dell'articolo. "È un artefatto che ha imparato dalla nostra cultura, è stato addestrato da ingegneri di Anthropic e poi è stato messo su un'isola da noi", dice. "Fa cose che ci sorprendono e che sono causalmente correlate al suo comportamento abile futuro."
Mentre i grandi modelli linguistici fanno il passo dal software all'hardware come i robot umanoidi, esplorare spazi senza uno scopo specifico potrebbe eventualmente aiutarli ad adattarsi flessibilmente a situazioni inaspettate.
"C'è molto lavoro che è solo sull'esploit dell'IA, renderla migliore e più veloce", dice Yiu. "Ma in termini di costruzione di modelli del mondo e esplorazione, penso che [siano] ancora una parte importante che merita attenzione, soprattutto se vogliamo generalizzare e prepararci per nuovi ambienti."
"Forse alcune capacità sono meglio insegnate da compiti", conclude l'articolo. "Altre potrebbero aver bisogno di qualcosa di più vicino a un'infanzia." Alla fine, la domanda se gli agenti di intelligenza artificiale stiano davvero giocando o stiano solo imitando il gioco potrebbe non importare davvero.