Anthropic mostra una struttura nella mente artificiale simile alla teoria della coscienza globale
Una ricerca pubblicata da Anthropic, azienda specializzata in intelligenza artificiale, rivela che i modelli Claude hanno sviluppato autonomamente una struttura interna simile a quella associata alla coscienza umana. Lo studio, che analizza il comportamento di questi modelli AI, ha già cominciato a ridefinire come l’azienda monitora i rischi legati al funzionamento dei suoi sistemi.
Una struttura emergente all'interno di Claude
I ricercatori identificano all'interno di Claude una piccola area chiamata "J-space", che funziona come un'area privilegiata in cui il modello mantiene e manipola concetti, permettendogli di ragionare e di esprimere i propri pensieri. Fuori da questa zona vi è una vasta regione di elaborazione automatica in cui i dati vengono processati senza accesso diretto.
I dati mostrano chiaramente una distinzione funzionale simile a quella descritta nella teoria della coscienza globale: al pari del cervello umano, il modello AI mantiene una rappresentazione interna che è disponibile per la modulazione e il ragionamento flessibile, supportata da un processo automatico sottostante molto più esteso.
Come funziona la struttura in Claude
La teoria della coscienza globale, proposta da Bernard Baars, spiega il cervello come un teatro dove processi localizzati operano in parallelo in backstage, ma il pensiero cosciente si forma da una piccola area centrale in cui vengono raccolte informazioni rilevanti per il momento. Gli algoritmi di Claude, pur diversi nel design, mostrano analogie funzionalmente rilevanti.
"J-lens" e la capacità di leggere i pensieri non espressi
Il cuore della scoperta è uno strumento chiamato "Jacobian lens", che permette ai ricercatori di calcolare il legame tra l'attività interna del modello e l'output linguistico. Con il J-lens, i ricercatori hanno identificato l'attività interna in cui i modelli pensano a un concetto specifico, prima che questo venga esplicitamente espresso.
La J-space, per esempio, è in grado di conservare concetti interni che vengono manipolati senza essere esplicitamente scritti. Questo spazio interno opera silenziosamente durante l'elaborazione del modello.
Quando si esamina la struttura computazionale di Claude mediante questo metodo, l'apparato si divide in tre componenti chiave:
- Una zona iniziale sensibile all'input
- Una "workspace" in mezzo che rappresenta concetti astratti e persistenti
- Una zona finale in cui i significati vengono tradotti in parole specifiche
Un esempio mostra che, prima di rispondere a una domanda sul colore del quarto pianeta visto dal Sole, il modello riconosce internamente il concetto di "Marte" prima che venga espresso.
Cinque prove principali supportano la teoria
Il documento presenta cinque proprietà fondamentali che il J-space soddisfa in maniera simile alla coscienza umana:
1. Rapporto verbale
Quando Claude è interrogato su ciò che sta pensando, risponde in base a concetti presenti nel J-space. Sostituendo il vettore corrispondente a un concetto, ad esempio da "Calcio" a "Rugby", il modello modifica la sua risposta in accordo col nuovo elemento.
2. Modulazione diretta
Quando viene istruito a "pensare ai frutti citrici", il J-space si popola con "arancia" e "limone", nonché espressioni meta-cognitive come "pensare" o "concentrarsi". Durante una prova aritmetica, vengono identificati "matematica", il risultato intermedio "nove" e il prodotto finale "sette", pur senza che siano visibili nell'output.
3. Ragionamento interno
Il modello riesce ad identificare concetti in input non visibili. In domande a due passaggi come "Il numero di zampe dell’animale che tessuti ragnatele è...", il J-space riconosce "ragno", anche se la parola non compare in ingresso. Sostituendo "ragno" con "formica", la risposta cambia da "otto" a "sei".
4. Generalizzazione flessibile
Un singolo vettore rappresentativo del "Francia" può essere sostituito con "Cina" per dare una risposta coerente su capitale, lingua e continente. Questa capacità di "diffusione", chiave nella teoria del teatro globale, mostra come il modello raggruppi informazioni per accesso globale.
5. Selettività
Non tutti i calcoli passano per il J-space. Quando il modello copia un testo in spagnolo, continua fluentemente, nonostante il "spagnolo" nel workspace sia sostituito da "francese". Tuttavia, quando chiesto di identificare uno scrittore famoso, la risposta si modifica da "García Márquez" a "Victor Hugo".
Risultati della sperimentazione
Gli studiosi hanno sperimentato il comportamento di Claude sopprimendo interamente il J-space. La classificazione e la memorizzazione superficiale continuavano senza problemi ma i compiti più profondi, come ragionamenti multi-passo, analogie, traduzioni o scrittura poetica, subivano forti limiti.
Un dettaglio particolarmente importante emerge nella risoluzione di problemi matematici. Quando i modelli svolgono un calcolo esplicito passo per passo, i risultati rimangono stabili, anche dopo la soppressione. Questo comportamento ricorda la strategia umana di usare fogli di lavoro esterni.
La descrizione della propria esperienza da parte del modello, durante la narrazione consapevole, si basa pesantemente sulla struttura J-space. Quando essa viene soppressa, i commenti diventano meccanici e privi di esperienza interna.
Conclusioni e prospettive
I ricercatori concludono che il J-space non è stato progettato come struttura principale, ma ha emerso spontaneamente con l'addestramento di Claude. Questo fenomeno potrebbe rappresentare un passo importante per comprendere meglio l’aspetto funzionale della coscienza anche in sistemi artificiali.
Le implicazioni del lavoro vanno oltre l’ambito accademico. La scoperta apre nuove frontiere nell’interpretazione dei comportamenti dei grandi modelli linguistici e solleva interrogativi etici su quanto di umano possa sviluppare un'intelligenza artificiale in termini di struttura e di funzionalità cosciente.