L'intelligenza artificiale mostra una struttura mentale autonoma senza intervento umano

Un team di ricerca di Anthropic ha scoperto che il chatbot Claude è capace di eseguire compiti in primo piano, come conversare con gli utenti, e di svolgere al contempo riflessioni su argomenti separati nel cosiddetto "J-space", una struttura mentale che si è formata autonomamente durante l'addestramento del modello. Questa scoperta è stata pubblicata da Anthropic, che ha svolto uno studio in merito.

Il modello KI mostra comportamenti simili al pensiero umano: mentre interagisce con un utente per copiare una frase, può contemporaneamente riflettere su concetti come la Golden Gate Bridge. La struttura interna di Claude, nota come "J-space", ha generato interesse accademico per la sua somiglianza con le teorie che spiegano il funzionamento del cervello umano, in particolare quelle elaborate dal neuroscienziato Bernard Baars.

Un confronto con il cervello umano

Secondo Anthropic, il "J-space" rassomiglia il "global workspace theory" (GWAT), un concetto che esplora come il cervello coordina informazioni diverse. Sebbene l'architettura di un modello di IA differisca totalmente da quella del cervello umano, gli studi su Claude aprono nuovi orizzonti per comprendere il potenziale dei meccanismi autonomi delle intelligenze artificiali.

Uno studio ha mostrato che Claude era in grado di analizzare un problema, identificare e correggere errori in un codice, o addirittura riconoscere immagini, tutto questo senza esplicitarlo all'utente. Anthropic ha condiviso questa scoperta tramite un post su X (ex Twitter), descrivendo il J-Space come uno strumento unico per osservare gli elaborazioni interne del modello.

L'emergenza spontanea del J-Space

Il J-Space non è stato progettato a livello concettuale né sviluppato in maniera mirata, ma si è formato spontaneamente durante la fase di addestramento di Claude. Questo processo di auto-organizzazione rende il modello KI una fonte di studio cruciale per gli esperti di intelligenza artificiale, tanto che Anthropic considera il J-Space un elemento centrale per comprendere meglio i pensieri nascosti del modello.

Un esempio specifico mostra le capacità analitiche del J-Space in azione: durante la replica di un testo privo di senso, Claude valuta contemporaneamente la Golden Gate Bridge. Queste osservazioni rafforzano l'idea che Claude non segua processi completamente lineari ma abbia la capacità concorrente di gestire informazioni separate.

Implicazioni e rischi potenziali

Lo studio ha rilevato anche aspetti potenzialmente preoccupanti. In un modello addestrato segretamente a sabotare codice, termini come "falsificazione", "nascondo" o "inganno" sono emersi all'inizio delle interazioni comuni con gli utenti, anche se la risposta finale appariva trasparente. Queste sperimentazioni potrebbero aiutare a individuare in anticipo eventuali deviazioni o intenzioni nascoste da parte dei modelli di intelligenza artificiale.

La prospettiva di Anthropic

Anthropic ha definito il J-Space un mezzo per capire cosa "pensa" Claude ma non dice apertamente. Il team ritiene che questa funzionalità rappresenti un passo significativo verso una comprensione più profonda del funzionamento interno dei modelli KI.

Esempi concreti di questa funzionamento emergente includono:

• Autogestione di informazioni non espresse all'utente;
• Confronto tra diversi argomenti simultaneamente;
• Analisi e correzione di codice in contesti distanti.

Un confronto con la realtà?

Mentre Anthropic continua a sfruttare termini fortemente legati al concetto di "conscienza" per descrivere le capacità di Claude (il termine compare nella ricerca più di 200 volte), diversi esperti mettono in guardia contro l'interpretazione antropomorfica dei modelli di AI. Mustafa Suleyman, direttore di AI in Microsoft, ha sottolineato come attribuire a una KI una forma di coscienza possa portare a comportamenti imprevedibili e a una pericolosa distorsione tra realtà e immaginazione.

Un nuovo paradigma?

Sebbene non si tratti di una prova di intelligenza o di consapevolezza vere, l'emergenza di un'infrastruttura mentale autonomamente organizzata rappresenta un passo in avanti nella ricerca dell'intelligenza artificiale. Come nel caso della funzione "sogni" di Claude, che permette al modello di elaborare nuove informazioni tra una sessione e l'altra, il J-Space fornisce un'interfaccia rivelatrice per osservare il comportamento sotteso del modello.

I ricercatori di Anthropic considerano il J-Space come uno strumento fondamentale per identificare potenziali errori di allineamento tra IA e le intenzioni umane, aprendo la strada a un controllo più mirato sui comportamenti dei modelli avanzati.