Un articolo Stanford-Harvard spiega il fallimento dei sistemi AI agentici dopo le demo

I sistemi di intelligenza artificiale agentici rappresentano una delle frontiere più promettenti e, al contempo, più frustranti del panorama tecnologico attuale. Costruiti su modelli linguistici di grandi dimensioni (LLM), questi sistemi sono progettati per interagire con strumenti, accedere alla memoria e operare in ambienti esterni, supportando già aree critiche come la scoperta scientifica, lo sviluppo di software e la ricerca clinica. Tuttavia, nonostante il loro potenziale e le loro performance spesso straordinarie nelle dimostrazioni controllate, la loro applicazione nel mondo reale è costellata di sfide significative, tra cui un uso inaffidabile degli strumenti, una pianificazione a lungo termine debole e una scarsa capacità di generalizzazione.

Un recente e autorevole articolo di ricerca, intitolato “Adaptation of Agentic AI”, frutto della collaborazione tra istituzioni prestigiose come Stanford, Harvard, UC Berkeley e Caltech, si propone di affrontare questa dicotomia. Il documento offre una visione unificata su come questi sistemi dovrebbero adattarsi, mappando i metodi esistenti in un framework compatto e matematicamente definito. L'obiettivo è comprendere il perché della discrepanza tra le demo impressionanti e il fallimento nell'uso pratico, fornendo una strada per costruire agenti AI più robusti e affidabili.

La necessità di questo framework nasce dall'osservazione comune che molti sistemi agentici, pur sembrando brillanti in contesti dimostrativi attentamente curati, si “disgregano completamente” quando esposti alle complessità e all'imprevedibilità del mondo reale. Questa fragilità limita la loro adozione e il loro impatto, nonostante gli investimenti e le aspettative. L'articolo, quindi, non si limita a descrivere il problema, ma propone una soluzione strutturata, concentrandosi sull'adattamento come chiave per sbloccare il vero potenziale dell'AI agentica.

Come questo documento di ricerca modella un sistema AI agentico

Il sondaggio di ricerca modella un sistema di AI agentica come un agente basato su un modello fondamentale (foundation model agent) accompagnato da tre componenti chiave, ognuna delle quali gioca un ruolo cruciale nella sua capacità di operare in modo autonomo e intelligente. Comprendere queste componenti è fondamentale per apprezzare come il framework proposto miri a migliorare l'adattabilità complessiva del sistema.

Il modulo di pianificazione

Il primo elemento è un modulo di pianificazione. Questo componente è responsabile della decomposizione degli obiettivi complessi in sequenze di azioni più gestibili. La pianificazione può avvenire attraverso procedure statiche o dinamiche:

• Le procedure statiche, come Chain-of-Thought e Tree-of-Thought, seguono un percorso predefinito o ramificato, generando una sequenza di pensieri o decisioni prima di eseguire le azioni. Sono efficaci in compiti ben strutturati e prevedibili.
• Le procedure dinamiche, come ReAct e Reflexion, sono più flessibili e reattive. Esse incorporano meccanismi di feedback, consentendo all'agente di adattare il proprio piano in base agli esiti delle azioni eseguite o alle nuove informazioni ricevute. Questo le rende più adatte per ambienti dinamici e incerti, dove gli errori o le condizioni mutevoli richiedono un aggiustamento continuo.

La scelta e l'ottimizzazione di questo modulo sono cruciali per la capacità dell'agente di navigare in compiti a lungo termine e di recuperare da potenziali fallimenti.

Il modulo di utilizzo degli strumenti

Il secondo componente è un modulo di utilizzo degli strumenti. Questo è ciò che connette l'agente al mondo esterno e ad altre risorse digitali. Senza la capacità di interagire con strumenti esterni, un agente AI sarebbe limitato alle sue capacità interne derivanti dal modello fondamentale. Gli strumenti che possono essere integrati includono:

• Motori di ricerca web: per acquisire informazioni in tempo reale dal web.
• API (Application Programming Interfaces): per interagire con servizi esterni, database o altre applicazioni software.
• Ambienti di esecuzione del codice: per scrivere, testare ed eseguire codice, utile in compiti di programmazione o analisi dati.
• Model Context Protocols: per gestire e orchestrare l'interazione con altri modelli o componenti.
• Automazione del browser: per eseguire azioni in un browser web, come compilare moduli, cliccare link o estrarre dati.

La robustezza e l'affidabilità di questo modulo sono spesso il tallone d'Achille degli agenti AI, poiché l'interazione con strumenti reali introduce complessità e potenziale di errore.

Il modulo di memoria

Infine, il terzo componente è un modulo di memoria. Questo è vitale per consentire all'agente di conservare e richiamare informazioni, imparando dalle esperienze passate. La memoria è tipicamente suddivisa in:

• Contesto a breve termine: include le interazioni e le osservazioni più recenti, essenziale per mantenere il filo di una conversazione o di una sequenza di azioni.
• Conoscenza a lungo termine: comprende informazioni più durature e generalizzate, acquisite nel tempo. L'accesso a questa conoscenza avviene spesso tramite la generazione aumentata da recupero (Retrieval Augmented Generation - RAG), dove l'agente ricerca informazioni pertinenti da un vasto corpus di dati per migliorare le sue risposte o azioni.

Una gestione efficace della memoria è fondamentale per l'apprendimento continuo e per evitare di ripetere gli stessi errori. L'adattamento, nel contesto di questo framework, implica la modifica dei prompt o dei parametri per queste componenti. Questo può avvenire attraverso diverse tecniche:

• Fine-tuning supervisionato: l'agente viene addestrato su dati etichettati specifici per migliorare le sue prestazioni in un compito particolare.
• Metodi basati sulle preferenze: come la Direct Preference Optimization (DPO), che ottimizzano l'agente in base a feedback umano sulle preferenze tra diverse uscite.
• Metodi di apprendimento per rinforzo: come la Proximal Policy Optimization (PPO) e la Group Relative Policy Optimization (GRPO), dove l'agente impara attraverso l'interazione con l'ambiente e la massimizzazione di una ricompensa.
• Tecniche efficienti in termini di parametri: come la Low-Rank Adaptation (LoRA), che permettono di adattare modelli di grandi dimensioni con un minor numero di parametri addestrabili, riducendo i costi computazionali.

Questo modello completo fornisce una base robusta per analizzare e migliorare le capacità degli agenti AI, affrontando le loro debolezze attraverso strategie di adattamento mirate.

Quattro paradigmi di adattamento

Il framework proposto dall'articolo di Stanford e Harvard non si limita a modellare i componenti di un agente AI, ma definisce anche quattro paradigmi distinti per il suo adattamento. Questi paradigmi sono il risultato della combinazione di due scelte binarie fondamentali, creando una matrice che copre le diverse modalità con cui un agente o i suoi strumenti possono essere ottimizzati. Le due dimensioni sono:

• Il bersaglio dell'adattamento: si sta adattando l'agente stesso o gli strumenti che utilizza?
• Il segnale di supervisione: l'adattamento è guidato dall'esecuzione degli strumenti o dall'output finale dell'agente?

Questa combinazione genera quattro scenari specifici: A1, A2 per l'adattamento dell'agente e T1, T2 per l'adattamento degli strumenti.

A1: Adattamento dell'agente segnalato dall'esecuzione degli strumenti

Il paradigma A1, o "Tool Execution Signaled Agent Adaptation", si concentra sull'ottimizzazione dell'agente utilizzando feedback derivato direttamente dall'esecuzione degli strumenti. In questo scenario, l'agente riceve un segnale di supervisione basato su quanto bene (o male) i suoi comandi o le sue richieste agli strumenti esterni sono stati elaborati o hanno avuto successo. Per esempio, se un agente tenta di chiamare un'API ma riceve un errore, questo errore può essere utilizzato come un segnale per modificare il comportamento dell'agente, magari inducendolo a riformulare la richiesta, a scegliere uno strumento diverso, o a implementare una strategia di gestione degli errori. Questo approccio è particolarmente utile per migliorare la robustezza dell'agente nell'interazione con l'ambiente, insegnandogli a recuperare da fallimenti specifici legati all'uso degli strumenti.

A2: Adattamento dell'agente segnalato dall'output dell'agente

Il paradigma A2, o "Agent Output Signaled Agent Adaptation", ottimizza l'agente utilizzando un segnale definito unicamente sui suoi output finali. Qui, il feedback non è legato a passaggi intermedi o all'esecuzione di strumenti, ma alla qualità o all'accuratezza del risultato complessivo prodotto dall'agente per un dato compito. Ad esempio, se l'agente ha il compito di risolvere un problema complesso e l'output finale (la soluzione) è giudicato corretto o errato, questo giudizio funge da segnale di supervisione. Metodi come l'apprendimento per rinforzo o l'ottimizzazione basata su preferenze umane rientrano spesso in questa categoria, poiché valutano l'agente sulla base del suo successo complessivo nel raggiungere un obiettivo. Questo paradigma è essenziale per migliorare la performance generale dell'agente e la sua capacità di generare risultati di alta qualità, anche se potrebbe rendere più difficile individuare la causa esatta di un errore interno.

T1: Adattamento degli strumenti indipendente dall'agente

Il paradigma T1, o "Agent-Agnostic Tool Adaptation", si occupa dell'ottimizzazione degli strumenti senza riferirsi a un agente specifico. In questo caso, gli strumenti stessi vengono migliorati o modificati in modo indipendente, spesso basandosi su dati esterni o su un'analisi della loro efficacia generale. Ad esempio, un team di sviluppatori potrebbe migliorare la documentazione di un'API, correggere bug in un ambiente di esecuzione del codice, o ottimizzare la velocità di un motore di ricerca, senza tener conto di come un particolare agente AI utilizzerà quello strumento. L'obiettivo è rendere gli strumenti più affidabili, performanti e facili da usare per qualsiasi entità, agente AI o umano, che possa interagirvi. Questo miglioramento degli strumenti a monte può indirettamente beneficiare tutti gli agenti che li utilizzano.

T2: Adattamento degli strumenti supervisionato dall'agente

Infine, il paradigma T2, o "Agent-Supervised Tool Adaptation", ottimizza gli strumenti sotto la supervisione di un agente fisso. In questo scenario, un agente specifico, con le sue esigenze e il suo stile di utilizzo, fornisce feedback o dati che vengono poi impiegati per migliorare o specializzare uno strumento. Per esempio, se un agente AI utilizza frequentemente un database in un modo particolare e segnala che determinate query sono lente o imprecise, questo feedback può essere utilizzato per ottimizzare le tabelle del database, indicizzare specifici campi o creare nuove viste che meglio si adattano alle esigenze dell'agente. Questo approccio permette una personalizzazione più fine degli strumenti per massimizzare l'efficienza e l'efficacia in relazione alle capacità e ai requisiti di un dato agente, trasformando gli strumenti in estensioni più fluide delle sue capacità.

Questi quattro paradigmi forniscono una classificazione chiara e unificata per le strategie di adattamento, aiutando i ricercatori e gli sviluppatori a identificare i punti deboli nei sistemi agentici e a scegliere l'approccio di ottimizzazione più appropriato. La comprensione di queste dinamiche è cruciale per passare da sistemi AI agentici impressionanti in contesti dimostrativi a soluzioni robuste e affidabili nel mondo reale. L'adozione di questo framework può accelerare lo sviluppo di agenti AI capaci di affrontare la complessità e l'imprevedibilità del mondo con maggiore successo, sbloccando finalmente il loro pieno potenziale.

In sintesi, il lavoro di Stanford e Harvard non è solo una diagnosi dei problemi attuali dell'AI agentica, ma una vera e propria tabella di marcia per il suo futuro. Affrontando sistematicamente le sfide di pianificazione, uso degli strumenti e gestione della memoria attraverso un adattamento mirato, la ricerca apre la strada a una generazione di agenti AI che non solo "sembreranno" intelligenti, ma lo saranno anche, in ogni contesto applicativo.