Il futuro degli LLM: le nuove frontiere della ricerca

La nuova fase dell’intelligenza artificiale generativa è profondamente orientata a perfezionare i large language model (LLM), rendendoli più efficienti, più robusti nell'esecuzione di compiti lunghi e complessi, e intrinsecamente più adatti alle esigenze e ai processi aziendali. Dalle architetture ibride alla capacità di auto-verifica, stanno emergendo direttrici di ricerca che promettono di ridefinire il panorama tecnologico, con implicazioni significative sia per le imprese che per i fornitori di tecnologia.

I laboratori di ricerca e le aziende tecnologiche continuano a investire massicciamente per plasmare un futuro in cui gli LLM saranno ancora più funzionali di quanto lo siano oggi. L’obiettivo primario è superare i limiti che attualmente ne riducono l'utilità e l'applicabilità pratica. Si sta delineando una chiara transizione verso una nuova generazione di modelli linguistici che saranno non solo più efficienti, ma anche meno costosi da operare e maggiormente capaci di affrontare problemi articolati e di lunga durata.

Le necessità sono chiare: servono sistemi capaci di leggere e interpretare basi documentali estremamente ampie, di ragionare attraverso molteplici passaggi logici, di integrare e utilizzare strumenti esterni, di mantenere la coerenza narrativa e semantica per periodi prolungati e, soprattutto, di farlo con costi di inferenza economicamente sostenibili. È in questo contesto che la ricerca sta esplorando frontiere inedite, alcune delle quali già visibili nelle roadmap industriali dei principali attori, mentre altre sono ancora in fase sperimentale, ma con prospettive e implicazioni molto concrete per il mercato enterprise.

La prossima generazione di LLM sarà valutata con criteri diversi: non si guarderà più soltanto al mero punteggio sui benchmark, ma sempre più al rapporto equilibrato tra qualità dell'output, latenza, consumo di risorse di calcolo e capacità effettiva di gestire task complessi in ambienti operativi reali. Nella prima fase dell'adozione dell'AI generativa, il vantaggio competitivo sembrava strettamente correlato alla dimensione del modello. Oggi, il focus si sta decisamente spostando: un LLM che comporta costi di produzione proibitivi, che non riesce a sostenere task lunghi o che richiede un'eccessiva orchestrazione manuale, diventa insostenibile nel lungo termine, anche se performa eccellentemente nei test di laboratorio.

Per affrontare queste sfide, la ricerca si sta muovendo su diversi assi strategici e complementari: lo sviluppo di architetture più leggere e snelle, una gestione del contesto più sofisticata ed estesa, l'esplorazione di nuove modalità di rappresentazione del testo, l'implementazione di un uso dinamico del calcolo durante la fase di inferenza e l'introduzione di tecniche avanzate per la verifica dell'accuratezza delle risposte generate.

Architetture più leggere e gestori del contesto avanzati

I Mixture-of-Experts (MoE) per l'efficienza

Una delle traiettorie di ricerca più concrete e promettenti è quella che riguarda i modelli Mixture-of-Experts (MoE). Invece di attivare l’intera rete neurale per ogni singola richiesta, questi approcci innovativi "accendono" e utilizzano solo una porzione specifica degli "esperti" interni al modello, a seconda della natura e della complessità del compito da svolgere. Questo permette di ottenere prestazioni elevate con un consumo di risorse computazionali notevolmente inferiore.

Il caso più emblematico e ampiamente discusso è DeepSeek-V3, che vanta un totale di 671 miliardi di parametri, ma attiva solamente 37 miliardi di essi per ogni token elaborato. L'obiettivo chiaro è quello di aumentare la capacità e la complessità complessiva del modello senza far esplodere i costi operativi associati alla sua esecuzione. Se un modello riesce a mantenere prestazioni elevate riducendo drasticamente il calcolo necessario per ogni richiesta, si aprono le porte a un'ampia gamma di casi d'uso ad alto volume che diventano finalmente sostenibili. Questi includono, a titolo esemplificativo:

• Assistenza clienti automatizzata
• Ricerca interna su vaste basi di conoscenza
• Automazione documentale complessa
• Sviluppo di copiloti per sviluppatori
• Analisi di knowledge base estese e multi-formato

Il vantaggio competitivo si sposta così dal semplice modello "più grande" al modello "più conveniente per il compito svolto", favorendo un approccio più pragmatico e orientato al valore.

Oltre il Transformer tradizionale: le architetture ibride

Un'altra frontiera cruciale riguarda il tentativo di superare alcuni limiti intrinseci del transformer tradizionale, senza però abbandonarne completamente la comprovata efficacia. Il paper Jamba, ad esempio, propone un'interessante combinazione tra blocchi Transformer, componenti Mamba e l'approccio Mixture-of-Experts. Uno studio empirico condotto da Nvidia sui modelli Mamba suggerisce che le architetture ibride possono mantenere eccellenti prestazioni anche su contesti di input molto lunghi e, in alcune configurazioni specifiche, possono risultare fino a 8 volte più veloci nella generazione rispetto a transformer comparabili.

Se questa linea di ricerca dovesse consolidarsi e maturare, il mercato non sarà più organizzato unicamente intorno alla contrapposizione tra modelli open source e closed source, ma si arricchirà di una nuova dimensione, quella delle diverse famiglie architetturali. Questo scenario può avere un impatto diretto e significativo sui deployment privati, edge o on-premise, dove fattori come la memoria disponibile, il throughput e i consumi energetici rivestono un'importanza pari, se non superiore, alla mera qualità del modello.

I modelli di diffusione per il linguaggio

I modelli di diffusione, finora prevalentemente associati alla generazione di immagini e video, stanno iniziando a essere oggetto di studio anche per le applicazioni linguistiche. Il lavoro intitolato Block Diffusion, presentato nel 2025, cerca di combinare i vantaggi dei modelli autoregressivi con quelli dei modelli diffusivi, con l'ambizioso obiettivo di ottenere una generazione più parallelizzabile, una lunghezza dell'output flessibile e una migliore efficienza complessiva nella fase di inferenza.

Non siamo ancora di fronte a uno standard industriale alternativo agli LLM classici, ma la direzione di questa ricerca merita certamente una profonda attenzione. Se questi modelli dovessero maturare e dimostrarsi efficaci, potrebbero diventare strumenti estremamente interessanti in casi d'uso dove la latenza, il controllo preciso dell'output e la trasformazione strutturata del contenuto sono considerati più critici rispetto alla semplice fluidità linguistica.

Gestione del contesto: un approccio ricorsivo

Non basta semplicemente allargare la finestra di contesto. Con l'aumentare del numero di token da elaborare, cresce esponenzialmente il rischio che il modello perda il filo del discorso, disperda l'attenzione su dettagli irrilevanti o commetta errori su relazioni e dipendenze distribuite all'interno di documenti molto lunghi. Per questo motivo, la ricerca sta cercando alternative.

In quest'area, il paper Recursive Language Model del MIT CSAIL propone un approccio radicalmente diverso: invece di trattare l'intero contesto come un unico blocco monolitico, il modello scompone il compito in sotto-parti gestibili, richiama copie di sé stesso per elaborare queste parti e lavora in modo iterativo. Gli autori sostengono che questo schema innovativo permette di gestire input fino a due ordini di grandezza superiori rispetto alla context window del modello di base, aprendo nuove possibilità per l'elaborazione di testi molto estesi.

Se questa impostazione dovesse trovare conferma e diffusione, il beneficio per le imprese sarebbe diretto e misurabile in ambiti critici come:

• Due diligence legale e finanziaria
• Audit documentale e conformità normativa
• Analisi contrattuale complessa
• Supporto tecnico basato su repository estesi di documentazione
• Compliance regolatoria e ricerca normativa

Il punto chiave è che il valore aggiunto non deriverà semplicemente da finestre di contesto più ampie, ma dalla capacità intrinseca del modello di scomporre correttamente il problema e di affrontarlo in modo strutturato.

Nuove rappresentazioni del testo e calcolo dinamico

Oltre il token: nuove unità di elaborazione

Una parte importante della ricerca sta mettendo in discussione l'idea che il token rappresenti l'unità ottimale per ogni tipo di elaborazione linguistica. Il paper Byte Latent Transformer propone di lavorare su byte e patch dinamiche invece che sui token classici, con il duplice obiettivo di migliorare sia l'efficienza computazionale che la robustezza del modello, specialmente con input non standard o lingue a basso resource.

Ancora più radicale e particolarmente interessante per il mondo del business è il caso di DeepSeek-OCR, un modello che rappresenta lunghi contenuti testuali attraverso una compressione visiva. Nel paper, gli autori dimostrano che il modello supera le prestazioni di GOT-OCR2.0 utilizzando appena 100 "vision token" per pagina e ottiene risultati migliori di MinerU2.0 con meno di 800 token visivi. Questo significa una drastica riduzione dei dati da elaborare mantenendo o migliorando la qualità.

Per le aziende che lavorano intensamente con formati documentali complessi come PDF, moduli, fatture, manuali tecnici, tavole illustrative e schermate di applicazioni, questa linea di ricerca può incidere profondamente sui costi operativi. Se il contenuto documentale può essere compresso e trattato in modo significativamente più efficiente prima della fase di ragionamento e comprensione, la Document AI potrebbe diventare meno onerosa e molto più scalabile nei processi ad alto volume.

Calcolo dinamico in inferenza (Test-Time Compute)

Un'altra frontiera estremamente rilevante è quella del test-time compute, ovvero la possibilità di allocare risorse di calcolo aggiuntive solo sui task che sono realmente complessi, durante la fase di inferenza. Questo permette di ottimizzare l'uso delle risorse, evitando sprechi per compiti semplici e garantendo maggiori capacità per quelli che richiedono più "pensiero".

Il paper Scaling up Test-Time Compute with Latent Reasoning esplora nuove forme di ragionamento latente che non dipendono unicamente dalla produzione di un maggior numero di token. Un altro studio, intitolato Scaling Test-time Compute for LLM Agents, dimostra che aumentare il calcolo in inferenza può migliorare significativamente le prestazioni degli agenti LLM, specialmente quando si combinano tecniche come il campionamento multiplo, la revisione interna, la verifica dei risultati e il merging intelligente delle diverse elaborazioni.

Per il mercato, questo significa che l'AI tenderà a essere tariffata e governata in base all'intensità del lavoro cognitivo richiesto, piuttosto che al semplice volume di testo elaborato. Per le aziende, ciò implica la necessità di introdurre nuove policy e strategie decisionali:

• Quando conviene far "riflettere" di più il modello su un problema?
• Quando è opportuno fermare l'elaborazione prima per contenere i costi?
• Su quali task autorizzare costi di calcolo più elevati per garantire maggiore precisione?
• Dove imporre soglie di contenimento per ottimizzare la spesa?

Queste domande diventeranno centrali nella gestione e nell'implementazione dell'AI in azienda.

Self-verification: l'LLM che valuta le proprie risposte

Una linea di ricerca sempre più osservata e cruciale riguarda la capacità del modello di verificare autonomamente l'accuratezza e la correttezza delle proprie risposte. Questo aspetto è fondamentale per aumentare l'affidabilità e l'integrazione degli LLM in contesti critici.

Due lavori recenti, intitolati rispettivamente Incentivizing LLMs to Self-Verify Their Answers e Learning to Self-Verify Makes Language Models Better Reasoners, dimostrano che addestrare il modello alla self-verification può migliorare non solo il controllo degli errori e la riduzione delle "allucinazioni", ma anche la qualità intrinseca del ragionamento logico. Sebbene questo non elimini completamente il problema delle allucinazioni (ovvero la generazione di informazioni false ma plausibili), sposta la ricerca in una direzione molto più utile per il business: non si tratta più solo di generare risposte, ma anche di valutarne criticamente la correttezza e la pertinenza.

Per settori altamente regolamentati e critici come le banche, le assicurazioni, la sanità, la Pubblica Amministrazione e l'industria manifatturiera, questo aspetto può fare la differenza tra un assistente basato su AI interessante ma limitato, e un sistema effettivamente integrabile e affidabile nei processi decisionali e operativi.

Conclusioni: l'integrazione è la chiave

La prossima fase del mercato dell'intelligenza artificiale non premierà soltanto chi disporrà del modello più potente in termini assoluti. Il successo arriderà a chi saprà combinare nel modo più efficace una serie di fattori critici: l'architettura del modello, la sua orchestrazione all'interno di un ecosistema più ampio, la gestione efficiente della memoria, l'integrazione con strumenti esterni e basi di conoscenza, le capacità di verifica dell'output e, naturalmente, il costo operativo complessivo. La scelta del modello, dunque, non potrà più essere disgiunta dal tipo specifico di workload che dovrà gestire, sia esso una semplice chat, un copilota per la programmazione o un'analisi documentale profonda.