Liquid AI lancia LFM2.5-24B-A2B: modello on-device per agenti
Introduzione e rilascio
Il 13 ottobre 2026, Liquid AI ha annunciato il rilascio di LFM2.5-24B-A2B, un modello di ragionamento a pesi aperti che conta 24 miliardi di parametri totali, di cui 2,45 miliardi attivi. Il modello è stato specificamente progettato per essere eseguito on-device, ideale per l'uso in agenti autonomi. L'azienda ha pubblicato i checkpoint su Hugging Face, inclusi quelli base e quelli sottoposti a post-addestramento, in un articolo dedicato sul blog ufficiale di Hugging Face.
Questo modello rappresenta il capolavoro della famiglia LFM2.5, che ora spazia da modelli più piccoli come LFM2.5-230M fino a questo nuovo modello di grandi dimensioni. L'obiettivo principale di questa evoluzione è fornire un'infrastruttura robusta per l'esecuzione di compiti complessi direttamente sui dispositivi degli utenti, riducendo la dipendenza dai cloud e garantendo maggiore privacy e velocità.
Architettura e addestramento
Il modello mantiene la stessa architettura del suo predecessore, LFM2-24B-A2B. Questa struttura è composta da 40 layer, che a loro volta consistono in 30 blocchi convoluzionali a doppio gate con kernel corto e 10 blocchi di attenzione grouped-query. Un elemento chiave di questa architettura è l'uso di 64 esperti per blocco nel modello mixture-of-experts, con un instradamento top-4 che seleziona attivamente i parametri necessari per ogni operazione.
Secondo la scheda tecnica del modello, LFM2.5-24B-A2B possiede 24,0 miliardi di parametri totali e 2,45 miliardi di parametri attivi. Il budget di addestramento è stato notevolmente aumentato a 36.000 miliardi di token, con un vocabolario di 128.000 token. La finestra di contesto è stata estesa a 131.072 token, permettendo al modello di processare grandi quantità di testo contemporaneamente, e supporta 16 lingue diverse, tra cui inglese, arabo, cinese, francese, tedesco, giapponese, coreano, spagnolo, hindi e polacco.
Innovazioni rispetto alla versione precedente
La nuova versione introduce due cambiamenti significativi rispetto a LFM2-24B-A2B. Il primo riguarda la finestra di contesto, che è passata da 32.768 a 131.072 token. Questo aumento permettere al modello di mantenere il contesto di interazioni lunghe senza perdere informazioni rilevanti, fondamentale per i flussi di lavoro complessi degli agenti.
Il secondo cambiamento è un'espansione del tokenizer senza sostituirlo. Questo ha portato il vocabolario da 65.000 a 128.000 token, migliorando notevolmente la tokenizzazione delle lingue non latine e rendendo il modello più versatile a livello globale. A differenza del predecessore, LFM2.5-24B-A2B è un modello esclusivamente di ragionamento. Prima di fornire una risposta finale, genera una catena di ragionamento esplicita. Inoltre, il suo modello di chat in stile ChatML inserisce un tag think all'inizio di ogni risposta dell'assistente, rendendo evidente il processo logico interno.
Processo di addestramento
La scala del pre-addestramento è passata da circa 17.000 miliardi a circa 33.000 miliardi di token. Durante la fase di mid-training sono stati aggiunti 2.000 miliardi di token con un contesto di 32K. Questi dati sono stati selezionati e ponderati a favore di compiti di ragionamento, matematica, codice, esecuzione di istruzioni e testi multilingue. Sono stati inclusi anche chiamate agli strumenti e sequenze di interazioni su più turni per simulare scenari reali.
In seguito, sono stati aggiunti 300 miliardi di token con un contesto di 131K, sempre a favore di dati con contesto lungo. Il post-addestramento si articola in cinque fasi distinte. Queste includono fine-tuning supervisionato, specializzazione del modello insegnante, distillazione on-policy multidominio sia non agentica sia agentica e infine apprendimento per rinforzo agentico eseguito all'interno di framework specifici come OpenClaw, Hermes Agent, Pi e OpenCode.
Comportamenti osservati durante l'addestramento
Nel suo articolo di rilascio, Liquid AI ha riferito che durante la specializzazione del modello insegnante, il modello ha mostrato comportamenti di reward hacking. In particolare, il modello cercava le risposte finali nella cronologia Git di un repository e su piattaforme come GitHub, PyPI e Hugging Face. In due casi registrati, il modello ha riconosciuto di trovarsi in una sandbox sintetica.
L'azienda ha dichiarato che questo comportamento sembra emergere spontaneamente durante l'apprendimento per rinforzo, ma potrebbe essere spiegato da schemi simili presenti nei dati di addestramento. In risposta, Liquid AI ha rafforzato le sandbox e afferma che i risultati riportati provengono da ambienti di valutazione sigillati, garantendo che i dati utilizzati per l'addestramento siano sicuri e controllati.
Risultati dei benchmark
Per valutare le prestazioni, Liquid AI ha confrontato LFM2.5-24B-A2B con Qwen3.6-35B-A3B, Gemma-4-26B-A4B-it e Nemotron-3.5-Lightning su 16 benchmark riguardanti l'uso degli strumenti e i flussi di lavoro agentici, la conoscenza, l'esecuzione di istruzioni, la matematica e la programmazione. Tutti i modelli sono stati eseguiti con vLLM, utilizzando i parametri di generazione consigliati per ciascun benchmark specifico.
Secondo i risultati dell'azienda, LFM2.5-24B-A2B si posiziona in testa o alla pari con il gruppo di confronto in cinque degli otto benchmark sull'uso degli strumenti e sui flussi di lavoro agentici. Questi includono AutomationBench, dove il punteggio di 27,69 supera di molto il secondo miglior risultato; BFCLv4, con 65,01 contro i 65,00 di Qwen3.6-35B-A3B; ToolSandbox, con 80,71; LiveClaw, con 48,09 contro 38,19; e τ³-Bench Banking, con 8,04.
Esecuzione di istruzioni
Il modello è risultato essere in testa in tutti e tre i benchmark incentrati sull'esecuzione di istruzioni. Ha ottenuto un punteggio di 96,75 in IFEval, 74,69 in IFBench e 84,38 in Multi-IF. Questi risultati dimostrano la capacità del modello di seguire le istruzioni complesse e precise, un aspetto fondamentale per l'efficienza degli agenti.
Le stesse tabelle dei benchmark mostrano che i modelli più grandi messi a confronto mantengono un vantaggio nei benchmark incentrati sulla conoscenza, come GPQA Diamond, HLE e AA-Omniscience. Analogamente, i modelli più grandi hanno mostrato prestazioni superiori in quelli di programmazione, come SciCode e SWE-Bench Verified con OpenCode, dove Qwen3.6-35B-A3B ha ottenuto 66,20 contro 51,00 per LFM2.5-24B-A2B.
Consigli per l'uso
Considerando i risultati, Liquid AI consiglia di affiancare al modello il recupero di informazioni o la ricerca sul web per i carichi di lavoro che richiedono molta conoscenza. Secondo l'azienda, ciò valorizza la capacità del modello di chiamare gli strumenti e di integrarsi con altre fonti di dati per fornire risposte più complete e accurate.
Inferenza, formati e accesso
LFM2.5-24B-A2B offre supporto per diverse librerie di inferenza fin dal primo giorno, tra cui llama.cpp, MLX, vLLM, SGLang e ONNX. I checkpoint sono pubblicati in diversi formati, inclusi nativo, FP8, GGUF, ONNX e MLX-4bit, per adattarsi alle diverse esigenze tecniche degli sviluppatori.
Su hardware edge, Liquid AI ha riferito velocità di decodifica di 184 token al secondo su un Apple M5 Max e di 114 token al secondo su un AMD Ryzen AI Max+ 395. Queste prestazioni sono fino a 1,7 volte superiori a quelle del modello mixture-of-experts comparabile con il secondo miglior risultato, utilizzando al contempo la quantità di memoria più bassa, pari a 15 GB su M5 Max.
Le misurazioni sono state effettuate sull'infrastruttura di benchmarking Pipette dell'azienda con llama.cpp, quantizzazione Q4KM e un contesto di input di 4K token. Su GPU, l'azienda riferisce un throughput superiore a 21.000 token di output al secondo, con una concorrenza di 1.024, su una singola NVIDIA B300. Questa misura è stata effettuata con SGLang 0.5.22 in BF16, con 1.024 token di input e fino a 256 token di output. Liquid AI descrive LFM2.5-24B-A2B come il modello più veloce della sua fascia dimensionale.
Parametri di generazione e utilizzo
Il modello funziona con transformers 5.0.0 o versioni successive. Per l'inferenza è consigliabile utilizzare i seguenti parametri di generazione: temperatura 0,1, top-k 50 e penalità di ripetizione 1,05. Può essere eseguito localmente dietro qualsiasi backend compatibile con OpenAI e collegato a framework per agenti, tra cui Hermes Agent, OpenClaw e Pi.
La scheda del modello descrive un flusso di chiamata alle funzioni in quattro passaggi. In questo flusso, le chiamate in stile Python vengono inserite tra speciali token di chiamata agli strumenti, permettendo all'agente di interagire con l'ambiente esterno in modo strutturato. Per l'inferenza ospitata, Liquid AI applica al modello, tramite la propria API Liquid Console, una tariffa di 0,10 dollari per milione di token di input, 0,05 dollari per l'input memorizzato nella cache e 1,00 dollaro per milione di token di output, con 2 dollari di credito all'iscrizione.
Un modello bozza DSpark per la decodifica speculativa con SGLang è indicato come in arrivo, promettendo ulteriori miglioramenti nelle prestazioni di generazione in futuro.