Mistral Svela Large 4: Modello da 1 Bilione di Parametri
Mistral ha presentato Mistral Large 4 con un bilione di parametri, un modello che si distingue per le sue capacità in programmazione, flussi di lavoro automatizzati e comprensione multimodale, oltre che in ambiti critici come la cibersecurity.
La società francese mira a rafforzare la presenza europea nel mercato dei grandi modelli linguistici (LLM) con il suo modello "più grande e potente". Il modello è stato addestrato "da zero" in data center locali utilizzando 3800 GPU Nvidia Grace Blackwell per garantire la privacy e viene migliorato tramite apprendimento per rinforzo.
Con un bilione di parametri e 49 miliardi di parametri attivi, questo modello nativo multimodale viene presentato come Mistral Large 4, anche se il suo nome "ufficiale" è le Chonk (che si traduce in grande, voluminoso, grasso), come spiegato in un comunicato.
Specializzazioni del Modello
Il modello eccelle nella programmazione agente, in particolare nell'ingegneria del software, nella comprensione dei repository e nei flussi di lavoro complessi tramite terminale. Si distingue anche nella comprensione di immagini, come documenti complessi, grafici e immagini naturali, e nell'identificazione visiva. Quest'ultima capacità, combinata con le sue funzionalità di agente, lo rende ideale per l'ingegneria, la manifattura e l'osservazione terrestre.
Performance in Cibersecurity
Secondo Mistral, il modello si distingue anche nelle operazioni critiche, inclusa la cibersecurity. In questo campo, "si posiziona tra i primi cinque a livello mondiale e supera ampiamente i modelli open source sviluppati al di fuori della Cina" nell'Indice Cibernetico di Analisi Intelligenza Artificiale (ABI).
La società afferma che Mistral Large 4 ha ottenuto un punteggio dell'82%, "il più alto tra tutti i modelli", in un test in cui gli è stato chiesto di riprodurre una vulnerabilità reale in un software open source e correggerla. È inoltre in grado di risolvere il 93% delle sfide Cybench.
Disponibilità e Costi
La società pubblicherà i pesi pubblici di Mistral Large 4 alla fine del mese. Attualmente, è disponibile in anteprima pubblica con un costo di 1,36 dollari per un milione di token di input e 4,18 dollari per un milione di token di output.