Moonshot AI Rilascia Kimi K3, un Modello MoE Open a 2.8 Trilioni Di Parametri Con Funzionalità Avanzate

Moonshot AI ha appena rilasciato Kimi K3, un modello di intelligenza artificiale open che include 2.8 trilioni di parametri e una finestra di contesto di un milione di token. Secondo Moonshot, Kimi K3 rappresenta la prima volta in cui un modello aperto raggiunge questa capacità di scala, battendo i precedenti modelli di Kimi per dimensioni e efficienza.

Che cos’è Kimi K3?

Kimi K3 è un modello di tipo sparsa Mixture-of-Experts (MoE), basato su due aggiornamenti strutturali: Delta Attention di Kimi (KDA) e Residuali di Attenzione (AttnRes). Questi elementi modificano come le informazioni viaggiano all’interno della struttura del modello e lo profondità, mirando a compiti di lunga durata come l’automazione, la programmazione, e la ricerca complessa.

Moonshot sottolinea che Kimi K3 supera in modo consistente diversi modelli concorrenti all’interno del proprio set di valutazione, benché le sue prestazioni non raggiungano le capacità più avanzate dei modelli proprietari come Claude Fable 5 e GPT 5.6 Sol. Nonostante ci siano delle limitazioni in alcuni benchmark specifici, il modello mostra una significativa leadership in contesti come la programmazione e l’esecuzione automatizzata.

L’architettura dietro Kimi K3

La tecnologia fondamentale è KDA, un meccanismo che permette decodifiche fino a 6.3 volte più veloci con un milione di token. La funzionalità AttnRes contribuisce migliorando l’efficienza durante il training con un minimo di overhead.

L'efficienza del modello è ulteriormente sostenuta attraverso una combinazione di tecnologie spazio-efficienti e ottimizzazioni di routing avanzate. L'implementazione Quantile Balancing e Per-Head Muon rende possibile la gestione ottimizzata delle risorse interne del modello. Gli strumenti come il SiTU e il Gated MLA migliorano controllo e attenzione di attivazione.

Addestramento efficace

Gli aggiornamenti strutturali vengono affiancati da nuove tecnologie di training che migliorano l’efficienza generale. Questi miglioramenti portano a una scalabilità totale del modello fino a 2.5 volte maggiore rispetto a Kimi K2. L'utilizzo di MXFP4 e MXFP8 per l'architettura consente la compatibilità con una vasta gamma di hardware.

Per il deployment efficace, Moonshot raccomanda l’uso di configurazioni con almeno 64 acceleratori. Gli sviluppatori hanno anche contribuito a ottimizzare e implementare vLLM con modifiche dedicate a KDA.

Prestazioni su benchmark

I punteggi di Kimi K3 su diversi benchmark dimostrano il potenziale del modello:

• BrowseComp – Kimi K3 ottiene il 91.2%, in confronto al 88.0% di Fable 5 e al 90.4% di GPT 5.6 Sol
• SWE Marathon – Kimi K3 ottiene 42.0%, battendo la concorrenza
• OmniDocBench – Risultato di 91.1%, posizionandosi tra i leader
• Program Bench – Kimi K3 ottiene 77.8%, con un vantaggio su Fable 5
• FrontierSWE – Kimi K3 è leggermente più basso, con un risultato del 81.2% rispetto al 86.6% di Fable 5

Applicazioni e casi d'uso

Kimi K3 è ideale per scenari complessi e richiede poca supervisione umana:

• Progetti di ingegneria su larga scala – utilizzo prolungato senza interruzioni
• Gestione visiva in tempo reale – iterazione tra codice e screenshot
• Riproduzione di ricerca – realizzazione di progetti multi-pagine
• Rapporti di ricerca profondi – analisi approfondita di documenti lunghi
• Parsing automatico – gestione di diversi tipi di documenti strutturati

Accesso e utilizzo

Kimi K3 è accessibile tramite il sito Kimi.com e i prodotti collegati, con un’interfaccia analogo alla SDK di OpenAI utilizzando un base URL dedicato:

from openai import OpenAI
import os

client = OpenAI(apikey=os.environ["MOONSHOTAPI_KEY"],
base_url="https://api.moonshot.ai/v1")

completion = client.chat.completions.create(
model="kimi-k3",
reasoning_effort="max",
messages=[{"role": "user", "content": "Introduce Kimi K3 in one sentence."}],
)
print(completion.choices[0].message.content)

Per utilizzare Kimi K3, bisogna settare il reasoningeffort a max, evitando di usare il parametro thinking e altri parametri come temperature, topp, o n. La risposta di completamento può raggiungere fino a 1048576 token in contesti lunghi.

Costi di utilizzo

Gli utenti devono considerare i seguenti prezzari:

• Cache-hit input: 0.30 $/MTok
• Cache-miss input: 3.00 $/MTok
• Output: 15.00 $/MTok

Nei contesti di programmazione, l'alto tasso di cache hit (oltre il 90%) riduce significativamente i costi per gli utenti.

Punti chiave

Ecco i punti chiave riguardo a Kimi K3:

• Attiva 16 esperti di 896 per un modello efficiente da 2.8 trilioni di parametri
• KDA e AttnRes migliorano le prestazioni fino a 2.5 volte rispetto a K2
• Punteggio leader in benchmark come BrowseComp, SWE Marathon, e OmniDocBench
• Utilizza un framework compatibile con SDK di OpenAI e prezzo base di $0.30/MTok con cache-hit

Per ulteriori informazioni, visitate la sezione Risorse tecniche e testate Kimi K3 direttamente con il link Prova qui