Jan AI su Mac: guida completa all’LLM locale offline e senza account

Introduzione a Jan AI

Jan AI è un’applicazione desktop open source rilasciata sotto licenza Apache 2.0 che consente di far girare grandi modelli linguistici (LLM) direttamente sul Mac. L’interfaccia è una chat in stile ChatGPT, ma i modelli vengono scaricati e eseguiti localmente, senza bisogno di account o chiavi API esterne. Una volta che il modello è stato scaricato, l’app può funzionare completamente offline, tranne che per la ricerca web integrata, che naturalmente richiede una connessione.

Al 7 ottobre 2026 il progetto, gestito da Menlo Research, contava 44 833 stelle su GitHub e dichiarava 6,9 milioni di download sul sito ufficiale.

Chi ha creato Jan AI

Jan AI è sviluppata da Menlo Research. Il repository su GitHub, denominato janhq, è stato creato il 17 agosto 2023. L’app è disponibile per macOS, Windows e Linux, ma le guide più dettagliate sono orientate al Mac, dove l’app sfrutta al meglio l’hardware Apple Silicon.

Menlo Research si occupa di due componenti fondamentali: l’app, ovvero la "plancia di comando", e i modelli, cioè i motori di intelligenza artificiale. Jan può scaricare e avviare modelli pubblici ospitati su Hugging Face e, inoltre, Menlo pubblica propri modelli ottimizzati per l’ambiente.

Per quanto riguarda la licenza, alcune fonti online citano erroneamente AGPLv3. Il file LICENSE del repository attuale indica Apache 2.0, con obbligo di attribuzione. Ciò consente l’uso, la modifica e l’integrazione anche in progetti commerciali, a condizione di rispettare le clausole previste.

Requisiti hardware per Mac

Jan AI richiede un Mac con chip Apple Silicon (da M1 a M4) e macOS 13.6 o successivo. I Mac basati su Intel non sono supportati. È necessario disporre di almeno 10 GB di spazio libero su disco; la quantità di RAM determina la dimensione massima dei modelli caricabili.

Requisiti di RAM

• 8 GB di RAM: modelli fino a 3 miliardi di parametri; alcuni da 7 miliardi solo con quantizzazioni molto aggressive.
• 16 GB di RAM: modelli da 7 miliardi senza problemi; alcuni da 13 miliardi con quantizzazione ridotta.
• 32 GB di RAM: modelli da 13 miliardi, con margine per contesti lunghi e più app aperte simultaneamente.

La quantizzazione è una tecnica di compressione che riduce il consumo di memoria a scapito di una leggera perdita di qualità nelle risposte. I Mac con soli 8 GB di RAM rappresentano il caso più limitato: è consigliabile testare prima il verificatore di compatibilità per l’IA in locale offerto sul sito di Jan.

Per l’accelerazione hardware, la GPU integrata dei chip Apple (tramite Metal) viene attivata automaticamente. Il motore di calcolo può essere llama.cpp o MLX, il framework di Apple per il machine learning. Supporto a MLX è stato aggiunto nella versione 0.7.7, rilasciata l’11 febbraio 2026.

Installazione passo‑passo

• Scaricare il file .dmg dal sito jan.ai oppure dalla pagina delle release su GitHub (per la versione 0.8.4 si chiama Jan0.8.4universal.dmg).
• Aprire il file e trascinare Jan nella cartella Applicazioni.
• Avviare l’app: al primo avvio Jan scarica automaticamente un modello predefinito.
• Scrivere il primo messaggio nella chat e attendere la risposta.

Il download del modello è l’unico momento in cui è necessaria una connessione internet; i file variano da 1 a diversi gigabyte, quindi è consigliabile usare una linea a buona velocità. Dopo il download, la chat può funzionare completamente offline, fatta eccezione per la ricerca web integrata.

Nota: su Mac Intel l’app si installa ma non è supportata, pertanto si invitano gli utenti a consultare guide alternative per LLM locali sul 2026.

Scelta e download dei modelli

All’interno di Jan è presente l’Hub, un catalogo visuale dove è possibile cercare e scaricare i modelli con un solo clic. L’app supporta anche il download diretto da Hugging Face; secondo la documentazione, sono disponibili più di 123 modelli.

Il criterio principale di scelta è la RAM del proprio Mac, come illustrato nella tabella precedente. Un modello troppo grande non si caricherà o presenterà rallentamenti.

Tra i modelli sviluppati da Menlo, ne vale la pena citare tre:

• Jan‑v3‑4B: modello di terza generazione con 4 miliardi di parametri.
• Jan‑Code‑4B: estensione di Jan‑v3‑4B‑base‑instruct, pensata per compiti di programmazione.
• Jan‑nano: 4 miliardi di parametri, 40 960 token di contesto, ottimizzato per la ricerca approfondita con strumenti MCP. Riferito al test SimpleQA con una precisione del 91,1 % (benchmark interno Menlo).

Il valore del 91,1 % è dichiarato dall’azienda e non verificato da terzi; pertanto è consigliabile testare il modello con le proprie domande.

Chi dispone di 16 GB o più di RAM può sperimentare modelli più grandi, ad esempio Qwen3.8‑27B tramite LM Studio. Poiché Jan supporta tutti i modelli presenti su Hugging Face, è possibile importare anche quelli di dimensioni simili.

Per chi desidera modelli “uncensored” (senza filtri di rifiuto), la guida ufficiale su installare un modello uncensored in locale fornisce i passaggi necessari, inclusi avvisi sui contenuti disponibili su Hugging Face.

Server API locale

Jan AI può fungere da server API locale, consentendo a qualsiasi applicazione compatibile con le API di OpenAI di interagire con il modello scaricato. Per attivarlo, andare in Impostazioni → Local API Server → Start Server. Il server ascolta su http://127.0.0.1:1337/v1, porta 1337, e accetta solo connessioni dal proprio computer.

La documentazione prevede la definizione di una chiave di autenticazione (scegliere liberamente) e CORS attivo di default, così da permettere anche a web‑app locali di chiamare l’API.

Esempio di chiamata con curl:

curl http://127.0.0.1:1337/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer LATUACHIAVE" \
-d '{"model": "IDDELMODELLO", "messages": [{"role": "user", "content": "Ciao"}]}'

Sostituire LATUACHIAVE con la chiave impostata in Jan e IDDELMODELLO con l’identificatore del modello già scaricato. Il vantaggio è evidente: editor di codice, script o tool di automazione possono usare il modello locale senza costi di API, mantenendo i prompt sul proprio hardware.

Integrazione con MCP e strumenti esterni

Il Model Context Protocol (MCP) è uno standard aperto che permette a un modello linguistico di invocare strumenti esterni (browser, filesystem, ecc.). In Jan l’attivazione è presente in Impostazioni → MCP Servers → +, dove si può aggiungere un nuovo server specificando nome, comando e argomenti.

La guida ufficiale all’MCP usa come esempio il Browser MCP, lanciato con npx @browsermcp/mcp e richiede un’estensione Chrome attiva per le finestre private. È necessario avere Node.js, Python o entrambi installati, poiché i server MCP sono programmi autonomi che Jan avvia per conto del modello.

Un requisito fondamentale, spesso scoperto tardi, è che il modello deve supportare il tool calling, ovvero la capacità di riconoscere autonomamente quando è opportuno invocare uno strumento esterno. Non tutti i modelli lo includono, quindi è importante verificare la compatibilità prima di configurare MCP.

Limitazioni e punti deboli

Nonostante le potenzialità, Jan AI presenta ancora alcune criticità:

• Supporto Intel: l’app si installa ma non è garantita la funzionalità su Mac con CPU Intel.
• Quantizzazione: la compressione dei modelli può ridurre la qualità delle risposte, specialmente su hardware con RAM limitata.
• Compatibilità modello‑tool: non tutti i modelli supportano il tool calling, rendendo l’integrazione MCP più complessa.
• Aggiornamenti frequenti: la velocità con cui vengono rilasciate nuove versioni (es. 0.8.4 il 23 luglio 2026) richiede una costante attenzione agli changelog.

Conclusioni

Jan AI rappresenta una delle soluzioni più mature per eseguire LLM in locale su macOS, combinando facilità d’uso, licenza permissiva e supporto nativo per l’hardware Apple Silicon. Con la possibilità di avviare un server API locale, gli sviluppatori possono integrare modelli avanzati nei propri workflow senza costi di terze parti, mentre gli utenti finali beneficiano di una chat privata, offline e senza necessità di account.

Per sfruttare al meglio Jan AI è consigliabile verificare la RAM disponibile, scegliere modelli adeguati, valutare la quantizzazione e, se necessario, configurare MCP per estendere le capacità del modello. La comunità su GitHub è attiva, con migliaia di stelle e una crescita costante dei download, segno di una base di utenti in espansione.