Tencent presenta il modello Hy3 Apache 2.0 che supera la concorrenza eccetto per la programmazione
Tencent Ha rimosso un ostacolo importante per l'utilizzo dei grandi modelli linguistici in aziende internazionali, rilasciando Hy3, un modello linguistico open-source con licenza Apache 2.0. Hy3 dispone di 295 miliardi di parametri complessivi ed ha 21 miliardi di parametri attivi per ogni passo in avanti. I team aziendali hanno evidenziato che i modelli cinesi, sebbene potenti, erano spesso vietati in diversi mercati a causa delle restrizioni geografiche. La licenza Apache 2.0 apre quindi la strada a un utilizzo più ampio.
Il cambiamento più significativo rispetto alla versione preview di Hy3, rilasciata nel mese di aprile, è il percorso verso la maturità, supportato da una serie di feedback raccolti da più di 50 squadre interne di Tencent, che hanno contribuito a perfezionare il modello. Dall’analisi del "model card", emergono miglioramenti nei compiti esecutivi, interazione e pipeline post-addestrativa. Tencent ha anche espanso la capacità del modello di predire multi-token con un layer di 3,8 miliardi di parametri, mantenendo un’ampia finestra di contesto di 256K.
Come si confronta Hy3 con i modelli concorrenti?
Hy3 si distingue per dimensioni ridotte rispetto ai diretti concorrenti ma offre una performance competitiva o addirittura superiore in diversi settori. Per esempio, il modello rilasciato da Zhipu AI, GLM-5.2, ha mostrato una leadership chiara in ambito di programmazione. GLM-5.2 ha una capacità maggiore (744 miliardi di parametri con 40 miliardi di parametri attivi per token), risultando di fatto un modello più pesante da gestire. Hy3, pur essendo la metà della dimensione e con meno computo per token, eccelle in settori legati alla ricerca, orchestrazione degli strumenti, valutazione degli agenti e recupero contestuale.
I test umani parlano di Hy3
Nel confronto tra Hy3 e GLM-5.1, Tencent ha condotto un test cieco effettuato da 270 esperti attraverso flussi di lavoro reali. Hy3 ha ottenuto 2.67 rispetto al 2.51 di GLM-5.1, dimostrando maggiori vantaggi in frontend development, CI/CD e gestione dati e storage.
I dati mostrano però una differenza significativa quando si confrontano con le versioni più recenti dei modelli, soprattutto GLM-5.2, che mantiene una leadership netta nel settore della programmazione. Hy3 non riesce a eguagliare le performance in test come
- SWE-bench Verified (GLM-5.2: 84.2 vs. Hy3: 78.0),
- SWE-bench Multilingual (GLM-5.2: 83.0 vs. Hy3: 75.8),
- Terminal-Bench 2.1 (GLM-5.2: 81 vs. Hy3: 71.7),
- DeepSWE (GLM-5.2: 46.2 vs. Hy3: 28.0).
Punti di forza di Hy3
Tencent ha evidenziato i casi in cui Hy3 eccelle rispetto alla concorrenza open-source, ottenendo risultati di alto livello in diversi benchmark:
- BrowseComp: 84.2
- DeepSearchQA: 91.0
- MCP-Atlas: 79.1 (risultato leader tra modelli aperti)
- ClawEval (test di agenti)
- AA-LCR: 73.4 (ricerca contestuale lunga)
I dati sull'affidabilità di Hy3
L’affidabilità è un punto cruciale per il mercato enterprise. Tencent ha registrato notevoli miglioramenti interni rispetto alla versione in anteprima. I modelli rilevano che:
- Il tasso di “hallucination” è sceso da 12.5% a 5.4%.
- Gli errori di senso comune sono diminuiti da 25.4% a 12.7%.
- Nella gestione di conversazioni a più round, il tasso di errori si è ridotto da 17.4% a 7.9%.
- Il punteggio nel benchmark MRCR è migliorato da 42.9% a 75.1%.
I fattori tecnici che Tencent cita per questi miglioramenti includono una pulizia rigorosa dei dati e vincoli di addestramento focalizzati, come la capacità di rispondere solo quando basati su informazioni concrete, non confluire le fonti e non inventare dati.
Analisi economica di Hy3
I vantaggi tecnici di Hy3 si riflettono in modo netto anche nei benefici economici. La dimensione ridotta e l’ottimizzazione del modello rendono la sua esecuzione meno onerosa rispetto a GLM-5.2. La distribuzione richiede circa un terzo della memoria rispetto a GLM-5.2 e permette un minor costo computazionale per richiesta. Questo rende Hy3 più gestibile su infrastrutture a disposizione delle aziende e più facile da deployare in ambiente produttivo.
Considerazioni geopolitiche e infrastruttura
Tencent ha anche evidenziato la sua attenzione alla scelta dell'hardware. Il modello Hy3 è stato dimensionato per essere eseguito su chip Nvidia H20-3e, una versione più potente progettata per conformarsi alle restrizioni statunitensi sull’esportazione in Cina. Questa scelta non implica un’adesione a restrizioni internazionali, ma una strategia precisa per soddisfare le esigenze di mercati globali. Hy3 funziona ottimamente anche su infrastrutture occidentali come H100, H200 e B200, grazie a tecnologie vLLM e SGLang.
Conclusioni
I dati sostenibili e i miglioramenti tecnici di Hy3 supportano la sua posizione di modello di riferimento per applicazioni aperte, eccetto per il settore specifico della programmazione. La sua affidabilità, l’elevata performance in contesti di ricerca e strumenti esterni, e la struttura economica lo rendono un'alternativa solida per le aziende che cercano modelli open-source performanti, ma con un footprint ridotto.