Meta: Llama 3.1 70B Instruct contro Tencent: Hy3 preview
Un confronto fianco a fianco tra Meta: Llama 3.1 70B Instruct (2,52 USD / 1M token (≈ 2,24 €)) e Tencent: Hy3 preview (0,63 USD / 1M token (≈ 0,56 €)) con i prezzi in USD e le funzionalità aggiornati dal catalogo di api14. Entrambi funzionano con la stessa API compatibile OpenAI.
Specifiche
| Meta: Llama 3.1 70B Instruct | Tencent: Hy3 preview | |
|---|---|---|
| Fornitore | Meta | Tencent |
| Ingresso | 2,52 USD / 1M token (≈ 2,24 €) | 0,63 USD / 1M token (≈ 0,56 €) |
| Uscita | 2,52 USD / 1M token (≈ 2,24 €) | 2,10 USD / 1M token (≈ 1,87 €) |
| Lettura cache | - | 0,21 USD / 1M token (≈ 0,19 €) |
| Finestra di contesto | 131.072 | 262.144 |
| Output massimo | 8192 | 235.929 |
| Ingresso | text | text |
| Uscita | text | text |
| chiamata di strumenti | ||
| Output strutturato | ||
| Controllo del ragionamento | ||
| Aggiunto | 23 lug 2024 | 22 apr 2026 |
Differenze principali
- Tencent: Hy3 preview costa il 75% in meno sui token di input.
- Tencent: Hy3 preview costa il 17% in meno sui token di output.
- Tencent: Hy3 preview legge 2.0× più contesto (262.144 token).
- Solo Tencent: Hy3 preview supporta chiamata di strumenti.
- Solo Tencent: Hy3 preview supporta controllo del livello di ragionamento.
- Una richiesta con 1.000 token di input e 500 di output costa 0,00378 USD con Meta: Llama 3.1 70B Instruct e 0,00168 USD con Tencent: Hy3 preview.
Nel dettaglio
Meta: Llama 3.1 70B Instruct è un modello testuale di Meta, rilasciato il 2024-07-23. Tencent: Hy3 preview è un modello testuale di Tencent, rilasciato il 2026-04-22. Entrambi sono serviti tramite api14 come modelli in stile chat con un singolo input testuale e output testuale, quindi a livello di struttura base della richiesta sembrano simili. Le differenze emergono nella lunghezza del contesto, nei parametri supportati e nel prezzo.
La divisione più evidente è il contesto. Llama 3.1 70B Instruct ha una finestra di contesto di 131072 token, mentre Hy3 preview la raddoppia a 262096 token, quindi Hy3 preview è quello da scegliere quando il prompt, i documenti o la cronologia della conversazione sono lunghi. Hy3 preview espone anche parametri che Llama 3.1 70B Instruct non ha: include_reasoning, reasoning, reasoning_effort, seed e tools, oltre al supporto per i tool. Questo significa che Hy3 preview è l'unico dei due che può fare tool calling e l'unico con controlli di reasoning. Llama 3.1 70B Instruct supporta max_tokens, stop, temperature, top_k e top_p, che coprono il campionamento ordinario ma nulla di più. Sul prezzo, Hy3 preview è l'opzione più economica sia per i token di input che di output.
Per il lavoro quotidiano, la scelta di solito dipende dal fatto che tu abbia bisogno delle funzionalità extra. Se fai generazione, riassunto, classificazione o chat semplici in cui un prompt fisso entra comodamente e non hai bisogno che il modello chiami funzioni, Llama 3.1 70B Instruct è un'opzione ragionevole e ben compresa e i suoi parametri di campionamento ti danno le solite manopole. Se hai bisogno che il modello chiami tool, se vuoi regolare lo sforzo di reasoning, o se i tuoi input sono abbastanza grandi che una finestra di 131072 token è stretta, Hy3 preview è più adatto, ed è anche il più economico dei due sia in input che in output. Il contesto più ampio e i parametri di reasoning lo rendono il modello più flessibile per carichi di lavoro in stile agente o ad alta intensità di retrieval.
Chiamare l'uno o l'altro tramite api14 funziona allo stesso modo. Entrambi sono compatibili con OpenAI, quindi punti il tuo client esistente all'URL base di api14, invii la tua chiave e imposti il campo model. Per usare Llama 3.1 70B Instruct passi "meta-llama/llama-3.1-70b-instruct" come model id. Per usare Hy3 preview passi "tencent/hy3-preview". Tutto il resto nel corpo della richiesta resta com'è, e la risposta torna nella stessa forma. Passare dall'uno all'altro è un cambiamento di una riga, il che rende facile testare entrambi sui tuoi prompt prima di impegnarti.
C'è ancora un caso per Llama 3.1 70B Instruct anche se Hy3 preview è più economico e ha più funzionalità. Se il tuo carico di lavoro è generazione di testo semplice senza chiamate a tool e senza bisogno di controlli di reasoning, e i tuoi prompt entrano in 131072 token, allora i parametri extra su Hy3 preview non ti danno nulla, e puoi scegliere l'uno o l'altro senza perdere nulla a livello funzionale. In quella situazione la decisione riguarda soprattutto quali output del modello preferisci sui tuoi dati, cosa che solo la tua valutazione può stabilire.
Cambia modello con una stringa
Entrambi i modelli usano lo stesso endpoint e la stessa struttura di richiesta. Cambia il valore di model da "meta-llama/llama-3.1-70b-instruct" a "tencent/hy3-preview", prompt, streaming e tool continuano a funzionare.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.chat.completions.create({
"model": "tencent/hy3-preview",
"messages": [
{
"role": "user",
"content": "Explain vector databases in two sentences."
}
]
});
console.log(result.choices[0].message.content);
Altri confronti
- LiquidAI: LFM3-1.7B contro Ricursive: Ripple 65B Preview
- LiquidAI: LFM3-1.7B contro Crouton Alpha
- LiquidAI: LFM3-1.7B contro Tencent: Hy4
- LiquidAI: LFM3-1.7B contro Z.ai: GLM 5.3 FlashX Legal
- Ricursive: Ripple 65B Preview contro Crouton Alpha
- Ricursive: Ripple 65B Preview contro Tencent: Hy4
- Ricursive: Ripple 65B Preview contro Z.ai: GLM 5.3 FlashX Legal
- Crouton Alpha contro Tencent: Hy4