Meta: Llama 3.1 70B Instruct lawan Tencent: Hy3 preview
Perbandingan berdampingan Meta: Llama 3.1 70B Instruct (US$2,52 / 1 jt token (≈ Rp 45.562)) dan Tencent: Hy3 preview (US$0,63 / 1 jt token (≈ Rp 11.390)) menggunakan harga USD dan kemampuan terkini dari katalog api14. Keduanya berjalan melalui API yang sama dan kompatibel dengan OpenAI.
Spesifikasi
| Meta: Llama 3.1 70B Instruct | Tencent: Hy3 preview | |
|---|---|---|
| Penyedia | Meta | Tencent |
| Masukan | US$2,52 / 1 jt token (≈ Rp 45.562) | US$0,63 / 1 jt token (≈ Rp 11.390) |
| Keluaran | US$2,52 / 1 jt token (≈ Rp 45.562) | US$2,10 / 1 jt token (≈ Rp 37.968) |
| Baca cache | - | US$0,21 / 1 jt token (≈ Rp 3.797) |
| Jendela konteks | 131.072 | 262.144 |
| Output maks. | 8.192 | 235.929 |
| Masukan | text | text |
| Keluaran | text | text |
| panggilan alat | ||
| Output terstruktur | ||
| Pengaturan penalaran | ||
| Ditambahkan | 23 Jul 2024 | 22 Apr 2026 |
Perbedaan utama
- Tencent: Hy3 preview 75% lebih murah untuk token input.
- Tencent: Hy3 preview 17% lebih murah untuk token output.
- Tencent: Hy3 preview membaca konteks 2.0× lebih banyak (262.144 token).
- Hanya Tencent: Hy3 preview yang mendukung panggilan alat.
- Hanya Tencent: Hy3 preview yang mendukung pengaturan tingkat penalaran.
- Permintaan dengan 1.000 token input dan 500 token output berbiaya US$0,00378 dengan Meta: Llama 3.1 70B Instruct dan US$0,00168 dengan Tencent: Hy3 preview.
Lebih mendalam
Meta: Llama 3.1 70B Instruct adalah model teks dari Meta, dirilis pada 2024-07-23. Tencent: Hy3 preview adalah model teks dari Tencent, dirilis pada 2026-04-22. Keduanya dilayani melalui api14 sebagai model bergaya chat dengan satu input teks dan output teks, sehingga pada tingkat bentuk permintaan dasar keduanya terlihat serupa. Perbedaannya muncul pada panjang konteks, parameter yang didukung dan harga.
Pemisahan yang paling jelas adalah konteks. Llama 3.1 70B Instruct memiliki jendela konteks 131072 token, sedangkan Hy3 preview menggandakannya menjadi 262096 token, jadi Hy3 preview adalah pilihan yang tepat ketika prompt, dokumen atau riwayat percakapan Anda panjang. Hy3 preview juga mengekspos parameter yang tidak dimiliki Llama 3.1 70B Instruct: include_reasoning, reasoning, reasoning_effort, seed dan tools, plus dukungan tool. Itu berarti Hy3 preview adalah satu-satunya dari keduanya yang dapat melakukan tool calling dan satu-satunya dengan kontrol reasoning. Llama 3.1 70B Instruct mendukung max_tokens, stop, temperature, top_k dan top_p, yang mencakup sampling biasa tetapi tidak lebih dari itu. Pada harga, Hy3 preview adalah opsi yang lebih murah untuk token input maupun output.
Untuk pekerjaan sehari-hari, pilihan biasanya bergantung pada apakah Anda memerlukan fitur tambahan. Jika Anda melakukan generasi, peringkasan, klasifikasi atau chat yang lugas di mana prompt tetap muat dengan nyaman dan Anda tidak perlu model memanggil fungsi, Llama 3.1 70B Instruct adalah opsi yang wajar dan sudah dipahami dengan baik dan parameter samplingnya memberi Anda tombol pengaturan yang biasa. Jika Anda perlu model memanggil tool, jika Anda ingin menyetel reasoning effort, atau jika input Anda cukup besar sehingga jendela 131072 token terasa sempit, Hy3 preview lebih cocok, dan ini juga yang lebih murah dari keduanya untuk input maupun output. Konteks yang lebih besar dan parameter reasoning membuatnya menjadi model yang lebih fleksibel untuk beban kerja bergaya agen atau yang berat retrieval.
Memanggil salah satu dari keduanya melalui api14 bekerja dengan cara yang sama. Keduanya kompatibel dengan OpenAI, jadi Anda mengarahkan klien yang sudah ada ke base URL api14, mengirim key Anda, dan mengatur field model. Untuk menggunakan Llama 3.1 70B Instruct Anda memberikan "meta-llama/llama-3.1-70b-instruct" sebagai model id. Untuk menggunakan Hy3 preview Anda memberikan "tencent/hy3-preview". Semua hal lain di body permintaan tetap seperti semula, dan responsnya kembali dalam bentuk yang sama. Beralih antara keduanya adalah perubahan satu baris, yang memudahkan untuk menguji keduanya terhadap prompt Anda sendiri sebelum memutuskan.
Masih ada alasan untuk memilih Llama 3.1 70B Instruct meskipun Hy3 preview lebih murah dan memiliki lebih banyak fitur. Jika beban kerja Anda adalah generasi teks biasa tanpa tool call dan tanpa kebutuhan akan kontrol reasoning, dan prompt Anda muat dalam 131072 token, maka parameter tambahan pada Hy3 preview tidak memberi Anda apa pun, dan Anda dapat memilih salah satunya tanpa kehilangan apa pun secara fungsional. Dalam situasi itu keputusannya sebagian besar tentang output model mana yang Anda lebih sukai pada data Anda sendiri, yang hanya dapat ditentukan oleh evaluasi Anda sendiri.
Berganti cukup dengan satu string
Kedua model menggunakan endpoint dan bentuk permintaan yang sama. Ubah nilai model dari "meta-llama/llama-3.1-70b-instruct" ke "tencent/hy3-preview", prompt, streaming, dan tools tetap berfungsi.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.chat.completions.create({
"model": "tencent/hy3-preview",
"messages": [
{
"role": "user",
"content": "Explain vector databases in two sentences."
}
]
});
console.log(result.choices[0].message.content);
Perbandingan lainnya
- LiquidAI: LFM3-1.7B lawan Ricursive: Ripple 65B Preview
- LiquidAI: LFM3-1.7B lawan Crouton Alpha
- LiquidAI: LFM3-1.7B lawan Tencent: Hy4
- LiquidAI: LFM3-1.7B lawan Z.ai: GLM 5.3 FlashX Legal
- Ricursive: Ripple 65B Preview lawan Crouton Alpha
- Ricursive: Ripple 65B Preview lawan Tencent: Hy4
- Ricursive: Ripple 65B Preview lawan Z.ai: GLM 5.3 FlashX Legal
- Crouton Alpha lawan Tencent: Hy4