Meta: Llama 3.1 70B Instruct karşı Tencent: Hy3 preview
Meta: Llama 3.1 70B Instruct ($2,52 / 1M token (≈ ₺126,19)) ve Tencent: Hy3 preview ($0,63 / 1M token (≈ ₺31,55)) modellerinin api14 kataloğundaki güncel USD fiyatları ve yetenekleriyle yan yana karşılaştırması. İkisi de aynı OpenAI uyumlu API üzerinden çalışır.
Teknik özellikler
| Meta: Llama 3.1 70B Instruct | Tencent: Hy3 preview | |
|---|---|---|
| Sağlayıcı | Meta | Tencent |
| Girdi | $2,52 / 1M token (≈ ₺126,19) | $0,63 / 1M token (≈ ₺31,55) |
| Çıktı | $2,52 / 1M token (≈ ₺126,19) | $2,10 / 1M token (≈ ₺105,16) |
| Önbellek okuma | - | $0,21 / 1M token (≈ ₺10,52) |
| Bağlam penceresi | 131.072 | 262.144 |
| Maks. çıktı | 8.192 | 235.929 |
| Girdi | text | text |
| Çıktı | text | text |
| Araç çağırma | ||
| Yapılandırılmış çıktı | ||
| Akıl yürütme kontrolü | ||
| Eklenme | 23 Tem 2024 | 22 Nis 2026 |
Temel farklar
- Tencent: Hy3 preview girdi tokenlarında 75% daha ucuz.
- Tencent: Hy3 preview çıktı tokenlarında 17% daha ucuz.
- Tencent: Hy3 preview 2.0× daha fazla bağlam okur (262.144 token).
- araç çağırma özelliğini yalnızca Tencent: Hy3 preview destekler.
- akıl yürütme düzeyi kontrolü özelliğini yalnızca Tencent: Hy3 preview destekler.
- 1.000 girdi ve 500 çıktı tokenlı bir istek Meta: Llama 3.1 70B Instruct ile $0,00378, Tencent: Hy3 preview ile $0,00168 tutar.
Ayrıntılı bakış
Meta: Llama 3.1 70B Instruct, Meta tarafından 2024-07-23 tarihinde yayımlanan bir metin modelidir. Tencent: Hy3 preview, Tencent tarafından 2026-04-22 tarihinde yayımlanan bir metin modelidir. Her ikisi de api14 üzerinden tek bir metin girişi ve metin çıkışı olan sohbet tarzı modeller olarak sunulur, bu nedenle temel istek yapısı düzeyinde benzer görünürler. Farklar bağlam uzunluğu, desteklenen parametreler ve fiyatta ortaya çıkar.
En belirgin ayrım bağlamdır. Llama 3.1 70B Instruct 131072 token bağlam penceresine sahipken, Hy3 preview bunu ikiye katlayarak 262096 token yapar, bu nedenle isteminiz, belgeleriniz veya konuşma geçmişiniz uzun olduğunda başvurulacak model Hy3 preview olur. Hy3 preview ayrıca Llama 3.1 70B Instruct'un sunmadığı parametreleri de sunar: include_reasoning, reasoning, reasoning_effort, seed ve tools, ayrıca araç desteği. Bu, Hy3 preview'in ikisi arasında araç çağrısı yapabilen tek model ve akıl yürütme kontrollerine sahip tek model olduğu anlamına gelir. Llama 3.1 70B Instruct max_tokens, stop, temperature, top_k ve top_p destekler, bu da sıradan örneklemeyi kapsar ama ötesine geçmez. Fiyat açısından, Hy3 preview hem giriş hem de çıkış tokenları için daha ucuz seçenektir.
Günlük işlerde, seçim genellikle ek özelliklere ihtiyacınız olup olmadığına bağlıdır. Sabit bir istemin rahatça sığdığı ve modelin fonksiyon çağırmasına ihtiyaç duymadığınız basit üretim, özetleme, sınıflandırma veya sohbet yapıyorsanız, Llama 3.1 70B Instruct makul, iyi anlaşılmış bir seçenektir ve örnekleme parametreleri size olağan ayarları verir. Modelin araç çağırmasına ihtiyacınız varsa, akıl yürütme çabasını ayarlamak istiyorsanız veya girdileriniz 131072 token penceresinin dar kaldığı kadar büyükse, Hy3 preview daha uygun bir seçenektir ve ayrıca hem giriş hem de çıkışta ikisi arasında daha ucuz olanıdır. Daha büyük bağlam ve akıl yürütme parametreleri onu ajan tarzı veya erişim yoğun iş yükleri için daha esnek model yapar.
Herhangi birini api14 üzerinden çağırmak aynı şekilde çalışır. İkisi de OpenAI uyumludur, bu nedenle mevcut istemcinizi api14 temel URL'sine yönlendirir, anahtarınızı gönderir ve model alanını ayarlarsınız. Llama 3.1 70B Instruct kullanmak için model kimliği olarak "meta-llama/llama-3.1-70b-instruct" geçirirsiniz. Hy3 preview kullanmak için "tencent/hy3-preview" geçirirsiniz. İstek gövdesindeki diğer her şey olduğu gibi kalır ve yanıt aynı biçimde döner. İkisi arasında geçiş yapmak tek satırlık bir değişikliktir, bu da taahhütte bulunmadan önce her ikisini de kendi istemlerinizle test etmeyi kolaylaştırır.
Hy3 preview daha ucuz ve daha fazla özelliğe sahip olsa da Llama 3.1 70B Instruct için hâlâ bir durum var. İş yükünüz araç çağrısı olmayan ve akıl yürütme kontrollerine ihtiyaç duymayan düz metin üretimiyse ve istemleriniz 131072 token içine sığıyorsa, Hy3 preview'deki ekstra parametreler size hiçbir şey kazandırmaz ve işlevsel olarak hiçbir şey kaybetmeden ikisinden birini seçebilirsiniz. Bu durumda karar çoğunlukla hangi modelin çıktılarını kendi verilerinizde tercih ettiğinizle ilgilidir, ki bunu yalnızca kendi değerlendirmeniz çözebilir.
Tek bir metinle geçiş yap
İki model de aynı uç noktayı ve istek yapısını kullanır. model değerini "meta-llama/llama-3.1-70b-instruct" yerine "tencent/hy3-preview" yap, istemler, akış ve araçlar çalışmaya devam eder.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.chat.completions.create({
"model": "tencent/hy3-preview",
"messages": [
{
"role": "user",
"content": "Explain vector databases in two sentences."
}
]
});
console.log(result.choices[0].message.content);
Diğer karşılaştırmalar
- LiquidAI: LFM3-1.7B karşı Ricursive: Ripple 65B Preview
- LiquidAI: LFM3-1.7B karşı Crouton Alpha
- LiquidAI: LFM3-1.7B karşı Tencent: Hy4
- LiquidAI: LFM3-1.7B karşı Z.ai: GLM 5.3 FlashX Legal
- Ricursive: Ripple 65B Preview karşı Crouton Alpha
- Ricursive: Ripple 65B Preview karşı Tencent: Hy4
- Ricursive: Ripple 65B Preview karşı Z.ai: GLM 5.3 FlashX Legal
- Crouton Alpha karşı Tencent: Hy4