Llama 3.1 70B Instruct vs Hy3 preview: API कीमत, context और फीचर

हम cookies इस्तेमाल करते हैं. Cookies और ब्राउज़र स्टोरेज आपको साइन इन रखते हैं और आपकी प्राथमिकताएं याद रखते हैं। आपकी अनुमति से हम यह भी मापते हैं कि साइट कैसे इस्तेमाल होती है। आप कभी भी । हमारी cookie नीति देखें।

यहां नए हैं? देखें यह कैसे काम करता है प्लेग्राउंड, मॉडल और आपकी API key का 1 मिनट का टूर।

Meta: Llama 3.1 70B Instruct बनाम Tencent: Hy3 preview

api14 कैटलॉग की मौजूदा USD कीमतों और क्षमताओं के आधार पर Meta: Llama 3.1 70B Instruct ($2.52 / 1M टोकन (≈ ₹238.23)) और Tencent: Hy3 preview ($0.63 / 1M टोकन (≈ ₹59.56)) की आमने-सामने तुलना। दोनों एक ही OpenAI-compatible API से चलते हैं।

स्पेसिफिकेशन

	Meta: Llama 3.1 70B Instruct	Tencent: Hy3 preview
प्रोवाइडर	Meta	Tencent
इनपुट	$2.52 / 1M टोकन (≈ ₹238.23)	$0.63 / 1M टोकन (≈ ₹59.56)
आउटपुट	$2.52 / 1M टोकन (≈ ₹238.23)	$2.10 / 1M टोकन (≈ ₹198.53)
कैश रीड	-	$0.21 / 1M टोकन (≈ ₹19.85)
संदर्भ विंडो	1,31,072	2,62,144
अधिकतम आउटपुट	8,192	2,35,929
इनपुट	text	text
आउटपुट	text	text
टूल कॉलिंग
संरचित आउटपुट
Reasoning नियंत्रण
जोड़ा गया	23 जुल॰ 2024	22 अप्रैल 2026

मुख्य अंतर

Tencent: Hy3 preview इनपुट tokens पर 75% सस्ता है।
Tencent: Hy3 preview आउटपुट tokens पर 17% सस्ता है।
Tencent: Hy3 preview 2.0× ज़्यादा context पढ़ता है (2,62,144 tokens)।
सिर्फ Tencent: Hy3 preview टूल कॉलिंग सपोर्ट करता है।
सिर्फ Tencent: Hy3 preview reasoning effort नियंत्रण सपोर्ट करता है।
1,000 इनपुट और 500 आउटपुट tokens वाली request की लागत Meta: Llama 3.1 70B Instruct के साथ $0.00378 और Tencent: Hy3 preview के साथ $0.00168 है।

विस्तार से

मेटा: Llama 3.1 70B Instruct मेटा का एक टेक्स्ट मॉडल है, जिसे 2024-07-23 को जारी किया गया था। टेनसेंट: Hy3 preview टेनसेंट का एक टेक्स्ट मॉडल है, जिसे 2026-04-22 को जारी किया गया था। दोनों को api14 के माध्यम से चैट शैली के मॉडल के रूप में परोसा जाता है, जिसमें एक ही टेक्स्ट इनपुट और टेक्स्ट आउटपुट होता है, इसलिए बुनियादी अनुरोध आकार के स्तर पर वे समान दिखते हैं। अंतर कॉन्टेक्स्ट लंबाई, समर्थित पैरामीटर और कीमत में दिखते हैं।

सबसे स्पष्ट अंतर कॉन्टेक्स्ट का है। Llama 3.1 70B Instruct की कॉन्टेक्स्ट विंडो 131072 टोकन है, जबकि Hy3 preview इसे दोगुना करके 262096 टोकन कर देता है, इसलिए जब आपका प्रॉम्प्ट, दस्तावेज़ या बातचीत का इतिहास लंबा हो, तब Hy3 preview ही चुनना चाहिए। Hy3 preview ऐसे पैरामीटर भी उजागर करता है जो Llama 3.1 70B Instruct नहीं करता: include_reasoning, reasoning, reasoning_effort, seed और tools, साथ ही टूल समर्थन। इसका मतलब है कि Hy3 preview दोनों में से अकेला है जो टूल कॉलिंग कर सकता है और अकेला है जिसमें रीज़निंग नियंत्रण हैं। Llama 3.1 70B Instruct max_tokens, stop, temperature, top_k और top_p का समर्थन करता है, जो सामान्य सैंपलिंग को कवर करता है लेकिन उससे आगे कुछ नहीं। कीमत पर, Hy3 preview इनपुट और आउटपुट दोनों टोकन के लिए सस्ता विकल्प है।

रोज़मर्रा के काम के लिए, चुनाव आमतौर पर इस बात पर निर्भर करता है कि आपको अतिरिक्त सुविधाओं की ज़रूरत है या नहीं। यदि आप सीधा जनरेशन, सारांशीकरण, वर्गीकरण या चैट कर रहे हैं जहाँ एक निश्चित प्रॉम्प्ट आराम से फिट हो जाता है और आपको मॉडल से फ़ंक्शन कॉल कराने की ज़रूरत नहीं है, तो Llama 3.1 70B Instruct एक उचित, सुपरिचित विकल्प है और इसके सैंपलिंग पैरामीटर आपको सामान्य नियंत्रण देते हैं। यदि आपको मॉडल से टूल कॉल कराने की ज़रूरत है, यदि आप रीज़निंग प्रयास को ट्यून करना चाहते हैं, या यदि आपके इनपुट इतने बड़े हैं कि 131072 टोकन की विंडो तंग पड़ती है, तो Hy3 preview बेहतर फिट है, और यह इनपुट और आउटपुट दोनों पर दोनों में से सस्ता भी है। बड़ा कॉन्टेक्स्ट और रीज़निंग पैरामीटर इसे एजेंट शैली या रिट्रीवल भारी वर्कलोड के लिए अधिक लचीला मॉडल बनाते हैं।

api14 के माध्यम से इनमें से किसी को भी कॉल करना एक ही तरह से काम करता है। दोनों OpenAI संगत हैं, इसलिए आप अपने मौजूदा क्लाइंट को api14 बेस URL पर इंगित करते हैं, अपनी कुंजी भेजते हैं, और model फ़ील्ड सेट करते हैं। Llama 3.1 70B Instruct का उपयोग करने के लिए आप मॉडल आईडी के रूप में "meta-llama/llama-3.1-70b-instruct" पास करते हैं। Hy3 preview का उपयोग करने के लिए आप "tencent/hy3-preview" पास करते हैं। अनुरोध बॉडी में बाकी सब कुछ वैसा ही रहता है, और प्रतिक्रिया उसी आकार में वापस आती है। दोनों के बीच स्विच करना एक पंक्ति का बदलाव है, जिससे प्रतिबद्ध होने से पहले दोनों को अपने स्वयं के प्रॉम्प्ट पर परखना आसान हो जाता है।

Hy3 preview के सस्ता होने और अधिक सुविधाएँ होने के बावजूद Llama 3.1 70B Instruct के लिए अभी भी एक तर्क है। यदि आपका वर्कलोड सादा टेक्स्ट जनरेशन है जिसमें कोई टूल कॉल नहीं है और रीज़निंग नियंत्रण की ज़रूरत नहीं है, और आपके प्रॉम्प्ट 131072 टोकन के भीतर फिट हो जाते हैं, तो Hy3 preview के अतिरिक्त पैरामीटर आपको कुछ नहीं देते, और आप कार्यात्मक रूप से कुछ खोए बिना किसी को भी चुन सकते हैं। उस स्थिति में निर्णय ज़्यादातर इस बारे में होता है कि आप अपने स्वयं के डेटा पर किस मॉडल के आउटपुट पसंद करते हैं, जिसे केवल आपका अपना मूल्यांकन ही तय कर सकता है।

एक string से बदलें

दोनों मॉडल एक ही endpoint और request ढांचा इस्तेमाल करते हैं। model की वैल्यू "meta-llama/llama-3.1-70b-instruct" से "tencent/hy3-preview" करें, prompts, streaming और tools पहले की तरह काम करते रहेंगे।

Meta: Llama 3.1 70B Instruct विवरण और प्लेग्राउंड →Tencent: Hy3 preview विवरण और प्लेग्राउंड →

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api14.com/api/v1",
  apiKey: process.env.API14_API_KEY,
});

const result = await client.chat.completions.create({
  "model": "tencent/hy3-preview",
  "messages": [
    {
      "role": "user",
      "content": "Explain vector databases in two sentences."
    }
  ]
});
console.log(result.choices[0].message.content);

Meta: Llama 3.1 70B Instruct बनाम Tencent: Hy3 preview

स्पेसिफिकेशन

मुख्य अंतर

विस्तार से

एक string से बदलें

और तुलनाएं