हम cookies इस्तेमाल करते हैं. Cookies और ब्राउज़र स्टोरेज आपको साइन इन रखते हैं और आपकी प्राथमिकताएं याद रखते हैं। आपकी अनुमति से हम यह भी मापते हैं कि साइट कैसे इस्तेमाल होती है। आप कभी भी । हमारी cookie नीति देखें।

Meta: Llama 3.1 8B Instruct

meta-llama/llama-3.1-8b-instruct

टेक्स्टइनपुट: textTools131K23 जुल॰ 2024 को जोड़ा गया

playground में खोलें Meta: Llama 3.1 8B Instruct के लिए API key पाएं

Meta: Llama 3.1 8B Instruct अभी आज़माएं

ऊपर दी गई कीमतों पर आपके बैलेंस से चलता है। नए अकाउंट मुफ्त उपयोग से शुरू होते हैं।

एक API. हर मॉडल.

आज 5 में से 5 मुफ्त मैसेज बाकी, मुफ्त अकाउंट से अतिरिक्त मुफ्त उपयोग और API key मिलती है।मुफ्त अकाउंट बनाएं साइन इन

सेशन लागत $0.00

Meta: Llama 3.1 8B Instruct एक नज़र में

इनपुट कीमत 434 टेक्स्ट मॉडल के मीडियन से 89% कम है।
1,31,072 tokens की context window, लंबे दस्तावेज़ों और कई चरणों वाली बातचीत के लिए काफी।
agents और integrations के लिए tool (function) calling सपोर्ट करता है।
schema के साथ structured JSON output सपोर्ट करता है।
एक सामान्य request (1,000 इनपुट / 500 आउटपुट tokens) की लागत लगभग $0.000315 है।

Meta: Llama 3.1 8B Instruct के बारे में

मेटा: Llama 3.1 8B Instruct, Meta का एक इंस्ट्रक्शन-ट्यून्ड टेक्स्ट मॉडल है, जो जुलाई 2024 में लॉन्च हुए Llama 3.1 परिवार का हिस्सा है। 8B आकार उस परिवार के छोटे सिरे पर बैठता है, जो इसे एक उचित डिफ़ॉल्ट बनाता है जब आप बहुत बड़े मॉडल के भार के बिना एक सक्षम सामान्य प्रयोजन सहायक चाहते हैं। यह केवल टेक्स्ट वाला मॉडल है, इसलिए यह चैट, ड्राफ्टिंग, एक्सट्रैक्शन और इसी तरह के भाषा कार्यों के लिए अच्छी तरह काम करता है, न कि छवियों या ऑडियो से जुड़े किसी काम के लिए।

मॉडल टेक्स्ट लेता है और टेक्स्ट लौटाता है। यह 131,072 टोकन की कॉन्टेक्स्ट विंडो का समर्थन करता है, जो इतनी बड़ी है कि एक ही अनुरोध में लंबे दस्तावेज़, विस्तारित बातचीत या बड़ी कोड फ़ाइलें रख सके। अधिकतम आउटपुट 117,964 टोकन है, इसलिए उस विंडो के भीतर लंबी जनरेशन संभव है। इसका नॉलेज कटऑफ 2023-12-31 है, यानी उस तारीख के बाद की घटनाएँ और जानकारी इसके प्रशिक्षण डेटा का हिस्सा नहीं हैं। जहाँ सटीकता हाल के तथ्यों पर निर्भर करती है, वहाँ आपको मॉडल की स्मृति पर निर्भर रहने के बजाय प्रासंगिक कॉन्टेक्स्ट खुद देना चाहिए।

ये विशेषताएँ कुछ व्यावहारिक उपयोगों की ओर इशारा करती हैं। लंबे इनपुट पर सारांश बनाना और प्रश्न उत्तर देना बड़ी कॉन्टेक्स्ट विंडो के साथ अच्छी तरह मेल खाता है। इंस्ट्रक्शन फॉलोइंग इसे चैट सहायक, रीराइटिंग, वर्गीकरण और अव्यवस्थित टेक्स्ट से संरचित डेटा एक्सट्रैक्शन के लिए उपयुक्त बनाती है। चूँकि यह टूल्स और संरचित आउटपुट स्वीकार करता है, यह ऐसी पाइपलाइन में तर्क चरण के रूप में भी काम कर सकता है जो फ़ंक्शन कॉल करती है या JSON लौटाती है। 8B आकार विलंबता और संसाधन उपयोग को तुलनात्मक रूप से कम रखता है, जो तब मदद करता है जब आप कई अनुरोध चला रहे हों या बड़े मॉडल पर प्रतिबद्ध होने से पहले किसी विचार का प्रोटोटाइप बना रहे हों।

आप इसे api14 के OpenAI-संगत API के माध्यम से मॉडल आईडी meta-llama/llama-3.1-8b-instruct का उपयोग करके कॉल कर सकते हैं। अपने मौजूदा OpenAI क्लाइंट को api14 के बेस URL पर इंगित करें और उस आईडी को model फ़ील्ड में पास करें। मॉडल frequency_penalty, logit_bias, logprobs, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k, top_logprobs और top_p स्वीकार करता है। यह सामान्य सैंपलिंग नियंत्रणों के साथ टूल कॉलिंग, संरचित आउटपुट और seed के जरिए पुनरुत्पादक रन को कवर करता है।

एक बात जिस पर विचार करना है वह है नॉलेज कटऑफ और मॉडल का आकार। यदि आपके कार्य को 2023-12-31 के बाद के तथ्यों की आवश्यकता है, तो उन्हें प्रॉम्प्ट में या रिट्रीवल के माध्यम से देने की योजना बनाएँ। यदि आपको छवि या ऑडियो इनपुट चाहिए, तो यह मॉडल इसे स्वीकार नहीं करता, और एक मल्टीमॉडल मॉडल बेहतर फिट होगा। सबसे कठिन तर्क या सबसे मांगलिक जनरेशन गुणवत्ता के लिए, उसी परिवार का एक बड़ा मॉडल आपके लिए बेहतर हो सकता है, जबकि यह 8B संस्करण उच्च मात्रा, कम जटिलता वाले काम के लिए एक ठोस विकल्प बना हुआ है।

Meta: Llama 3.1 8B Instruct API कैसे कॉल करें

अपने dashboard में API key बनाएं।
अपनी भाषा के लिए आधिकारिक openai SDK इंस्टॉल करें।
baseURL को https://api14.com/api/v1 और model को "meta-llama/llama-3.1-8b-instruct" पर सेट करें।

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api14.com/api/v1",
  apiKey: process.env.API14_API_KEY,
});

const result = await client.chat.completions.create({
  "model": "meta-llama/llama-3.1-8b-instruct",
  "messages": [
    {
      "role": "user",
      "content": "Explain vector databases in two sentences."
    }
  ]
});
console.log(result.choices[0].message.content);

समर्थित parameters

frequency_penaltylogit_biaslogprobsmax_tokensmin_ppresence_penaltyrepetition_penaltyresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_ktop_logprobstop_p

स्पेसिफिकेशन

Context लंबाई: 1,31,072
अधिकतम आउटपुट: 1,17,964
इनपुट: text
आउटपुट: text
Knowledge cutoff: 2023-12-31

api14 पर requests · पिछले 7 दिन

Meta: Llama 3.1 8B Instruct: अक्सर पूछे जाने वाले सवाल

Meta: Llama 3.1 8B Instruct API की कीमत कितनी है?: Meta: Llama 3.1 8B Instruct की कीमत इनपुट $0.18 / 1M tokens है। शुल्क आपके USD बैलेंस से सिर्फ सफल requests के लिए कटता है; फेल हुई requests मुफ्त हैं।
Meta: Llama 3.1 8B Instruct की context window कितनी है?: Meta: Llama 3.1 8B Instruct हर request में 1,31,072 tokens तक पढ़ता है, prompt, इतिहास और दस्तावेज़ मिलाकर। यह हर जवाब में 1,17,964 आउटपुट tokens तक लिखता है।
Meta: Llama 3.1 8B Instruct क्या कर सकता है?: Meta: Llama 3.1 8B Instruct text स्वीकार करता है और text लौटाता है। यह tool calling, structured JSON output सपोर्ट करता है।
अपने कोड से Meta: Llama 3.1 8B Instruct कैसे कॉल करूं?: किसी भी OpenAI SDK को https://api14.com/api/v1 पर पॉइंट करें और model को "meta-llama/llama-3.1-8b-instruct" पर सेट करें, कोड में और कोई बदलाव नहीं। इस पेज के कोड पैनल से तैयार उदाहरण कॉपी करें।
Meta: Llama 3.1 8B Instruct के विकल्प क्या हैं?: मिलती-जुलती कीमत वाले टेक्स्ट मॉडल: Mistral: Mistral Small 3, IBM: Granite 4.0 Micro, Nex AGI: Nex-N2.5-Mini। सभी एक ही API key से चलते हैं, इसलिए बदलना बस एक string बदलना है।

Meta: Llama 3.1 8B Instruct कम्युनिटी

नया टॉपिक

इस कम्युनिटी में अभी कोई टॉपिक नहीं है। Meta: Llama 3.1 8B Instruct के बारे में पहला टॉपिक खोलें।