हम cookies इस्तेमाल करते हैं. Cookies और ब्राउज़र स्टोरेज आपको साइन इन रखते हैं और आपकी प्राथमिकताएं याद रखते हैं। आपकी अनुमति से हम यह भी मापते हैं कि साइट कैसे इस्तेमाल होती है। आप कभी भी । हमारी cookie नीति देखें।
inclusionai/ling-3.0-tinyऊपर दी गई कीमतों पर आपके बैलेंस से चलता है। नए अकाउंट मुफ्त उपयोग से शुरू होते हैं।
सेटिंग्स
Ling 3.0 Tiny, inclusionAI का एक टेक्स्ट मॉडल है। यह एक मिश्रण-ऑफ-एक्सपर्ट्स मॉडल है जिसमें कुल 7.9B में से 1.3B सक्रिय पैरामीटर हैं। इसका डिज़ाइन प्रतिक्रियाशील एजेंट, निर्देश-पालन और बहु-चरणीय संवाद को लक्षित करता है, और मॉडल स्विच करने योग्य तर्क व्यवहार का समर्थन करता है। यह टेक्स्ट श्रेणी में आता है, इसलिए इसका उद्देश्य भाषा कार्य है, न कि छवि, ऑडियो या अन्य मीडिया।
मॉडल इनपुट के रूप में टेक्स्ट लेता है और आउटपुट के रूप में टेक्स्ट लौटाता है। इसकी कॉन्टेक्स्ट विंडो 262144 टोकन है, और अधिकतम आउटपुट 250000 टोकन है, जिसका अर्थ है कि एक ही अनुरोध में बहुत लंबे इनपुट और बहुत लंबी जनरेशन दोनों संभव हैं। तर्क को चालू या बंद किया जा सकता है, और सक्षम होने पर तर्क सामग्री को include_reasoning पैरामीटर के माध्यम से अलग से सामने लाया जा सकता है। बड़े कॉन्टेक्स्ट और तुलनात्मक रूप से कम सक्रिय पैरामीटर संख्या का यह संयोजन इसे उन वर्कलोड के लिए उम्मीदवार बनाता है जहां लंबे दस्तावेज़ों के साथ-साथ लेटेंसी और थ्रूपुट मायने रखते हैं।
व्यावहारिक उपयोग इन विशेषताओं से निकलते हैं। प्रतिक्रियाशील एजेंट और टूल-चालित वर्कफ़्लो निर्देश-पालन और tools समर्थन के अनुकूल हैं। बहु-चरणीय संवाद प्रणालियों को लंबे कॉन्टेक्स्ट से लाभ होता है, क्योंकि पिछले चरण और संदर्भ सामग्री प्रॉम्प्ट में बनी रह सकती है। लंबे दस्तावेज़ का सारांशीकरण, निष्कर्षण और प्रश्न उत्तर व्यवहार्य हैं क्योंकि कॉन्टेक्स्ट विंडो बड़ी है। संरचित आउटपुट कार्य response_format के माध्यम से काम करते हैं, और वर्गीकरण या स्कोरिंग कार्य logprobs और top_logprobs का उपयोग कर सकते हैं। तर्क-भारी प्रॉम्प्ट को उन कार्यों में तर्क सक्षम करके संभाला जा सकता है जहां अंतिम उत्तर से पहले चरण-दर-चरण कार्य की आवश्यकता होती है।
आप मॉडल आईडी "inclusionai/ling-3.0-tiny" का उपयोग करके api14 के OpenAI-संगत API के माध्यम से मॉडल को कॉल करते हैं। चूंकि इंटरफ़ेस OpenAI chat completions के स्वरूप का अनुसरण करता है, मौजूदा OpenAI SDK और क्लाइंट base URL को api14 पर इंगित करके और मॉडल आईडी सेट करके काम करते हैं। समर्थित अनुरोध पैरामीटर हैं frequency_penalty, include_reasoning, logprobs, max_tokens, presence_penalty, reasoning, response_format, seed, stop, temperature, tools, top_logprobs और top_p। जनरेशन को सीमित करने के लिए max_tokens का उपयोग करें, शैली और पुनरावृत्ति को नियंत्रित करने के लिए temperature और पेनल्टी पैरामीटर, पुनरुत्पादक सैंपलिंग के लिए seed, और चुने गए अनुक्रमों पर जनरेशन समाप्त करने के लिए stop। Tools फ़ंक्शन कॉलिंग को सक्षम करता है, और response_format आउटपुट संरचना को सीमित करता है।
ऐसे मामले हैं जहां कोई अन्य मॉडल बेहतर फिट हो सकता है। यह मॉडल केवल टेक्स्ट संभालता है, इसलिए जिन कार्यों में छवि या ऑडियो इनपुट या आउटपुट की आवश्यकता होती है, उनके लिए एक अलग मॉडल चाहिए। यह एक tiny वेरिएंट है, इसलिए यदि कोई कार्य सबसे मजबूत संभव तर्क या ज्ञान की मांग करता है, तो उसी परिवार या किसी अन्य प्रदाता का बड़ा मॉडल बेहतर विकल्प हो सकता है। समर्थित पैरामीटर के भीतर सीधे टेक्स्ट जनरेशन, एजेंट और लंबे-कॉन्टेक्स्ट कार्य के लिए, यह एक उचित डिफ़ॉल्ट है।
इस कम्युनिटी में अभी कोई टॉपिक नहीं है। inclusionAI: Ling 3.0 Tiny के बारे में पहला टॉपिक खोलें।
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.chat.completions.create({
"model": "inclusionai/ling-3.0-tiny",
"messages": [
{
"role": "user",
"content": "Explain vector databases in two sentences."
}
]
});
console.log(result.choices[0].message.content);
frequency_penaltyinclude_reasoninglogprobsmax_tokenspresence_penaltyreasoningresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_logprobstop_p