हम cookies इस्तेमाल करते हैं. Cookies और ब्राउज़र स्टोरेज आपको साइन इन रखते हैं और आपकी प्राथमिकताएं याद रखते हैं। आपकी अनुमति से हम यह भी मापते हैं कि साइट कैसे इस्तेमाल होती है। आप कभी भी । हमारी cookie नीति देखें।
liquid/lfm-3-1.7b:freeऊपर दी गई कीमतों पर आपके बैलेंस से चलता है। नए अकाउंट मुफ्त उपयोग से शुरू होते हैं।
सेटिंग्स
LiquidAI: LFM3-1.7B (मुफ़्त) LiquidAI का एक टेक्स्ट मॉडल है, जिसे api14 पर मॉडल आईडी liquid/lfm-3-1.7b:free से पहचाना जाता है। यह 1.7 अरब पैरामीटर वाला एक कॉम्पैक्ट मॉडल है, जिसे इसके प्रदाता ने एक छोटे टेक्स्ट मॉडल के रूप में स्थापित किया है जिसे एजेंट, टूल कॉलिंग और संरचित आउटपुट के लिए पोस्ट-ट्रेन किया गया है। यह दोनों दिशाओं में केवल टेक्स्ट वाला मॉडल है: यह टेक्स्ट प्रॉम्प्ट स्वीकार करता है और टेक्स्ट प्रतिक्रियाएँ लौटाता है।
मॉडल की कॉन्टेक्स्ट विंडो 262,144 टोकन है, जो इस आकार के मॉडल के लिए बड़ी है और लंबे दस्तावेज़ों, विस्तारित बातचीत, या बड़े टूल आउटपुट को एक ही अनुरोध में संभालने की अनुमति देती है। इसका अधिकतम आउटपुट 8,192 टोकन है। प्रदाता के अनुसार, मॉडल उत्तर देने से पहले तर्क करता है, इसलिए प्रतिक्रियाओं में अंतिम आउटपुट से पहले एक तर्क चरण शामिल हो सकता है। चूँकि इसे एजेंटिक व्यवहार के लिए पोस्ट-ट्रेन किया गया है, टूल कॉलिंग और संरचित आउटपुट इसके डिज़ाइन के अतिरिक्त हिस्से नहीं बल्कि प्राथमिक हिस्से हैं।
ये क्षमताएँ उपयोगों के एक काफ़ी विशिष्ट समूह की ओर संकेत करती हैं। लंबा कॉन्टेक्स्ट लंबे दस्तावेज़ों से सारांश बनाने या जानकारी निकालने, बड़ी कोड फ़ाइलों की समीक्षा करने, और लंबे समय तक चलने वाली बातचीत बनाए रखने के लिए उपयुक्त है जहाँ पिछले टर्न दृष्टि में रहने चाहिए। टूल कॉलिंग इसे एजेंट वर्कफ़्लो के लिए उम्मीदवार बनाती है, जहाँ मॉडल तय करता है कि कौन सा फ़ंक्शन कॉल करना है और किन आर्ग्युमेंट के साथ। संरचित आउटपुट तब मदद करते हैं जब प्रतिक्रिया को किसी स्कीमा के अनुरूप होना चाहिए, उदाहरण के लिए किसी डाउनस्ट्रीम सेवा के लिए फ़ील्ड भरना या मशीन-पठनीय रिकॉर्ड बनाना। तर्क व्यवहार बहु-चरणीय प्रश्नों के लिए उपयोगी है जहाँ एक मध्यवर्ती चरण अंतिम उत्तर को बेहतर बनाता है।
आप मॉडल को api14 के OpenAI-संगत API के माध्यम से मॉडल आईडी liquid/lfm-3-1.7b:free का उपयोग करके कॉल करते हैं, इसलिए मौजूदा OpenAI क्लाइंट लाइब्रेरी और अनुरोध आकार केवल बेस URL और मॉडल नाम बदलने पर काम करते हैं। मॉडल अनुरोध पैरामीटर के एक व्यापक सेट का समर्थन करता है: temperature, top_p, top_k, min_p, frequency_penalty, presence_penalty, repetition_penalty, seed, stop, max_tokens, max_completion_tokens, logprobs, top_logprobs, response_format, structured_outputs, tools, tool_choice, reasoning, और include_reasoning। temperature और top_p जैसे सैंपलिंग नियंत्रण सामान्य जनरेशन को कवर करते हैं, जबकि tools और tool_choice फ़ंक्शन कॉलिंग को चलाते हैं और structured_outputs या response_format उत्तर के आकार को सीमित करते हैं। reasoning और include_reasoning पैरामीटर मॉडल के तर्क चरण से संबंधित हैं, और seed पुनरुत्पादनीय सैंपलिंग का समर्थन करता है।
ध्यान में रखने योग्य मुख्य बाधा आउटपुट की सीमा है: प्रतिक्रियाएँ 8,192 टोकन पर सीमित हैं, भले ही कॉन्टेक्स्ट विंडो बहुत बड़ी है, इसलिए जिन कार्यों में बहुत लंबी एकल प्रतिक्रियाओं की आवश्यकता होती है, उनमें काम को कई कॉल में विभाजित करना पड़ सकता है। मॉडल केवल टेक्स्ट वाला भी है, इसलिए यह इनपुट के रूप में छवियाँ या ऑडियो नहीं ले सकता। जिन वर्कलोड के लिए टूल कॉलिंग और संरचित आउटपुट वाला एक छोटा, कुशल टेक्स्ट मॉडल पर्याप्त है, उनके लिए यह एक उचित विकल्प है; जहाँ कार्य अन्य इनपुट मोडैलिटी या बहुत बड़े आउटपुट बजट पर निर्भर करता है, वहाँ कोई भिन्न मॉडल बेहतर सेवा देगा।
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.chat.completions.create({
"model": "liquid/lfm-3-1.7b:free",
"messages": [
{
"role": "user",
"content": "Explain vector databases in two sentences."
}
]
});
console.log(result.choices[0].message.content);
frequency_penaltyinclude_reasoninglogprobsmax_completion_tokensmax_tokensmin_ppresence_penaltyreasoningrepetition_penaltyresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_ktop_logprobstop_pइस कम्युनिटी में अभी कोई टॉपिक नहीं है। LiquidAI: LFM3-1.7B (free) के बारे में पहला टॉपिक खोलें।