हम cookies इस्तेमाल करते हैं. Cookies और ब्राउज़र स्टोरेज आपको साइन इन रखते हैं और आपकी प्राथमिकताएं याद रखते हैं। आपकी अनुमति से हम यह भी मापते हैं कि साइट कैसे इस्तेमाल होती है। आप कभी भी । हमारी cookie नीति देखें।
cohere/rerank-5-fastऊपर दी गई कीमतों पर आपके बैलेंस से चलता है। नए अकाउंट मुफ्त उपयोग से शुरू होते हैं।
सेटिंग्स
Cohere: Rerank 5 Fast, Cohere का एक रीरैंकिंग मॉडल है, जिसे कंपनी के Rerank 5 परिवार के कम विलंबता वाले स्तर के रूप में प्रस्तुत किया गया है। यह टेक्स्ट उत्पन्न करने के बजाय किसी क्वेरी के सापेक्ष उम्मीदवार दस्तावेजों को स्कोर करता है और पुनः क्रमित करता है, जिससे यह सर्च या RAG पाइपलाइन के जनरेशन चरण के बजाय रिट्रीवल चरण में आता है।
यह मॉडल टेक्स्ट इनपुट के साथ काम करता है और रीरैंक आउटपुट देता है, यानी इसकी प्रतिक्रिया नई सामग्री नहीं, बल्कि आपके द्वारा दिए गए दस्तावेजों का क्रम होती है। यह 32768 टोकन की कॉन्टेक्स्ट लंबाई का समर्थन करता है, और इसका अधिकतम आउटपुट 29491 है। चूंकि यह स्कोरिंग और पुनः क्रमण के लिए बनाया गया है, यह वे सैंपलिंग या जनरेशन पैरामीटर नहीं लेता जिनकी आप चैट मॉडल से अपेक्षा करते हैं।
व्यावहारिक उपयोग के मामले सीधे इसी व्यवहार से निकलते हैं। यदि आप वेक्टर सर्च या कीवर्ड सर्च जैसा प्रथम-चरण रिट्रीवर चलाते हैं, तो Rerank 5 Fast उसके द्वारा लौटाए गए शीर्ष उम्मीदवारों को लेकर उन्हें इस तरह पुनः क्रमित कर सकता है कि सबसे प्रासंगिक दस्तावेज सबसे ऊपर रहें। इससे आप जो डाउनस्ट्रीम उत्तर जनरेटर को देते हैं उसकी गुणवत्ता बेहतर होती है, और यह तब भी मदद करता है जब आप सर्च परिणाम सीधे उपयोगकर्ता को दिखाते हैं। कम विलंबता वाला स्तर उच्च थ्रूपुट रिट्रीवल के लिए लक्षित है, इसलिए यह उन पाइपलाइनों में फिट बैठता है जो बहुत सारी क्वेरी भेजती हैं और हर एक पर धीमा रीरैंकिंग चरण वहन नहीं कर सकतीं।
आप इसे api14 के OpenAI-संगत API के माध्यम से मॉडल id "cohere/rerank-5-fast" का उपयोग करके कॉल करते हैं। चूंकि एंडपॉइंट OpenAI प्रारूप का पालन करता है, आप मौजूदा OpenAI क्लाइंट लाइब्रेरी को api14 की ओर इंगित कर सकते हैं और उस id को मॉडल के रूप में पास कर सकते हैं। मॉडल कोई समर्थित पैरामीटर सूचीबद्ध नहीं करता, इसलिए अनुरोध ट्यूनिंग विकल्पों के बजाय मॉडल id के साथ आपकी क्वेरी और उम्मीदवार दस्तावेजों पर निर्भर करते हैं।
चूंकि Rerank 5 Fast केवल आपके द्वारा दिए गए दस्तावेजों को पुनः क्रमित करता है, यह तब उपयुक्त नहीं है जब आपको टेक्स्ट जनरेशन, सारांशीकरण या किसी प्रॉम्प्ट पर रीजनिंग चाहिए। ऐसे कार्यों के लिए जनरेटिव मॉडल चाहिए, और यदि रिट्रीवल गुणवत्ता मायने रखती है तो उससे पहले रीरैंकिंग लागू की जा सकती है।
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/rerank", { body: {
"model": "cohere/rerank-5-fast",
"query": "What is the capital of France?",
"documents": [
"Paris is the capital of France.",
"Berlin is in Germany."
],
"top_n": 1
} });
console.log(result.results);
इस कम्युनिटी में अभी कोई टॉपिक नहीं है। Cohere: Rerank 5 Fast के बारे में पहला टॉपिक खोलें।