हम cookies इस्तेमाल करते हैं. Cookies और ब्राउज़र स्टोरेज आपको साइन इन रखते हैं और आपकी प्राथमिकताएं याद रखते हैं। आपकी अनुमति से हम यह भी मापते हैं कि साइट कैसे इस्तेमाल होती है। आप कभी भी । हमारी cookie नीति देखें।
mongodb/rerank-3-liteऊपर दी गई कीमतों पर आपके बैलेंस से चलता है। नए अकाउंट मुफ्त उपयोग से शुरू होते हैं।
सेटिंग्स
MongoDB द्वारा VoyageAI: rerank-3-lite, MongoDB द्वारा VoyageAI का एक reranking मॉडल है। यह rerank श्रेणी से संबंधित है, और इसका काम नया टेक्स्ट जनरेट करना नहीं, बल्कि उम्मीदवार दस्तावेज़ों के एक सेट को लेकर उन्हें किसी क्वेरी से प्रासंगिकता के आधार पर पुनः क्रमित करना है। इसे rerank-2.5-lite के लिए सीधे उन्नयन के रूप में प्रस्तुत किया गया है, जिसका अर्थ है कि जो टीमें पहले से उस मॉडल का उपयोग कर रही हैं, वे अपने एकीकरण के तरीके को बदले बिना इस पर आ सकती हैं।
मॉडल इनपुट के रूप में टेक्स्ट लेता है और आउटपुट के रूप में reranking उत्पन्न करता है। इसकी संदर्भ लंबाई 32,000 टोकन है और अधिकतम आउटपुट 28,800 है। चूंकि इसका उद्देश्य जनरेशन के बजाय स्कोरिंग और क्रमबद्ध करना है, इसलिए यह जो उपयोगी चीज़ लौटाता है वह आपके द्वारा दिए गए पैसेजों पर प्रासंगिकता का क्रम है, और इसे विलंबता तथा गुणवत्ता के बीच संतुलन बनाने के लिए बनाया गया है। डोमेन मूल्यांकनों में यह औसतन NDCG@10 पर rerank-2.5-lite से 0.94% बेहतर प्रदर्शन करता है, साथ ही 1.86% का अतिरिक्त सुधार देता है। यह मापा गया लाभ इसे ऐसे स्थान पर कम जोखिम वाला प्रतिस्थापन बनाता है जहां पहले का lite मॉडल पहले से प्रोडक्शन में है।
व्यावहारिक उपयोग के मामले इन क्षमताओं से सीधे निकलते हैं। यह retrieval augmented generation पाइपलाइनों में फिट बैठता है, जहां पहला चरण retriever उम्मीदवारों का एक व्यापक सेट लौटाता है और reranker उन्हें किसी भाषा मॉडल तक पहुंचने से पहले संकीर्ण और क्रमित करता है। यह सर्च और साइट सर्च के लिए उपयुक्त है, जहां परिणामों का क्रम कच्चे मिलान से अधिक मायने रखता है। यह दस्तावेज़ संग्रहों, आंतरिक ज्ञान आधारों और सपोर्ट सामग्री पर प्रश्न उत्तर के लिए भी फिट बैठता है, और किसी भी ऐसे वर्कफ़्लो के लिए जिसमें पैसेजों को यह क्रम देना हो कि वे किसी विशिष्ट क्वेरी का कितनी अच्छी तरह उत्तर देते हैं। बड़ा संदर्भ बजट इसका अर्थ है कि लंबे उम्मीदवार पैसेजों को आक्रामक काट छांट के बिना शामिल किया जा सकता है, और विलंबता पर जोर इसे केवल ऑफ़लाइन बैच कार्यों के बजाय इंटरैक्टिव अनुप्रयोगों के लिए भी उचित बनाता है।
आप इसे api14 के OpenAI-compatible API के माध्यम से मॉडल id "mongodb/rerank-3-lite" का उपयोग करके कॉल करते हैं। समर्थित पैरामीटर सूची खाली है, इसलिए अपने इनपुट के साथ मॉडल id पास करें और अनुरोध पर ट्यूनिंग विकल्पों की अपेक्षा करने के बजाय डिफ़ॉल्ट पर भरोसा करें। चूंकि एंडपॉइंट OpenAI-compatible आकार का अनुसरण करता है, मौजूदा क्लाइंट लाइब्रेरी और कोड पथों को न्यूनतम बदलाव के साथ api14 और इस मॉडल id की ओर इंगित किया जा सकता है।
यह ध्यान देने योग्य है कि यह एक reranker है, जनरेटर नहीं। यदि आपका कार्य उत्तर लिखना, सारांश बनाना या बातचीत करना है, तो टेक्स्ट जनरेशन मॉडल सही विकल्प है, और यह मॉडल उसके सामने एक चरण के रूप में सबसे अच्छा काम करता है। यदि आपको टेक्स्ट को किसी क्वेरी के सापेक्ष स्कोर या क्रमित करना है, तो यह उपयुक्त विकल्प है।
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/rerank", { body: {
"model": "mongodb/rerank-3-lite",
"query": "What is the capital of France?",
"documents": [
"Paris is the capital of France.",
"Berlin is in Germany."
],
"top_n": 1
} });
console.log(result.results);
इस कम्युनिटी में अभी कोई टॉपिक नहीं है। VoyageAI by MongoDB: rerank-3-lite के बारे में पहला टॉपिक खोलें।