VoyageAI by MongoDB: rerank-3-lite

MongoDB द्वारा VoyageAI: rerank-3-lite, Voyage AI का एक reranking मॉडल है, जो एक ऐसा प्रदाता है जिसके मॉडल अब MongoDB से जुड़े हुए हैं। यह rerank श्रेणी में आता है, जिसका अर्थ है कि इसका काम टेक्स्ट उत्पन्न करना नहीं, बल्कि उम्मीदवार दस्तावेज़ों के एक सेट को लेना और किसी क्वेरी के साथ उनकी प्रासंगिकता के अनुसार उन्हें पुनः क्रमित करना है। इसे rerank-2.5-lite के लिए एक सीधे प्रतिस्थापन के रूप में प्रस्तुत किया गया है, इसलिए जो टीमें पहले से उस मॉडल का उपयोग कर रही हैं, वे अपनी पाइपलाइन को दोबारा बनाए बिना इस पर आ सकती हैं। प्रदाता के अनुसार, इसे विलंबता और गुणवत्ता दोनों के लिए अनुकूलित किया गया है, और यह डोमेन मूल्यांकनों में औसतन 0.94% NDCG@10 तथा एक अतिरिक्त माप पर 1.86% से rerank-2.5-lite को बेहतर बनाता है।

मॉडल इनपुट के रूप में टेक्स्ट स्वीकार करता है और आउटपुट के रूप में reranked परिणाम देता है। इसकी संदर्भ लंबाई 32,000 टोकन है, जो एक ही अनुरोध में आपके द्वारा साथ में भेजे गए क्वेरी और उम्मीदवार अनुच्छेदों को कवर करती है। अधिकतम आउटपुट 28,800 के रूप में सूचीबद्ध है। चूंकि यह चैट या completion मॉडल के बजाय एक reranker है, यह गद्य नहीं लिखता या सीधे प्रश्नों का उत्तर नहीं देता; यह एक ऐसा क्रम लौटाता है जो दर्शाता है कि प्रत्येक उम्मीदवार क्वेरी से कितना अच्छा मेल खाता है।

आउटपुट का यह स्वरूप इसे retrieval पाइपलाइनों में उपयोगी बनाता है। एक सामान्य पैटर्न यह है कि पहले एक तेज़ प्रथम-चरण खोज चलाई जाए, जैसे vector या keyword खोज, ताकि उम्मीदवारों का एक व्यापक सेट निकाला जा सके, फिर उन उम्मीदवारों को rerank-3-lite को सौंपा जाए ताकि उपयोगकर्ता या एप्लिकेशन के अगले चरण तक पहुंचने से पहले उन्हें क्रमबद्ध किया जा सके। यह दस्तावेज़ीकरण, सहायता लेखों, उत्पाद कैटलॉग या आंतरिक ज्ञान आधारों पर खोज, और retrieval augmented generation पर लागू होता है, जहां शीर्ष कुछ अनुच्छेदों की गुणवत्ता अंतिम उत्तर को गहराई से प्रभावित करती है। विलंबता पर जोर इसे इंटरैक्टिव खोज के लिए उचित रूप से उपयुक्त बनाता है, जहां reranking चरण को जल्दी पूरा होना जरूरी होता है।

आप इसे मॉडल आईडी "voyageai/rerank-3-lite" का उपयोग करके api14 के OpenAI-संगत API के माध्यम से कॉल कर सकते हैं। चूंकि endpoint OpenAI-संगत प्रारूप का पालन करता है, आप मौजूदा OpenAI क्लाइंट लाइब्रेरीज़ का उपयोग कर सकते हैं और उन्हें api14 की ओर इंगित कर सकते हैं, जिससे एकीकरण का काम कम रहता है यदि आपके पास पहले से ऐसा क्लाइंट मौजूद है। मॉडल कोई समर्थित पैरामीटर सूचीबद्ध नहीं करता, इसलिए मॉडल आईडी और आपके अनुरोध की सामग्री के अलावा कोई अतिरिक्त ट्यूनिंग विकल्प सेट करने के लिए नहीं हैं। ध्यान दें कि प्रदाता की रिलीज़ तिथि 2026-09-30 है।

यदि आपका कार्य उम्मीदवारों के एक सेट को रैंक करने के बजाय टेक्स्ट जनरेशन, सारांशीकरण या बातचीत है, तो एक चैट या completion मॉडल बेहतर फिट होगा, क्योंकि rerank-3-lite केवल एक क्रम आउटपुट करता है। यह जांचना भी उचित है कि आपका उम्मीदवार सेट और क्वेरी 32,000 टोकन संदर्भ के भीतर फिट होते हैं या नहीं, और यदि नहीं होते हैं तो उन्हें विभाजित या छोटा कर लें।