VoyageAI by MongoDB: rerank-3

MongoDB द्वारा VoyageAI: rerank-3, Voyage AI का एक reranking मॉडल है, जो अब MongoDB का हिस्सा है। यह rerank श्रेणी में आता है, और Voyage AI इसे एक अनुकूलित reranker तथा rerank-2.5 के लिए सीधा upgrade बताता है। यह chat या text generation मॉडल नहीं है: इसका काम उम्मीदवार दस्तावेज़ों का एक समूह लेना और उन्हें किसी query के साथ प्रासंगिकता के आधार पर पुनः क्रमित करना है।

यह मॉडल text input के साथ काम करता है और reranking output देता है। इसकी context length 32,000 tokens है, जो एक ही call में एक query के साथ बड़ी संख्या में उम्मीदवार passages रखने के लिए पर्याप्त है। अधिकतम output 28,800 है। चूंकि यह एक reranker है, response का स्वरूप आपके द्वारा दिए गए दस्तावेज़ों का क्रमित क्रम होता है, मुक्त prose नहीं। इस मॉडल के लिए कोई supported parameters सूचीबद्ध नहीं हैं, इसलिए callers को generative मॉडलों पर लागू होने वाले sampling controls (temperature, top_p और समान) की अपेक्षा नहीं करनी चाहिए।

व्यावहारिक उपयोग के मामले सीधे इसी डिज़ाइन से निकलते हैं। एक सामान्य pattern दो-चरणीय retrieval pipeline है: एक तेज़ vector या keyword search उम्मीदवारों का व्यापक समूह लौटाता है, फिर rerank-3 उन्हें पुनः क्रमित करता है ताकि सबसे प्रासंगिक परिणाम सबसे ऊपर आएं। इससे search परिणामों की गुणवत्ता, retrieval-augmented generation context, दस्तावेज़ संग्रह पर question answering, और उन recommendation या matching सुविधाओं में सुधार होता है जहां relevance ranking मायने रखती है। चूंकि provider लंबे दस्तावेज़ों के मूल्यांकन पर लाभ बताता है, यह तब भी उपयुक्त है जब ranked किए जाने वाले passages छोटे snippets के बजाय लंबे हों।

इसे api14 के माध्यम से call करने के लिए, OpenAI-compatible endpoint पर model id "voyageai/rerank-3" का उपयोग करें। चूंकि api14 एक OpenAI-compatible API उपलब्ध कराता है, आप अपने मौजूदा client को gateway पर point करते हैं और उस id को model के रूप में pass करते हैं। चूंकि मॉडल कोई supported parameters सूचीबद्ध नहीं करता, आपको अपनी query और rank किए जाने वाले documents के साथ एक सादा request भेजना चाहिए, और decoding settings को tune करने के बजाय मॉडल के अपने ranking व्यवहार पर भरोसा करना चाहिए।

एक सीमा ध्यान देने योग्य है: scope। rerank-3 केवल text को rerank करता है; यह उत्तर या सारांश उत्पन्न नहीं करता, इसलिए यदि आपको text उत्पन्न करने वाला मॉडल चाहिए तो आप इसे किसी generative मॉडल के साथ जोड़ेंगे। साथ ही, यदि आपकी pipeline में अलग retrieval चरण नहीं है और आपको केवल first-pass embedding search चाहिए, तो एक समर्पित embedding मॉडल अधिक सरल शुरुआत हो सकता है, और बाद में क्रम को बेहतर बनाने के लिए rerank-3 जोड़ा जा सकता है।