BAAI: bge-m3

BAAI: bge-m3, BAAI (Beijing Academy of Artificial Intelligence) का एक embedding मॉडल है। यह embeddings श्रेणी में आता है, जिसका अर्थ है कि यह चैट प्रतिक्रियाएँ उत्पन्न करने के बजाय टेक्स्ट को वेक्टर में बदलने के लिए बनाया गया है। यदि आपके एप्लिकेशन को ऐसे मॉडल की आवश्यकता है जो प्रश्नों के उत्तर दे या टेक्स्ट लिखे, तो यह उस प्रकार का मॉडल नहीं है; यह टेक्स्ट को संख्यात्मक रूप में प्रस्तुत करने के लिए मौजूद है ताकि अन्य सिस्टम इसकी तुलना, खोज और पुनर्प्राप्ति कर सकें।

मॉडल अपने एकमात्र इनपुट के रूप में टेक्स्ट लेता है और अपने एकमात्र आउटपुट के रूप में embeddings उत्पन्न करता है। प्रदाता के अनुसार, यह वाक्यों, अनुच्छेदों और लंबे दस्तावेज़ों को 1024-आयामी dense vector space में encode करता है, जिसका उद्देश्य उच्च-गुणवत्ता वाले semantic embeddings प्रदान करना है। यह बहुभाषी retrieval, semantic search और बड़े-संदर्भ अनुप्रयोगों के लिए अनुकूलित है। context window 8194 tokens है, और अधिकतम आउटपुट 7374 है, इसलिए काफी लंबे टेक्स्ट अंशों को कई छोटे टुकड़ों में विभाजित करने के बजाय एक ही अनुरोध में encode किया जा सकता है।

ये क्षमताएँ व्यावहारिक उपयोगों के एक स्पष्ट समूह की ओर संकेत करती हैं। Semantic search सबसे सीधा उपयोग है: अपने दस्तावेज़ों को एक बार encode करें, अनुरोध के समय उपयोगकर्ता क्वेरी को encode करें, और दस्तावेज़ों को keyword overlap के बजाय vector similarity के आधार पर रैंक करें। Retrieval augmented generation एक अन्य उपयोग है, जहाँ bge-m3 retrieval वाला आधा हिस्सा प्रदान करता है, ऐसे अंश खोजकर जो किसी प्रश्न के semantically निकट हैं, जिन्हें फिर एक अलग generative मॉडल को भेजा जाता है। चूँकि मॉडल बहुभाषी है, वही index विभिन्न भाषाओं में क्वेरी और दस्तावेज़ों की सेवा कर सकता है, जो cross-lingual search, deduplication और टेक्स्ट संग्रहों की clustering के लिए उपयुक्त है। लंबा context window तब भी मदद करता है जब एक ही दस्तावेज़ chunk बड़ा हो, क्योंकि कम chunks का अर्थ है vectors में अर्थ का कम विखंडन।

आप मॉडल को api14 के OpenAI-संगत API के माध्यम से model id "baai/bge-m3" का उपयोग करके कॉल करते हैं। चूँकि इंटरफ़ेस OpenAI प्रारूप का पालन करता है, आप एक मौजूदा OpenAI client को api14 के base URL पर इंगित कर सकते हैं और उस id के साथ अपना टेक्स्ट embeddings endpoint पर भेज सकते हैं, बिना अपने integration को फिर से लिखे। मॉडल endpoint की आवश्यकताओं से परे कोई समर्थित parameters सूचीबद्ध नहीं करता, इसलिए अनुरोध सरल रखें: इनपुट टेक्स्ट और model id प्रदान करें, और लौटाए गए vectors पढ़ें। यहाँ temperature जैसे कोई sampling controls ट्यून करने के लिए नहीं हैं, क्योंकि आउटपुट generated tokens के बजाय deterministic embedding डेटा है।

एक बात ध्यान में रखें वह है scope। bge-m3 केवल टेक्स्ट स्वीकार करता है और केवल embeddings लौटाता है, इसलिए summarization, generation द्वारा classification या conversational replies जैसे कार्यों के लिए इसके साथ एक अलग मॉडल की आवश्यकता होती है। 8194 token का context retrieval कार्य के लिए उदार है लेकिन फिर भी सीमित है, इसलिए बहुत बड़े दस्तावेज़ों को encode करने से पहले chunk किया जाना चाहिए। इन सीमाओं के भीतर, यह एक उचित विकल्प है जब आपकी समस्या मूल रूप से टेक्स्ट को प्रस्तुत करने और उसकी तुलना करने के बारे में हो।