Xiaomi: MiMo-V2.6-Flash

MiMo-V2.6-Flash, Xiaomi का एक ओपन-सोर्स फाउंडेशन मॉडल है, जो api14 पर मॉडल आईडी xiaomi/mimo-v2.6-flash के तहत सूचीबद्ध है। यह टेक्स्ट श्रेणी से संबंधित है और Mixture-of-Experts आर्किटेक्चर पर बना है, जिसमें कुल 309B पैरामीटर हैं और प्रति टोकन 15B सक्रिय होते हैं, तथा यह हाइब्रिड अटेंशन मेकैनिज़्म का उपयोग करता है। Xiaomi इसे किसी संकीर्ण कार्य-विशिष्ट प्रणाली के बजाय एक फाउंडेशन मॉडल के रूप में प्रस्तुत करता है, इसलिए इसका उद्देश्य विविध प्रकार के भाषा कार्यों के लिए एक सामान्य आधार के रूप में काम करना है।

मॉडल इनपुट के रूप में टेक्स्ट, इमेज, वीडियो और ऑडियो स्वीकार करता है, और आउटपुट के रूप में टेक्स्ट उत्पन्न करता है। इसका कॉन्टेक्स्ट विंडो 1,050,000 टोकन है, और अधिकतम आउटपुट लंबाई 131,072 टोकन है। बहुत बड़े कॉन्टेक्स्ट और मल्टीमॉडल इनपुट का यह संयोजन意味着 एक ही अनुरोध में लंबे दस्तावेज़ों के साथ इमेज, वीडियो या ऑडियो भी शामिल किए जा सकते हैं, और फिर भी एक पर्याप्त टेक्स्ट प्रतिक्रिया प्राप्त की जा सकती है। समर्थित अनुरोध पैरामीटर में temperature, top_p, top_k, min_p, frequency_penalty, presence_penalty, repetition_penalty, max_tokens, stop, seed, logit_bias, logprobs, top_logprobs, response_format, structured_outputs, tools, tool_choice, reasoning और include_reasoning शामिल हैं।

ये क्षमताएँ कुछ व्यावहारिक उपयोग पैटर्न की ओर संकेत करती हैं। लंबे कॉन्टेक्स्ट वाले कार्य, जैसे बड़े दस्तावेज़ समूहों, कोडबेस या ट्रांसक्रिप्ट का सारांश बनाना या उनसे प्रश्न पूछना, स्वाभाविक रूप से उपयुक्त हैं, क्योंकि विंडो उतनी बड़ी है कि उस सामग्री को समाहित कर सके जिसे अन्यथा चंकिंग की आवश्यकता होती। चूँकि इमेज, वीडियो और ऑडियो इनपुट के रूप में दिए जा सकते हैं, मॉडल का उपयोग मीडिया का वर्णन करने, स्क्रीनशॉट या स्कैन किए गए पृष्ठों से जानकारी निकालने, या रिकॉर्ड की गई सामग्री के बारे में प्रश्नों का उत्तर देने जैसे कार्यों के लिए किया जा सकता है, जहाँ उत्तर टेक्स्ट के रूप में लौटाया जाता है। टूल कॉलिंग और संरचित आउटपुट इसे ऐसी पाइपलाइनों के लिए उपयुक्त बनाते हैं जहाँ मॉडल को फ़ंक्शन कॉल करने या ऐसा JSON उत्पन्न करने की आवश्यकता होती है जिसे डाउनस्ट्रीम कोड पार्स कर सके, और reasoning तथा include_reasoning पैरामीटर ऐसे मामलों में मध्यवर्ती तर्क का अनुरोध करने या निरीक्षण करने का तरीका देते हैं जहाँ यह उपयोगी हो।

api14 के माध्यम से इसे कॉल करना किसी भी अन्य OpenAI-संगत मॉडल की तरह ही काम करता है। chat completions endpoint पर एक अनुरोध भेजें जिसमें model फ़ील्ड xiaomi/mimo-v2.6-flash पर सेट हो, और सामान्य OpenAI प्रारूप में messages पास करें, जिसमें इमेज, वीडियो या ऑडियो इनपुट के लिए मल्टीमॉडल कंटेंट भाग शामिल हों। ऊपर सूचीबद्ध पैरामीटर अनुरोध बॉडी में सेट किए जा सकते हैं; temperature, top_p, top_k और min_p जैसे सैंपलिंग नियंत्रण जनरेशन को आकार देते हैं, max_tokens आउटपुट को सीमित करता है, और tools, tool_choice, response_format तथा structured_outputs फ़ंक्शन कॉलिंग और संरचित प्रतिक्रियाओं को कवर करते हैं। स्ट्रीमिंग और मानक OpenAI क्लाइंट लाइब्रेरीज़ संगत इंटरफ़ेस के विरुद्ध अपेक्षित रूप से काम करनी चाहिए।

एक बात ध्यान में रखनी चाहिए कि आउटपुट केवल टेक्स्ट है, इसलिए मॉडल बदले में इमेज, वीडियो या ऑडियो उत्पन्न नहीं कर सकता। यदि किसी कार्य के लिए मीडिया का वर्णन या उस पर तर्क करने के बजाय मीडिया उत्पन्न करना आवश्यक हो, तो एक अलग मॉडल की आवश्यकता होगी। बड़ा कॉन्टेक्स्ट और 131,072 टोकन की आउटपुट सीमा का अर्थ यह भी है कि अनुरोध भारी हो सकते हैं, इसलिए छोटे, सरल प्रॉम्प्ट के लिए एक छोटा मॉडल अधिक उपयुक्त विकल्प हो सकता है।