Xiaomi: MiMo-V2.6-Flash

MiMo-V2.6-Flash är en öppen källkodsbasmodell från Xiaomi, listad på api14 under modell-id:t xiaomi/mimo-v2.6-flash. Den tillhör textkategorin och är byggd på en Mixture-of-Experts-arkitektur med 309B totala parametrar och 15B aktiverade per token, med en hybrid uppmärksamhetsmekanism. Xiaomi positionerar den som en basmodell snarare än ett smalt uppgiftsspecifikt system, så den är avsedd att fungera som en allmän grund för en bredd av språkarbete.

Modellen tar emot text, bild, video och ljud som indata, och producerar text som utdata. Dess kontextfönster är 1 050 000 tokens, och den maximala utdatalängden är 131 072 tokens. Den kombinationen av en mycket stor kontext och multimodala indata innebär att en enskild begäran kan bära långa dokument tillsammans med bilder, video eller ljud, och fortfarande returnera ett omfattande textsvar. Parameterar som stöds i begäran inkluderar temperature, top_p, top_k, min_p, frequency_penalty, presence_penalty, repetition_penalty, max_tokens, stop, seed, logit_bias, logprobs, top_logprobs, response_format, structured_outputs, tools, tool_choice, reasoning och include_reasoning.

Dessa förmågor pekar mot några praktiska mönster. Långkontextarbete som att sammanfatta eller ställa frågor till stora dokumentuppsättningar, kodbaser eller transkriptioner passar naturligt, eftersom fönstret är tillräckligt stort för att rymma material som annars skulle behöva delas upp. Eftersom bilder, video och ljud kan tillhandahållas som indata kan modellen användas för uppgifter som att beskriva media, extrahera information från skärmbilder eller skannade sidor, eller svara på frågor om inspelat material, med svaret returnerat som text. Verktygsanrop och strukturerade utdata gör den lämplig för pipelines där modellen måste anropa funktioner eller skicka JSON som nedströmskod kan tolka, och parametrarna reasoning och include_reasoning ger ett sätt att begära eller granska mellanliggande resonemang där det är användbart.

Att anropa den via api14 fungerar på samma sätt som vilken annan OpenAI-kompatibel modell som helst. Skicka en begäran till chat completions-slutpunkten med fältet model satt till xiaomi/mimo-v2.6-flash, och skicka meddelanden i vanligt OpenAI-format, inklusive multimodala innehållsdelar för bild-, video- eller ljudindata. Parametrarna som listas ovan kan anges i begärans body; samplingskontroller som temperature, top_p, top_k och min_p formar genereringen, max_tokens begränsar utdata, och tools, tool_choice, response_format och structured_outputs täcker funktionsanrop och strukturerade svar. Streaming och vanliga OpenAI-klientbibliotek bör fungera som förväntat mot det kompatibla gränssnittet.

En sak att ha i åtanke är att utdata endast är text, så modellen kan inte generera bilder, video eller ljud i gengäld. Om en uppgift kräver att producera media snarare än att beskriva eller resonera om det, skulle en annan modell behövas. Den stora kontexten och taket på 131 072 tokens för utdata innebär också att begäranden kan bli tunga, så för korta, enkla prompter kan en mindre modell vara ett mer proportionerligt val.