Mistral: Ministral 3 8B 2512 (batch)

Mistral: Ministral 3 8B 2512 (batch) är en textgenereringsmodell från Mistral, en del av familjen Ministral 3. Mistral beskriver den som en balanserad modell i den familjen: en kraftfull, effektiv liten språkmodell med bildförmåga. Modell-id:t på api14 är mistralai/ministral-8b-2512:batch, och suffixet batch indikerar att denna variant serveras via en batch-endpoint snarare än en synkron sådan, vilket passar arbetsbelastningar där du skickar in arbete och samlar in resultat i stället för att vänta på varje anrop.

Modellen tar emot text och bild som indata och producerar text som utdata, så den kan hantera både vanliga språkuppgifter och prompter som innehåller bilder. Dess kontextfönster är 262144 tokens, och maximal utdata är 209715 tokens. Den kombinationen av en stor kontext och en stor utdatabudget innebär att du kan mata in långa dokument eller långa bild-plus-text-prompter och fortfarande lämna utrymme för ett omfattande genererat svar. Parametrar som stöds i förfrågningar inkluderar temperature, top_p, frequency_penalty, presence_penalty, max_tokens, stop, seed, response_format, structured_outputs, tool_choice och tools.

Dessa förmågor pekar mot några praktiska användningsområden. Textarbete med lång kontext, som att sammanfatta eller extrahera från långa dokument, passar inom fönstret på 262144 tokens. Eftersom bilder accepteras som indata ligger uppgifter som att beskriva en bild, svara på frågor om en skärmbild eller extrahera text och struktur från en skannad sida inom ramen. Tool calling och strukturerade utdata gör den användbar för pipelines som behöver att modellen returnerar JSON eller anropar funktioner, och parametern seed hjälper när du vill ha repeterbara resultat mellan körningar.

För att anropa den via api14, använd det OpenAI-kompatibla chat completions-gränssnittet med modell-id:t mistralai/ministral-8b-2512:batch. Du kan skicka de vanliga fälten för chattförfrågningar tillsammans med parametrarna som listas ovan: temperature, top_p, frequency_penalty, presence_penalty, max_tokens, stop, seed, response_format, structured_outputs, tool_choice och tools. Eftersom detta är batch-varianten, planera för asynkron inlämning och hämtning snarare än omedelbara svar, och kontrollera den aktuella pristabellen på sidan för gällande priser.

En begränsning värd att notera är utdatamodalitet: modellen läser bilder men returnerar endast text, så den passar inte om du behöver genererade bilder. Om din uppgift är helt och hållet text och inte behöver vision eller det mycket stora kontextfönstret, kan en mindre eller icke-batch-modell svara snabbare och med mindre operativ overhead.