Mistral: Mistral Small 3.1 24B

Mistral Small 3.1 24B Instruct är en textgenereringsmodell från Mistral, släppt av leverantören den 17 mars 2025. Det är en uppgraderad variant av Mistral Small 3 (2501) och har 24 miljarder parametrar. På api14 ligger den i kategorin text, och modell-id:t du använder när du anropar den är mistralai/mistral-small-3.1-24b-instruct.

Modellen tar emot text och bilder som indata och returnerar text. Dess kontextfönster är 128 000 tokens, med en maximal utdata på 102 400 tokens, så både långa dokument och långa genereringar ryms bekvämt i en enda begäran. Kunskapsavskärningen är den 31 oktober 2023. Multimodala indata innebär att du kan skicka bilder tillsammans med textpromptar, vilket är användbart när en uppgift är beroende av information som bara finns i en skärmbild, ett diagram eller en skannad sida.

Eftersom den hanterar både text och bilder över en stor kontext passar modellen för uppgifter inom dokument- och bildförståelse: sammanfatta långa rapporter, extrahera strukturerad data från skannade formulär eller skärmbilder, besvara frågor som grundar sig i ett medföljande dokument, och arbetsflöden med stöd för blandad text och bild. Kontexten på 128k gör den också rimlig för frågor på kodbasnivå, långa konversationshistoriker och batchliknande analys där du vill skicka mycket material i ett enda anrop. Stöd för verktygs- och funktionsanrop utökar detta till agentliknande pipelines som behöver hämta data eller utlösa åtgärder.

Du anropar modellen via api14:s OpenAI-kompatibla API med modell-id:t mistralai/mistral-small-3.1-24b-instruct, vilket innebär att befintliga OpenAI-SDK:er och klienter fungerar med bara bas-URL och nyckel ändrade. De begärandeparametrar den stöder är frequency_penalty, logit_bias, logprobs, max_tokens, min_p, presence_penalty, repetition_penalty, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k, top_logprobs och top_p. Strukturerade utdata och samplingskontrollerna är användbara när du behöver förutsägbar JSON eller hårt begränsade genereringar, medan seed hjälper till med reproducerbarhet under testning.

Två begränsningar är värda att notera innan du satsar. Kunskapsavskärningen är den 31 oktober 2023, så allt efter det datumet måste komma från din prompt eller från verktyg snarare än från modellens egen kunskap. Utdata är endast text, så om du behöver genererade bilder eller ljud är den här modellen inte rätt val. För uppgifter som är helt textbaserade och väl inom en mindre kontext kan en lättare modell vara billigare och snabbare, men för multimodala indata vid 128k tokens täcker denna en bredd av arbete.