Mistral: Mistral Small 3.1 24B

Mistral Small 3.1 24B Instruct ist ein Textgenerierungsmodell von Mistral, das vom Anbieter am 17. März 2025 veröffentlicht wurde. Es ist eine aktualisierte Variante von Mistral Small 3 (2501) und verfügt über 24 Milliarden Parameter. Auf api14 liegt es in der Kategorie Text, und die Modell-ID, die Sie beim Aufruf verwenden, ist mistralai/mistral-small-3.1-24b-instruct.

Das Modell akzeptiert Text und Bilder als Eingabe und gibt Text zurück. Sein Kontextfenster beträgt 128.000 Token, mit einer maximalen Ausgabe von 102.400 Token, sodass sowohl lange Dokumente als auch lange Generierungen bequem in eine einzelne Anfrage passen. Der Wissensstand reicht bis zum 31. Oktober 2023. Multimodale Eingabe bedeutet, dass Sie Bilder zusammen mit Textaufforderungen übergeben können, was nützlich ist, wenn eine Aufgabe von Informationen abhängt, die nur in einem Screenshot, Diagramm oder einer gescannten Seite vorhanden sind.

Da es sowohl Text als auch Bilder über einen großen Kontext verarbeitet, eignet sich das Modell für Aufgaben zum Dokument- und Bildverständnis: Zusammenfassen langer Berichte, Extrahieren strukturierter Daten aus gescannten Formularen oder Screenshots, Beantworten von Fragen auf Grundlage eines bereitgestellten Dokuments und gemischte Text- und Bild-Support-Workflows. Der 128k-Kontext macht es auch sinnvoll für Fragen auf Codebasis-Ebene, lange Gesprächsverläufe und Batch-artige Analysen, bei denen Sie viel Material in einem einzigen Aufruf senden möchten. Die Unterstützung von Tool- und Funktionsaufrufen erweitert dies auf Agent-artige Pipelines, die Daten abrufen oder Aktionen auslösen müssen.

Sie rufen das Modell über die OpenAI-kompatible API von api14 mit der Modell-ID mistralai/mistral-small-3.1-24b-instruct auf, was bedeutet, dass vorhandene OpenAI-SDKs und -Clients funktionieren, wenn nur die Basis-URL und der Schlüssel geändert werden. Die unterstützten Anforderungsparameter sind frequency_penalty, logit_bias, logprobs, max_tokens, min_p, presence_penalty, repetition_penalty, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k, top_logprobs und top_p. Strukturierte Ausgaben und die Sampling-Steuerungen sind nützlich, wenn Sie vorhersehbares JSON oder eng eingeschränkte Generierungen benötigen, während seed bei der Reproduzierbarkeit während Tests hilft.

Zwei Grenzen sind erwähnenswert, bevor Sie sich festlegen. Der Wissensstand reicht bis zum 31. Oktober 2023, sodass alles nach diesem Datum aus Ihrer Aufforderung oder aus Tools stammen muss und nicht aus dem eigenen Wissen des Modells. Die Ausgabe ist nur Text, wenn Sie also generierte Bilder oder Audio benötigen, ist dieses Modell nicht die richtige Wahl. Für Aufgaben, die rein textbasiert sind und gut in einen kleineren Kontext passen, kann ein leichteres Modell günstiger und schneller sein, aber für multimodale Eingabe mit 128k Token deckt dieses Modell ein breites Spektrum an Arbeit ab.