Mistral: Mistral Small 3.2 24B

Mistral Small 3.2 24B ist ein instruction-getuntes Sprachmodell von Mistral, das vom Anbieter am 2025-06-20 unter der Modell-ID mistralai/mistral-small-3.2-24b-instruct veröffentlicht wurde. Es ist ein Modell mit 24B Parametern, und dieses 3.2-Release ist eine Aktualisierung der 3.1-Version, optimiert für Instruction Following, Reduzierung von Wiederholungen und verbessertes Function Calling. Es gehört zur Text-Kategorie, und sein Knowledge Cutoff ist 2023-10-31.

Das Modell akzeptiert sowohl Text als auch Bilder als Eingabe und erzeugt Text als Ausgabe, sodass es multimodale Prompts verarbeiten kann, die schriftliche Anweisungen mit visuellen Inhalten kombinieren. Es hat ein Kontextfenster von 256.000 Tokens, was es ermöglicht, lange Dokumente, ausgedehnte Konversationen oder große Bild- und Text-Payloads in einer einzigen Anfrage zu verarbeiten. Die maximale Ausgabelänge beträgt 16.384 Tokens. Unterstützte Anfrageparameter umfassen temperature, top_p, top_k, min_p, frequency_penalty, presence_penalty, repetition_penalty, max_tokens, stop, seed, logit_bias, logprobs, top_logprobs, response_format, structured_outputs, tools und tool_choice.

Diese Fähigkeiten deuten auf einige praktische Anwendungen hin. Der lange Kontext und die Bildeingabe eignen sich für Dokumentenanalyse, bei der ein Entwickler eine gescannte Seite oder einen Screenshot zusammen mit Fragen zu deren Inhalt sendet. Das verbesserte Function Calling und die Tool-Unterstützung machen es zu einer vernünftigen Wahl für agentenartige Workflows, die externe Funktionen oder APIs aufrufen müssen. Strukturierte Ausgaben und response_format helfen, wenn die Anwendung JSON oder eine andere vorhersehbare Form statt Freitext benötigt. Instruction Following und die Reduzierung von Wiederholungen sind wichtig für Chat-Assistenten, Zusammenfassungen und Extraktionsaufgaben, bei denen konsistente Formulierungen wichtig sind. Der seed-Parameter unterstützt reproduzierbares Sampling für Tests.

Sie rufen das Modell über die OpenAI-kompatible API von api14 auf, wobei Sie die Modell-ID mistralai/mistral-small-3.2-24b-instruct verwenden. Da die Schnittstelle dem OpenAI-Chat-Completions-Format folgt, senden Sie eine Anfrage mit dem Feld model, das auf diese ID gesetzt ist, und einem messages-Array, das Ihre Text- und Bildinhalte enthält. Die oben aufgeführten Anfrageparameter werden unterstützt, sodass Sie Sampling-Steuerungen wie temperature, top_p, top_k und min_p festlegen, Penalties anwenden, die Ausgabe mit max_tokens begrenzen, die Generierung mit stop, response_format oder structured_outputs einschränken und Tools mit tool_choice für Function Calling anhängen können. Log-Wahrscheinlichkeitsoptionen (logprobs und top_logprobs) und logit_bias sind ebenfalls verfügbar.

Zwei Grenzen sind bei der Entscheidung zu beachten. Der Knowledge Cutoff ist 2023-10-31, sodass Fragen zu Ereignissen nach diesem Datum auf Informationen beruhen, die Sie im Prompt bereitstellen, statt auf das eigene Wissen des Modells. Die Ausgabe ist auf 16.384 Tokens begrenzt, was für Aufgaben, die sehr lange generierte Dokumente benötigen, knapp sein kann. Wenn Ihre Arbeitslast nur Text umfasst oder Sie ein Modell mit einem neueren Cutoff benötigen, könnte ein anderes Modell besser passen.