Mistral: Mistral Small 3.2 24B

Mistral Small 3.2 24B is een voor instructies afgestemd taalmodel van Mistral, door de provider uitgebracht op 2025-06-20 onder model-id mistralai/mistral-small-3.2-24b-instruct. Het is een model met 24B parameters, en deze 3.2-release is een update van de 3.1-versie, geoptimaliseerd voor het volgen van instructies, vermindering van herhaling en verbeterde function calling. Het valt in de categorie tekst, en de knowledge cutoff is 2023-10-31.

Het model accepteert zowel tekst als afbeeldingen als invoer en produceert tekst als uitvoer, dus het kan multimodale prompts verwerken die geschreven instructies met visuele inhoud combineren. Het heeft een contextvenster van 256.000 tokens, waardoor lange documenten, uitgebreide gesprekken of grote beeld- en tekstpayloads in één verzoek kunnen worden verwerkt. De maximale uitvoerlengte is 16.384 tokens. Ondersteunde aanvraagparameters zijn onder meer temperature, top_p, top_k, min_p, frequency_penalty, presence_penalty, repetition_penalty, max_tokens, stop, seed, logit_bias, logprobs, top_logprobs, response_format, structured_outputs, tools en tool_choice.

Die mogelijkheden wijzen op een paar praktische toepassingen. De lange context en beeldinvoer zijn geschikt voor documentanalyse, waarbij een ontwikkelaar een gescande pagina of schermafbeelding samen met vragen over de inhoud verstuurt. De verbeterde function calling en tool-ondersteuning maken het een redelijke keuze voor agent-achtige workflows die externe functies of API's moeten aanroepen. Structured outputs en response_format helpen wanneer de applicatie JSON of een andere voorspelbare vorm nodig heeft in plaats van vrije tekst. Het volgen van instructies en vermindering van herhaling zijn belangrijk voor chatassistenten, samenvatting en extractietaken waarbij consistente formulering belangrijk is. De seed-parameter ondersteunt reproduceerbare sampling voor tests.

Je roept het model aan via de OpenAI-compatibele API van api14 met het model-id mistralai/mistral-small-3.2-24b-instruct. Omdat de interface het OpenAI chat completions-formaat volgt, stuur je een verzoek met het modelveld ingesteld op dat id en een messages-array met je tekst- en beeldinhoud. De hierboven genoemde aanvraagparameters worden ondersteund, dus je kunt sampling-instellingen zoals temperature, top_p, top_k en min_p instellen, penalties toepassen, de uitvoer beperken met max_tokens, de generatie sturen met stop, response_format of structured_outputs, en tools toevoegen met tool_choice voor function calling. Opties voor logwaarschijnlijkheid (logprobs en top_logprobs) en logit_bias zijn ook beschikbaar.

Twee beperkingen zijn het vermelden waard bij het maken van een keuze. De knowledge cutoff is 2023-10-31, dus vragen over gebeurtenissen na die datum zijn afhankelijk van informatie die je in de prompt aanlevert in plaats van de eigen kennis van het model. De uitvoer is beperkt tot 16.384 tokens, wat krap kan zijn voor taken die zeer lange gegenereerde documenten nodig hebben. Als je workload alleen tekst is, of als je een model met een recentere cutoff nodig hebt, past een ander model mogelijk beter.