Mistral: Mistral Medium 3.5 (batch)

Mistral Medium 3.5 (batch) is een tekstgeneratiemodel van Mistral AI, geïdentificeerd op api14 als mistralai/mistral-medium-3-5:batch. Het is een dense 128B instruction-following model, wat betekent dat al zijn parameters actief zijn bij elk verzoek in plaats van te worden gerouteerd via een mixture-of-experts-opzet. De batch-variant is de versie die via dit endpoint wordt aangeboden, en het model valt op api14 in de categorie tekst.

Het model accepteert tekst-, afbeeldings- en bestandsinvoer, en het retourneert alleen tekst. Het contextvenster is 262.144 tokens, en de maximale uitvoerlengte is 209.715 tokens, dus het kan zeer grote invoer verwerken en lange antwoorden produceren in één aanroep. Omdat afbeeldingen en bestanden naast tekst worden geaccepteerd, kun je gemengde prompts sturen die geschreven instructies combineren met visuele of documentinhoud, en het model redeneert over alles voordat het zijn antwoord genereert.

Die mogelijkheden wijzen op een paar praktische toepassingen. Het grote contextvenster is geschikt voor werk over lange documenten, codebases of invoer met meerdere bestanden waar je anders resultaten zou moeten opdelen en aan elkaar zou moeten plakken. Afbeeldingsinvoer maakt het geschikt voor taken die screenshots, diagrammen of gescande pagina's combineren met tekstinstructies. Mistral beschrijft het model als ontworpen voor agentic workflows, coderen en complexe taken, dus tool calling en gestructureerde generatie zijn redelijke uitgangspunten. De batch-variant is een natuurlijke keuze voor offline of op doorvoer gerichte taken waarbij je veel verzoeken indient en de resultaten verzamelt, in plaats van voor interactieve chat waar latentie het belangrijkst is.

Je roept het model aan via de OpenAI-compatibele API van api14 met het model-id mistralai/mistral-medium-3-5:batch. Het endpoint ondersteunt frequency_penalty, include_reasoning, max_tokens, presence_penalty, reasoning, reasoning_effort, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools en top_p. In de praktijk betekent dat dat je sampling kunt sturen met temperature, top_p en de twee penalty-parameters, uitvoer kunt beperken met max_tokens, willekeurigheid kunt vastzetten met seed, en stop-sequenties kunt definiëren. Voor gestructureerd werk kun je met response_format en structured_outputs de vorm van het antwoord beperken, terwijl tools en tool_choice function calling ondersteunen, en de reasoning-parameters je laten afstemmen hoeveel interne redenering het model blootlegt of uitvoert.

Iets om af te wegen is de batch-aanduiding. Als je applicatie respons met lage latentie, per beurt nodig heeft, is een niet-batch-model waarschijnlijk beter geschikt, en hetzelfde geldt als je alleen tekstinvoer en -uitvoer nodig hebt, omdat de afbeeldings- en bestandsmodaliteiten dan ongebruikt blijven. Het contextvenster van 262.144 tokens en het uitvoerplafond van 209.715 tokens zijn ruim, maar ze zijn nog steeds eindig, dus extreem grote corpora moeten mogelijk over meerdere aanroepen worden opgesplitst. Binnen die grenzen dekt het model lang-context tekstwerk, multimodale prompts, coderen en tool-gestuurde agent-flows vanuit één endpoint.