Mistral: Saba

Mistral: Saba is een tekstmodel van Mistral, uitgebracht door de provider op 17 februari 2025. Het is een taalmodel met 24B parameters dat specifiek is ontworpen voor het Midden-Oosten en Zuid-Azië, getraind op samengestelde regionale data om nauwkeurige en contextueel relevante antwoorden te leveren met behoud van efficiënte prestaties. De kennisafsluitdatum is 30 september 2024.

Het model accepteert tekst- en bestandsinvoer en retourneert tekst. Het heeft een contextvenster van 32.768 tokens en een maximale uitvoer van 26.214 tokens, zodat het redelijk lange invoer aankan en uitgebreide completions kan produceren binnen één verzoek. Ondersteunde verzoekparameters zijn frequency_penalty, max_tokens, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools en top_p. De aanwezigheid van tools en tool_choice betekent dat het kan worden gebruikt in function-calling- of agent-achtige workflows, terwijl structured_outputs en response_format u in staat stellen de vorm van de geretourneerde tekst te beperken.

Vanwege de regionale focus is Saba geschikt voor toepassingen waar taal, terminologie en context van het Midden-Oosten en Zuid-Azië van belang zijn: klantenondersteuningsassistenten, contentgeneratie en samenvatting voor doelgroepen in die regio's, documentvraagbeantwoording over geüploade bestanden, en extractie- of classificatietaken waarbij lokaal relevante formulering de kwaliteit beïnvloedt. De modaliteit voor bestandsinvoer is nuttig voor workflows die documenten rechtstreeks naar het model sturen in plaats van tekst te plakken, en de tool-parameters ondersteunen pijplijnen die externe functies of API's moeten aanroepen. De context van 32.768 tokens is werkbaar voor lange rapporten, gesprekken met meerdere beurten en middelgrote documentsets, hoewel zeer grote corpora opsplitsing of retrieval nodig zullen hebben.

U roept het model aan via de OpenAI-compatibele API van api14 met het model-id "mistralai/mistral-saba". Richt uw bestaande OpenAI-client op de api14 base URL, stuur een chat completions-verzoek met dat id, en geef eventuele ondersteunde parameters uit de bovenstaande lijst op de gebruikelijke manier door. Omdat de interface OpenAI-compatibel is, werkt code die voor OpenAI-modellen is geschreven over het algemeen met minimale wijzigingen buiten het model-id en het endpoint.

Houd de context- en uitvoerlimieten in gedachten bij het ontwerpen van verzoeken: invoer boven 32.768 tokens moet worden ingekort of opgesplitst, en antwoorden zijn beperkt tot 26.214 tokens. Als uw taak afhankelijk is van kennis na 30 september 2024, of buiten de focus op het Midden-Oosten en Zuid-Azië valt waar een algemeen model beter geschikt kan zijn, overweeg dan een ander model op api14.