Mistral: Saba

Mistral: Saba è un modello di testo di Mistral, rilasciato dal provider il 17 febbraio 2025. È un modello linguistico con 24 miliardi di parametri progettato specificamente per il Medio Oriente e l'Asia meridionale, addestrato su dati regionali curati per fornire risposte accurate e contestualmente pertinenti mantenendo prestazioni efficienti. Il suo knowledge cutoff è il 30 settembre 2024.

Il modello accetta input di testo e file e restituisce testo. Ha una finestra di contesto di 32.768 token e un output massimo di 26.214 token, quindi può gestire input piuttosto lunghi e produrre completamenti estesi all'interno di una singola richiesta. I parametri di richiesta supportati includono frequency_penalty, max_tokens, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools e top_p. La presenza di tools e tool_choice significa che può essere utilizzato in flussi di lavoro con function calling o in stile agente, mentre structured_outputs e response_format consentono di vincolare la forma del testo restituito.

Grazie al suo focus regionale, Saba è adatto ad applicazioni in cui contano lingua, terminologia e contesto del Medio Oriente e dell'Asia meridionale: assistenti per il supporto clienti, generazione e sintesi di contenuti per pubblici di quelle regioni, question answering su documenti caricati e attività di estrazione o classificazione in cui una formulazione localmente rilevante influisce sulla qualità. La modalità di input file è utile per flussi di lavoro che passano documenti direttamente al modello invece di incollare testo, e i parametri degli strumenti supportano pipeline che devono chiamare funzioni o API esterne. Il contesto di 32.768 token è utilizzabile per report lunghi, conversazioni multi-turno e insiemi moderati di documenti, anche se corpora molto grandi richiederanno chunking o retrieval.

Puoi chiamare il modello tramite l'API compatibile con OpenAI di api14 usando l'id del modello "mistralai/mistral-saba". Punta il tuo client OpenAI esistente all'URL di base di api14, invia una richiesta di chat completions con quell'id e passa qualsiasi parametro supportato elencato sopra nel modo consueto. Poiché l'interfaccia è compatibile con OpenAI, il codice scritto per i modelli OpenAI funziona in genere con modifiche minime oltre all'id del modello e all'endpoint.

Tieni presenti i limiti di contesto e output quando progetti le richieste: gli input oltre 32.768 token devono essere ridotti o suddivisi, e le risposte sono limitate a 26.214 token. Se il tuo compito dipende da conoscenze successive al 30 settembre 2024, o cade al di fuori del focus su Medio Oriente e Asia meridionale dove un modello general-purpose potrebbe essere più adatto, considera invece un altro modello su api14.