Mistral: Saba

Mistral : Saba est un modèle de texte de Mistral, publié par le fournisseur le 17 février 2025. C'est un modèle de langage de 24B paramètres spécifiquement conçu pour le Moyen-Orient et l'Asie du Sud, entraîné sur des données régionales sélectionnées pour fournir des réponses précises et contextuellement pertinentes tout en maintenant des performances efficaces. Sa date limite de connaissances est le 30 septembre 2024.

Le modèle accepte des entrées de texte et de fichiers et renvoie du texte. Il dispose d'une fenêtre de contexte de 32 768 jetons et d'une sortie maximale de 26 214 jetons, ce qui lui permet de traiter des entrées assez longues et de produire des complétions étendues en une seule requête. Les paramètres de requête pris en charge incluent frequency_penalty, max_tokens, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools et top_p. La présence de tools et tool_choice signifie qu'il peut être utilisé dans des workflows d'appel de fonctions ou de type agent, tandis que structured_outputs et response_format permettent de contraindre la forme du texte renvoyé.

En raison de son orientation régionale, Saba convient aux applications où la langue, la terminologie et le contexte du Moyen-Orient et de l'Asie du Sud importent : assistants de support client, génération et résumé de contenu pour des publics de ces régions, question-réponse sur documents à partir de fichiers téléversés, et tâches d'extraction ou de classification où une formulation localement pertinente affecte la qualité. La modalité d'entrée de fichiers est utile pour les workflows qui transmettent des documents directement au modèle plutôt que de coller du texte, et les paramètres d'outils prennent en charge les pipelines qui doivent appeler des fonctions ou des API externes. Le contexte de 32 768 jetons est exploitable pour de longs rapports, des conversations multi-tours et des ensembles de documents modérés, bien que de très grands corpus nécessitent un découpage ou une récupération.

Vous appelez le modèle via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle "mistralai/mistral-saba". Pointez votre client OpenAI existant vers l'URL de base d'api14, envoyez une requête de complétions de chat avec cet identifiant, et transmettez l'un des paramètres pris en charge listés ci-dessus de la manière habituelle. Comme l'interface est compatible OpenAI, le code écrit pour les modèles OpenAI fonctionne généralement avec des modifications minimes au-delà de l'identifiant de modèle et du point de terminaison.

Gardez les limites de contexte et de sortie à l'esprit lors de la conception des requêtes : les entrées dépassant 32 768 jetons doivent être tronquées ou divisées, et les réponses sont plafonnées à 26 214 jetons. Si votre tâche dépend de connaissances postérieures au 30 septembre 2024, ou sort du champ d'application du Moyen-Orient et de l'Asie du Sud où un modèle généraliste peut mieux convenir, envisagez plutôt un autre modèle sur api14.