Mistral: Mistral Small 3.1 24B

Mistral Small 3.1 24B Instruct est un modèle de génération de texte de Mistral, publié par le fournisseur le 17 mars 2025. Il s'agit d'une variante améliorée de Mistral Small 3 (2501) et il compte 24 milliards de paramètres. Sur api14, il se situe dans la catégorie texte, et l'identifiant de modèle à utiliser lors de l'appel est mistralai/mistral-small-3.1-24b-instruct.

Le modèle accepte du texte et des images en entrée et renvoie du texte. Sa fenêtre de contexte est de 128 000 tokens, avec une sortie maximale de 102 400 tokens, ce qui permet de traiter confortablement de longs documents et de longues générations en une seule requête. La date limite de connaissance est le 31 octobre 2023. L'entrée multimodale signifie que vous pouvez transmettre des images en plus des invites textuelles, ce qui est utile lorsqu'une tâche dépend d'informations qui n'existent que dans une capture d'écran, un schéma ou une page numérisée.

Comme il gère à la fois le texte et les images sur un large contexte, le modèle convient aux tâches de compréhension de documents et d'images : résumer de longs rapports, extraire des données structurées à partir de formulaires numérisés ou de captures d'écran, répondre à des questions fondées sur un document fourni, et les workflows de support mixte texte et image. Le contexte de 128k le rend également raisonnable pour les questions au niveau d'une base de code, les historiques de conversation longs et l'analyse de type batch où vous souhaitez envoyer beaucoup de matière en un seul appel. La prise en charge des appels d'outils et de fonctions étend cela aux pipelines de type agent qui doivent récupérer des données ou déclencher des actions.

Vous appelez le modèle via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle mistralai/mistral-small-3.1-24b-instruct, ce qui signifie que les SDK et clients OpenAI existants fonctionnent avec seulement l'URL de base et la clé modifiées. Les paramètres de requête pris en charge sont frequency_penalty, logit_bias, logprobs, max_tokens, min_p, presence_penalty, repetition_penalty, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k, top_logprobs et top_p. Les sorties structurées et les contrôles d'échantillonnage sont utiles lorsque vous avez besoin d'un JSON prévisible ou de générations étroitement contraintes, tandis que seed aide à la reproductibilité pendant les tests.

Deux limites méritent d'être notées avant de vous engager. La date limite de connaissance est le 31 octobre 2023, donc tout ce qui est postérieur à cette date doit provenir de votre invite ou d'outils plutôt que des connaissances propres du modèle. La sortie est uniquement textuelle, donc si vous avez besoin d'images ou d'audio générés, ce modèle n'est pas adapté. Pour les tâches purement textuelles et bien en deçà d'un contexte plus petit, un modèle plus léger peut être moins cher et plus rapide, mais pour une entrée multimodale à 128k tokens, celui-ci couvre un large éventail de travaux.