Mistral: Mistral Nemo

Mistral Nemo est un modèle de texte de Mistral, construit en collaboration avec NVIDIA. C'est un modèle de 12B paramètres, et sa date de publication par le fournisseur était le 19 juillet 2024. Le modèle est multilingue, prenant en charge l'anglais, le français, l'allemand, l'espagnol, l'italien, le portugais, le chinois, le japonais et d'autres langues. Si vous choisissez un modèle pour un projet, celui-ci se situe dans le tier plus petit et efficace de la gamme Mistral plutôt que dans les plus grands modèles phares.

Le modèle prend du texte en entrée et renvoie du texte en sortie, c'est donc un modèle de langage simple sans traitement d'images ni d'audio. Sa fenêtre de contexte est de 131072 tokens, ce qui est suffisamment grand pour contenir de longs documents, des conversations étendues ou des fichiers de code volumineux dans une seule requête. La sortie maximale est de 16384 tokens, les réponses peuvent donc être longues mais sont plafonnées bien en dessous de la limite d'entrée. Sa date de coupure des connaissances est le 30 avril 2024, ce qui compte si votre tâche dépend d'événements ou d'informations postérieurs à cette date.

Ces capacités indiquent quelques usages pratiques. Le contexte long convient à la synthèse ou à l'extraction d'informations à partir de rapports, contrats et transcriptions volumineux, et la prise en charge multilingue aide à la traduction et aux applications qui servent des utilisateurs dans plusieurs langues. Comme le modèle accepte et renvoie uniquement du texte, il convient aux assistants de chat, aux réponses à des questions sur des documents fournis, à la rédaction et à la réécriture, à la classification et à d'autres tâches de transformation de texte. Le plafond de sortie de 16384 tokens signifie que des documents générés très longs peuvent devoir être produits en plusieurs passes.

Vous pouvez appeler le modèle via l'API compatible OpenAI d'api14 en utilisant l'id de modèle "mistralai/mistral-nemo". Les paramètres de requête pris en charge sont frequency_penalty, logit_bias, logprobs, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k, top_logprobs et top_p. Cet ensemble couvre les contrôles d'échantillonnage, l'initialisation déterministe, les séquences d'arrêt, les sorties structurées et l'appel d'outils, vous pouvez donc façonner à la fois le style de la sortie et son format sans quitter l'interface standard.

Quelques limites méritent d'être gardées à l'esprit. L'entrée et la sortie sont uniquement du texte, les tâches qui nécessitent l'analyse d'images ou d'audio ont donc besoin d'un autre modèle. La date de coupure des connaissances du 30 avril 2024 signifie que le modèle n'a pas de connaissance intégrée des événements postérieurs, et le plafond de sortie de 16384 tokens limite la longueur d'une réponse unique. Si votre charge de travail dépend de l'un de ces éléments, un autre modèle pourrait mieux convenir.