Xiaomi: MiMo-V2.6-Flash

MiMo-V2.6-Flash est un modèle de base open source de Xiaomi, répertorié sur api14 sous l'identifiant de modèle xiaomi/mimo-v2.6-flash. Il appartient à la catégorie texte et repose sur une architecture Mixture-of-Experts avec 309B de paramètres au total et 15B activés par token, utilisant un mécanisme d'attention hybride. Xiaomi le positionne comme un modèle de base plutôt qu'un système étroit dédié à une tâche spécifique, il est donc destiné à servir de socle général pour un large éventail de travaux linguistiques.

Le modèle accepte le texte, l'image, la vidéo et l'audio en entrée, et produit du texte en sortie. Sa fenêtre de contexte est de 1 050 000 tokens, et la longueur de sortie maximale est de 131 072 tokens. Cette combinaison d'un contexte très vaste et d'une entrée multimodale signifie qu'une seule requête peut transporter de longs documents accompagnés d'images, de vidéos ou d'audio, et renvoyer malgré tout une réponse textuelle substantielle. Les paramètres de requête pris en charge incluent temperature, top_p, top_k, min_p, frequency_penalty, presence_penalty, repetition_penalty, max_tokens, stop, seed, logit_bias, logprobs, top_logprobs, response_format, structured_outputs, tools, tool_choice, reasoning et include_reasoning.

Ces capacités renvoient à quelques schémas pratiques. Les travaux à contexte long, comme le résumé ou l'interrogation de grands ensembles de documents, de bases de code ou de transcriptions, s'y prêtent naturellement, puisque la fenêtre est assez grande pour contenir des éléments qui nécessiteraient autrement un découpage. Comme des images, des vidéos et de l'audio peuvent être fournis en entrée, le modèle peut être utilisé pour des tâches telles que décrire des médias, extraire des informations de captures d'écran ou de pages numérisées, ou répondre à des questions sur du contenu enregistré, la réponse étant renvoyée sous forme de texte. L'appel d'outils et les sorties structurées le rendent adapté aux pipelines où le modèle doit appeler des fonctions ou émettre du JSON que le code en aval peut analyser, et les paramètres reasoning et include_reasoning offrent un moyen de demander ou d'inspecter un raisonnement intermédiaire lorsque cela est utile.

L'appeler via api14 fonctionne de la même manière que pour tout autre modèle compatible OpenAI. Envoyez une requête au point de terminaison chat completions avec le champ model défini sur xiaomi/mimo-v2.6-flash, et transmettez les messages au format OpenAI habituel, y compris les parties de contenu multimodales pour l'entrée image, vidéo ou audio. Les paramètres listés ci-dessus peuvent être définis dans le corps de la requête ; les contrôles d'échantillonnage tels que temperature, top_p, top_k et min_p façonnent la génération, max_tokens plafonne la sortie, et tools, tool_choice, response_format et structured_outputs couvrent l'appel de fonctions et les réponses structurées. Le streaming et les bibliothèques client OpenAI standard devraient fonctionner comme prévu avec l'interface compatible.

Un point à garder en tête est que la sortie est uniquement textuelle, le modèle ne peut donc pas générer d'images, de vidéos ou d'audio en retour. Si une tâche exige de produire des médias plutôt que de les décrire ou de raisonner à leur sujet, un autre modèle serait nécessaire. Le contexte étendu et le plafond de sortie de 131 072 tokens impliquent aussi que les requêtes peuvent être lourdes, donc pour des invites courtes et simples, un modèle plus petit peut être un choix plus proportionné.