Xiaomi: MiMo-V2.6-Pro-UltraSpeed

MiMo-V2.6-Pro-UltraSpeed est un modèle de génération de texte de Xiaomi, référencé sur api14 sous xiaomi/mimo-v2.6-pro-ultraspeed. Il s'agit de l'édition rapide du modèle de fondation phare de Xiaomi, MiMo-V2.6-Pro, et il est construit à partir du même point de contrôle MiMo-V2.6-Pro de 1T. Selon Xiaomi, il égale le modèle original en qualité tout en offrant environ 10 fois la vitesse. Il appartient à la catégorie texte et s'adresse aux développeurs qui veulent une sortie de niveau phare sans la latence du modèle complet.

Le modèle accepte le texte, l'image, la vidéo et l'audio en entrée, et produit du texte en sortie. Cela en fait un modèle multimodal du côté entrée : vous pouvez envoyer une invite qui inclut une image, une vidéo ou un clip audio en plus du texte, et recevoir une réponse textuelle. La fenêtre de contexte est de 1 048 576 jetons, ce qui est suffisamment grand pour contenir de très longs documents, de longues transcriptions ou des conversations multi-tours étendues en une seule requête. La sortie maximale est de 131 072 jetons, les réponses peuvent donc être longues également. Les paramètres de requête pris en charge incluent temperature, top_p, frequency_penalty, presence_penalty, max_tokens, stop, response_format, structured_outputs, tools, tool_choice, reasoning et include_reasoning.

Ces capacités indiquent quelques usages pratiques. La grande fenêtre de contexte convient aux tâches qui impliquent de lire et de raisonner sur de longues entrées, comme résumer de longs rapports, analyser de longues transcriptions ou répondre à des questions sur un vaste corpus de texte. Comme les images, la vidéo et l'audio peuvent être transmis, le modèle peut être utilisé pour des tâches comme décrire ou extraire des informations de médias visuels, travailler avec de l'audio enregistré, ou combiner un document avec une capture d'écran dans une seule invite. L'appel d'outils et les sorties structurées en font un choix raisonnable pour les flux de travail de type agent et pour les applications qui ont besoin de réponses dans un schéma fixe, comme les pipelines d'extraction de données. Le paramètre reasoning vous donne un moyen de demander une sortie de raisonnement lorsqu'une tâche en bénéficie.

Vous appelez le modèle via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle xiaomi/mimo-v2.6-pro-ultraspeed. Comme le point de terminaison suit le format des complétions de chat d'OpenAI, vous pouvez utiliser les SDK OpenAI existants et les pointer vers api14, ou envoyer des requêtes directement. Le corps de la requête accepte les paramètres listés ci-dessus : temperature, top_p, frequency_penalty, presence_penalty, max_tokens, stop, response_format, structured_outputs, tools, tool_choice, reasoning et include_reasoning. Utilisez max_tokens pour plafonner la longueur de sortie jusqu'au maximum de 131 072 jetons, et utilisez tools avec tool_choice lorsque vous voulez que le modèle appelle des fonctions que vous définissez.

Une chose à garder à l'esprit est que le modèle produit uniquement du texte, ce n'est donc pas le bon choix si vous avez besoin d'images, d'audio ou de vidéo générés. Son côté entrée est multimodal, mais la réponse est toujours du texte. Si votre charge de travail n'a pas besoin de l'édition rapide, ou si vous avez besoin de modalités de sortie autres que le texte, un autre modèle conviendra peut-être mieux. Pour les tâches textuelles qui impliquent de longues entrées, une entrée multimédia mixte, l'utilisation d'outils ou une sortie structurée, ce modèle couvre directement ces cas.