MoonshotAI: Kimi K2 0711

Kimi K2 0711 est un modèle de texte de Moonshot AI, identifié sur api14 comme moonshotai/kimi-k2. C'est un modèle de langage de type Mixture-of-Experts (MoE) à grande échelle, avec 1 billion de paramètres au total et 32 milliards actifs par passe avant, ce qui signifie qu'une fraction seulement du réseau est mobilisée pour chaque token qu'il génère. La date de publication par le fournisseur est le 2025-07-11, et la date limite de connaissances du modèle est le 2024-12-31, donc tout ce qui suit cette date est en dehors de ce qu'il a appris pendant l'entraînement.

Le modèle fonctionne avec du texte en entrée et du texte en sortie. Il accepte une fenêtre de contexte de 131 072 tokens et peut produire jusqu'à 98 304 tokens en une seule réponse, ce qui représente un budget de sortie important par rapport à la plupart des modèles de chat. Cette combinaison convient aux charges de travail où l'entrée est longue (documentation, transcriptions, bases de code) et où la réponse attendue est également longue, comme un rapport complet ou une refactorisation substantielle plutôt qu'une réponse d'une seule ligne.

Parce qu'il prend en charge l'appel d'outils, Kimi K2 s'adapte aux flux de travail de type agent où le modèle décide quand invoquer une fonction et quels arguments transmettre. Les usages typiques incluent les assistants multi-étapes qui interrogent des API internes, la génération augmentée par récupération sur de grands ensembles de documents, la synthèse et la rédaction de textes longs, ainsi que la génération ou la revue de code où le modèle doit conserver beaucoup de contexte environnant. Le plafond de sortie élevé le rend également raisonnable pour des tâches qui devraient autrement être réparties sur plusieurs appels.

Vous l'appelez via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle "moonshotai/kimi-k2", donc les SDK et clients OpenAI existants fonctionnent avec seulement l'URL de base et la clé modifiées. Les paramètres de requête pris en charge sont frequency_penalty, max_tokens, presence_penalty, repetition_penalty, seed, stop, temperature, tool_choice, tools, top_k et top_p. La présence de seed permet un échantillonnage plus reproductible, et tools plus tool_choice vous permettent de définir des schémas de fonctions et de contrôler si le modèle doit en appeler une.

Gardez les limites à l'esprit lors de son choix. L'entrée et la sortie sont uniquement du texte, donc les tâches d'image ou d'audio nécessitent un modèle différent, et le contexte de 131 072 tokens ainsi que le plafond de sortie de 98 304 tokens limitent ce qui peut être traité en une seule requête. La date limite de connaissances du 2024-12-31 signifie que les événements récents ne sont pas couverts, sauf si vous les fournissez dans le prompt ou via des outils. Pour des requêtes courtes et simples, un modèle plus petit peut être plus adapté.