MoonshotAI: Kimi K2 0711

Kimi K2 0711 é um modelo de texto da Moonshot AI, identificado na api14 como moonshotai/kimi-k2. É um modelo de linguagem Mixture-of-Experts (MoE) de grande escala com 1 trilhão de parâmetros totais e 32 bilhões ativos por passagem direta, o que significa que apenas uma fração da rede é acionada para cada token que gera. A data de lançamento do provedor é 2025-07-11, e o corte de conhecimento do modelo é 2024-12-31, portanto qualquer coisa após essa data está fora do que ele aprendeu durante o treinamento.

O modelo trabalha com texto de entrada e texto de saída. Ele aceita uma janela de contexto de 131.072 tokens e pode produzir até 98.304 tokens em uma única resposta, o que é um orçamento de saída grande em relação à maioria dos modelos de chat. Essa combinação é adequada para cargas de trabalho em que a entrada é longa (documentação, transcrições, bases de código) e a resposta esperada também é longa, como um relatório completo ou uma refatoração substancial em vez de uma resposta de uma linha.

Como ele suporta chamada de ferramentas, o Kimi K2 se encaixa em fluxos de trabalho no estilo agente, em que o modelo decide quando invocar uma função e quais argumentos passar. Usos típicos incluem assistentes de múltiplas etapas que consultam APIs internas, geração aumentada por recuperação sobre grandes conjuntos de documentos, sumarização e redação de texto longo, e geração ou revisão de código em que o modelo precisa manter muito contexto ao redor. O alto teto de saída também o torna razoável para tarefas que, de outra forma, precisariam ser divididas em várias chamadas.

Você o chama através da API compatível com OpenAI da api14 usando o id de modelo "moonshotai/kimi-k2", então SDKs e clientes OpenAI existentes funcionam com apenas a URL base e a chave alteradas. Os parâmetros de requisição que ele suporta são frequency_penalty, max_tokens, presence_penalty, repetition_penalty, seed, stop, temperature, tool_choice, tools, top_k e top_p. A presença de seed permite uma amostragem mais reproduzível, e tools mais tool_choice permitem definir esquemas de funções e controlar se o modelo deve chamar uma.

Tenha os limites em mente ao escolhê-lo. Entrada e saída são apenas texto, então tarefas de imagem ou áudio precisam de um modelo diferente, e o contexto de 131.072 tokens e o limite de saída de 98.304 tokens delimitam quanto pode ser tratado em uma única requisição. O corte de conhecimento de 2024-12-31 significa que eventos recentes não são cobertos, a menos que você os forneça no prompt ou através de ferramentas. Para requisições curtas e simples, um modelo menor pode ser mais adequado.