MoonshotAI: Kimi K3 (batch)

MoonshotAI: Kimi K3 (batch) é um modelo de geração de texto da Moonshot AI, identificado na api14 pelo id de modelo moonshotai/kimi-k3:batch. É um modelo de raciocínio multimodal com pesos abertos e 2,8 trilhões de parâmetros, construído para trabalho exigente e não para conversas leves. A variante batch é a versão que você chama através da api14, e mantém a mesma identidade e comportamento de modelo da versão base Kimi K3 do fornecedor.

O modelo aceita texto, imagens e vídeo como entrada, e produz texto como saída. A sua janela de contexto é de 1.048.576 tokens, o que é suficiente para conter bases de código inteiras, conjuntos longos de documentos ou históricos de conversa extensos num único pedido. O comprimento máximo de saída é de 16.384 tokens por resposta. Por ser um modelo de raciocínio, pode gastar parte do seu orçamento de geração em raciocínio interno antes de produzir a resposta final, e esse comportamento pode ser influenciado através dos parâmetros reasoning e reasoning_effort.

Essas capacidades apontam para alguns usos práticos. Tarefas complexas de programação encaixam bem, incluindo trabalhar em repositórios grandes onde o código fonte completo precisa de estar no contexto. Trabalho de conhecimento como resumir, comparar ou extrair de documentos e relatórios longos é outro encaixe natural, especialmente quando o material de origem inclui imagens ou vídeo que têm de ser interpretados juntamente com o texto. Fluxos de trabalho agênticos de longo horizonte são também um caso de uso alvo, onde o modelo planeia ao longo de muitos passos, chama ferramentas e mantém o estado ao longo de um contexto longo.

Você chama o modelo através da API compatível com OpenAI da api14 usando o id de modelo moonshotai/kimi-k3:batch. O pedido suporta frequency_penalty, include_reasoning, logit_bias, max_tokens, min_p, presence_penalty, reasoning, reasoning_effort, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k e top_p. A chamada de ferramentas e as saídas estruturadas estão disponíveis através dos parâmetros tools, tool_choice, response_format e structured_outputs, e a amostragem pode ser ajustada com temperature, top_p, top_k, min_p e os parâmetros de penalização. Uma seed pode ser definida para amostragem reprodutível.

Tenha em conta o teto de saída: as respostas estão limitadas a 16.384 tokens, por isso tarefas que precisam de uma única resposta muito longa podem exigir dividir o trabalho por vários pedidos. O modelo também produz apenas texto, por isso qualquer entrada de imagem ou vídeo é interpretada para produzir texto e não uma saída de media gerada. Para tarefas de texto simples e curtas, um modelo menor e mais rápido pode ser uma escolha mais económica do que um modelo de raciocínio de 2,8T parâmetros.