Thinking Machines: Inkling Small

Thinking Machines: Inkling Small é um modelo de mistura de especialistas multimodal de pesos abertos da Thinking Machines Lab. Tem 12B parâmetros ativos de um total de 276B, e é posicionado como o membro menor e mais eficiente da família Inkling. A data de lançamento pelo provedor é 2026-07-30. Como os pesos são abertos, equipes que precisam inspecionar, auto-hospedar ou ajustar finamente um modelo têm essa opção, enquanto o endpoint hospedado em api14 está disponível para quem prefere não executar a infraestrutura por conta própria.

O modelo aceita entradas de texto, imagem e áudio e retorna texto. Sua janela de contexto é de 524288 tokens, e a saída máxima é de 262144 tokens, então ele pode receber documentos muito grandes, gravações longas ou conjuntos de imagens junto com um prompt e ainda produzir uma resposta longa em uma única chamada. O design de mistura de especialistas significa que apenas uma fração do total de parâmetros está ativa por token, o que é a principal razão pela qual um modelo desse tamanho pode ser servido com latência e throughput razoáveis. O comportamento de raciocínio é exposto através da API, então você pode decidir quanta deliberação interna deseja antes da resposta final.

Essas capacidades apontam para um conjunto bastante específico de usos. Trabalho com contexto longo é o encaixe óbvio: resumir ou consultar grandes bases de código, conjuntos de contratos, corpora de pesquisa ou históricos de tickets de suporte que não caberiam em uma janela menor. A entrada multimodal o torna útil para tarefas que misturam formatos, como extrair dados estruturados de documentos digitalizados com imagens incorporadas, transcrever e então raciocinar sobre áudio, ou responder perguntas sobre uma captura de tela mais um briefing escrito. O suporte a chamadas de ferramentas e raciocínio atende a fluxos de trabalho no estilo agente, onde o modelo precisa decidir qual função invocar e então explicar seu resultado.

Você o chama através da API compatível com OpenAI da api14 usando o id de modelo "thinkingmachines/inkling-small". Os parâmetros de requisição suportados são frequency_penalty, include_reasoning, logit_bias, max_tokens, min_p, presence_penalty, reasoning, reasoning_effort, repetition_penalty, seed, stop, temperature, tool_choice, tools, top_k e top_p. Se você já tem código escrito para o formato de chat completions da OpenAI, mudar para este modelo é basicamente uma questão de alterar a string do modelo e, se você quiser saída de raciocínio, definir include_reasoning ou reasoning_effort.

É um modelo de saída de texto, então qualquer coisa que exija imagens, áudio ou vídeo gerados está fora do escopo aqui. O limite de saída de 262144 tokens é generoso, mas ainda finito, o que importa para trabalhos de geração muito longos. Se sua carga de trabalho é pequena, sensível à latência e puramente textual, um modelo mais leve pode ser mais barato de executar, e se você precisa de modalidades de saída além de texto, vai precisar de um modelo diferente.