Thinking Machines: Inkling

Thinking Machines: Inkling é um modelo de mistura de especialistas multimodal de pesos abertos da Thinking Machines Lab. Tem 41B parâmetros ativos de um total de 975B, e foi concebido para raciocínio de uso geral, programação, sistemas agênticos e de uso de ferramentas. Na api14 está listado sob o id de modelo thinkingmachines/inkling e enquadra-se na categoria de texto.

O modelo aceita texto, imagem e áudio como entrada e produz texto como saída, pelo que pode funcionar com prompts de vários tipos de media em vez de apenas texto. A sua janela de contexto é de 524.288 tokens, e a saída máxima é de 471.859 tokens. Essa combinação de uma janela de entrada longa e um grande orçamento de saída torna-o adequado para tarefas em que é necessário ler muito material e escrever uma quantidade substancial de texto de volta num único pedido.

Os usos práticos decorrem dessas capacidades. Documentos longos, bases de código extensas e transcrições prolongadas podem ser fornecidos sem grande fragmentação, o que ajuda na geração e revisão de código, no raciocínio em vários passos sobre material de origem extenso, e em sistemas agênticos ou de uso de ferramentas que precisam de manter muito estado em contexto. Como imagens e áudio podem ser fornecidos juntamente com texto, o mesmo modelo pode tratar prompts que misturam uma captura de ecrã ou uma gravação com instruções escritas, devolvendo depois uma resposta em texto. Os parâmetros de raciocínio e de ferramentas apontam também para fluxos de trabalho em que o modelo planeia, chama ferramentas e comunica resultados.

Pode chamá-lo através da API compatível com OpenAI da api14 usando o id de modelo thinkingmachines/inkling. Os parâmetros de pedido suportados são frequency_penalty, include_reasoning, logit_bias, max_tokens, min_p, presence_penalty, reasoning, reasoning_effort, repetition_penalty, seed, stop, temperature, tool_choice, tools, top_k e top_p. O uso de ferramentas é configurado com tools e tool_choice, o comprimento da saída com max_tokens, o comportamento de amostragem com temperature, top_p, top_k, min_p e os parâmetros de penalização, e o comportamento de raciocínio com reasoning, reasoning_effort e include_reasoning. Pode definir-se uma seed para amostragem reproduzível, e podem fornecer-se sequências de stop para terminar a geração em pontos escolhidos.

A principal restrição a ter em conta é que a saída é apenas texto, pelo que tarefas que exijam gerar imagens ou áudio estão fora do seu âmbito. Se a sua carga de trabalho for puramente texto e não precisar das entradas multimodais nem do contexto longo, um modelo mais pequeno apenas de texto pode ser uma escolha mais simples. Para prompts de vários tipos de media, entradas muito longas ou agentes orientados por ferramentas, o Inkling é a escolha apropriada entre os modelos aqui disponíveis.