Baseten: Elephant 1 (free)

Elephant 1 é um modelo de decisão da Baseten, lançado sob o id de modelo baseten/elephant-1:free. Ele vem do Base Labs, a equipe de pesquisa da Baseten, e é construído sobre o Qwen3.5-9B, uma base de 9B parâmetros. A categoria principal do modelo é decisões, o que reflete o que ele foi projetado para fazer, e não chat geral ou geração de conteúdo. A data de lançamento do provedor listada para este modelo é 2026-10-21.

O modelo usa texto como sua modalidade de entrada e produz decisões como sua modalidade de saída. Ele foi construído para trabalhar a partir de um estado, fornecido como texto ou JSON, junto com perguntas tipadas. Essas perguntas podem ser sim/não, múltipla escolha ou ordinais. A janela de contexto é de 16.384 tokens, e a saída máxima é de 14.745 tokens. Os parâmetros suportados não estão listados para este modelo, então você não deve assumir que controles de amostragem como temperature ou top_p estejam disponíveis quando você o chamar.

Como a saída é uma decisão e não prosa livre, os usos práticos decorrem de fazer perguntas estruturadas sobre um estado fornecido. Você pode passar um estado JSON e fazer uma pergunta sim/não para obter um julgamento binário, ou apresentar um conjunto de opções e pedir ao modelo que escolha entre elas. Perguntas ordinais permitem que você posicione um resultado em uma escala em vez de escolher um único rótulo. Isso se adequa a fluxos de trabalho como roteamento ou triagem, em que uma solicitação ou registro precisa ser classificado antes de processamento adicional, e etapas de triagem em que um estado deve ser verificado em relação a uma condição. Também se encaixa em qualquer pipeline em que você queira uma resposta compacta e tipada sobre a qual o código downstream possa agir, em vez de texto que precise ser analisado.

Você chama o modelo através da API compatível com OpenAI da api14 usando o id de modelo "baseten/elephant-1:free". Como a API é compatível com OpenAI, você envia solicitações no formato usual de chat completions, com o estado e suas perguntas tipadas no conteúdo da mensagem, e lê a decisão na resposta. O modelo aceita entrada de texto e retorna decisões, então mantenha o prompt focado no estado e na pergunta que você quer responder. Como nenhum parâmetro suportado está listado, envie o id do modelo e suas mensagens e evite depender de parâmetros extras da solicitação para alterar o comportamento.

Tenha em mente o limite de contexto: 16.384 tokens cobrem o estado mais suas perguntas, então documentos muito grandes precisarão ser reduzidos ou divididos antes de você enviá-los. O limite de saída de 14.745 tokens é generoso para uma decisão, mas a resposta em si é uma decisão e não uma explicação, então, se você precisar de raciocínio longo, sumarização ou geração aberta, um modelo de texto geral pode se adequar melhor. O Elephant 1 é a escolha certa quando a tarefa é responder perguntas tipadas sobre um estado fornecido e você quer o resultado como uma decisão.