Together: Tev1 4B Experimental

Together: Tev1 4B Experimental é um modelo de decisão experimental da Together AI. É um ajuste fino supervisionado do Qwen3.5-4B, treinado para escolher uma opção a partir de um estado estruturado, uma pergunta e uma lista de opções. O modelo situa-se na categoria de decisões, e o seu nome reflete o seu estatuto: é um lançamento experimental e não um modelo de conversação de uso geral.

O modelo recebe texto como única entrada e produz decisões como única saída. A sua janela de contexto é de 32768 tokens, o que é suficiente para conter um estado estruturado, uma pergunta e uma lista de 2 a 24 opções candidatas num único pedido. A saída máxima é de 8 tokens, o que se ajusta à forma da tarefa: o modelo devolve uma escolha, não um ensaio. Não há aqui geração de texto livre, nem entrada de imagem, áudio ou outro tipo não textual.

Como a saída é uma única decisão retirada de uma lista fornecida, os casos de uso práticos são aqueles em que um sistema precisa de escolher uma opção de um conjunto conhecido. Exemplos incluem encaminhar um pedido para o manipulador correto, selecionar uma categoria ou etiqueta de uma taxonomia fixa, escolher a ação seguinte num fluxo de trabalho, ou resolver uma ramificação num ciclo de agente. O estado estruturado e a pergunta dão ao modelo o contexto de que necessita, e a lista de opções limita o espaço de resposta, pelo que o resultado pode ser consumido diretamente por código a jusante sem analisar texto em linguagem natural.

Chama o modelo através da API compatível com OpenAI da api14 usando o id de modelo "togethercomputer/tev1-4b-experimental". Como a interface segue a forma das chat completions da OpenAI, envia o estado, a pergunta e as opções como entrada de texto no corpo do pedido habitual e lê a decisão a partir da resposta. O modelo não suporta parâmetros de pedido adicionais além dos padrão, pelo que não há temperature, top_p ou controlo de amostragem semelhante para ajustar. Com uma saída máxima de 8 tokens, as respostas são curtas por conceção.

Este modelo adequa-se a tarefas de decisão com um conjunto limitado de opções, não a conversação aberta, escrita longa ou raciocínio com muitas ferramentas. Se a tua tarefa precisa de texto gerado, explicação em vários passos ou entradas que não sejam texto, outro modelo será mais adequado. O contexto de 32768 tokens e o intervalo de 2 a 24 opções também definem a forma dos problemas para os quais foi treinado, por isso mantém o estado e a pergunta concisos e a lista de opções dentro desse intervalo.