Jared Palmer: Kev 4B

Jared Palmer: Kev 4B é um pequeno modelo de decisão de pesos abertos da autoria de Jared Palmer. É construído como um adaptador LoRA e uma cabeça de ponteiro sobre o Qwen3.5-4B-Base, e é servido através do mesmo contrato /v1/systemone que os modelos da TypeSafe. A sua categoria principal é decisões, e é a única categoria em que está listado, por isso é um modelo focado e não um assistente de propósito geral.

O modelo recebe texto como entrada e produz decisões como saída. Tem um comprimento de contexto de 8192 tokens, e a saída máxima é de 7372 tokens. Como a modalidade de saída é decisões e não texto de forma livre, deve esperar que o modelo devolva uma decisão em vez de uma resposta em estilo de conversa ou uma resposta escrita longa. O lado da entrada é apenas texto, por isso não há entrada de imagem, áudio ou ficheiro a planear.

Os casos de uso práticos decorrem diretamente dessa forma. O Kev 4B encaixa em fluxos de trabalho onde um trecho de texto precisa de ser mapeado para uma decisão, como encaminhar um pedido, escolher entre opções, classificar uma mensagem recebida ou controlar uma etapa num pipeline. É um modelo pequeno, por isso adequa-se a situações em que se pretende uma decisão tomada perto do resto do sistema, em vez de um modelo grande de propósito geral que escreve prosa. Se a sua tarefa for geração aberta, sumarização ou conversação, um modelo de saída de texto geral encaixará melhor, porque o Kev 4B não foi construído para produzir esse tipo de saída.

Chama-o através da API compatível com OpenAI da api14 usando o id de modelo "jaredpalmer/kev-4b". Como a API é compatível com OpenAI, aponta o seu cliente OpenAI existente para o URL base da api14 e passa esse id de modelo no seu pedido. Note que o modelo não lista parâmetros suportados, por isso não deve contar com opções de ajuste como temperature, top_p ou botões semelhantes a serem aceites ou a terem efeito. Envie o texto sobre o qual quer uma decisão e leia a decisão de volta a partir da resposta.

Tenha os limites em mente ao escolhê-lo. A janela de contexto é de 8192 tokens, o que é modesto, por isso documentos muito longos terão de ser cortados ou divididos antes de chegarem ao modelo. O teto de saída de 7372 tokens também está abaixo do comprimento de contexto, e como a saída é uma decisão, respostas de forma longa não são aquilo para que este modelo serve. Para tarefas que precisam de contexto grande, controlo rico de parâmetros ou saída escrita, outro modelo na api14 será normalmente a melhor escolha.