Jared Palmer: Kev 4B

Jared Palmer: Kev 4B es un pequeño modelo de decisión de pesos abiertos de Jared Palmer. Está construido como un adaptador LoRA y una cabeza de puntero sobre Qwen3.5-4B-Base, y se sirve a través del mismo contrato /v1/systemone que los modelos de TypeSafe. Su categoría principal es decisiones, y esa es la única categoría en la que está listado, por lo que es un modelo enfocado en lugar de un asistente de propósito general.

El modelo toma texto como entrada y produce decisiones como salida. Tiene una longitud de contexto de 8192 tokens, y la salida máxima es de 7372 tokens. Debido a que la modalidad de salida es decisiones en lugar de texto de forma libre, debes esperar que el modelo devuelva una decisión en lugar de una respuesta estilo chat o una respuesta escrita larga. El lado de entrada es solo texto, así que no hay entrada de imagen, audio o archivos que planificar.

Los casos de uso prácticos se derivan directamente de esa forma. Kev 4B encaja en flujos de trabajo donde un fragmento de texto necesita asignarse a una decisión, como enrutar una solicitud, elegir entre opciones, clasificar un mensaje entrante o controlar un paso en un pipeline. Es un modelo pequeño, así que se adapta a situaciones donde quieres que se tome una decisión cerca del resto de tu sistema en lugar de un modelo general grande que escribe prosa. Si tu tarea es generación abierta, resumen o conversación, un modelo general de salida de texto encajará mejor, porque Kev 4B no está construido para producir ese tipo de salida.

Lo llamas a través de la API compatible con OpenAI de api14 usando el id de modelo "jaredpalmer/kev-4b". Debido a que la API es compatible con OpenAI, apuntas tu cliente OpenAI existente a la URL base de api14 y pasas ese id de modelo en tu solicitud. Ten en cuenta que el modelo no lista parámetros soportados, así que no debes confiar en que opciones de ajuste como temperature, top_p o perillas similares sean aceptadas o tengan efecto. Envía el texto sobre el que quieres una decisión y lee la decisión de vuelta desde la respuesta.

Ten en cuenta los límites al elegirlo. La ventana de contexto es de 8192 tokens, lo cual es modesto, así que los documentos muy largos necesitarán recortarse o dividirse antes de llegar al modelo. El techo de salida de 7372 tokens también está por debajo de la longitud de contexto, y dado que la salida es una decisión, las respuestas de forma larga no son para lo que sirve este modelo. Para tareas que necesitan contexto grande, control rico de parámetros o salida escrita, otro modelo en api14 normalmente será la mejor opción.