Jared Palmer: Kev 4B

Jared Palmer : Kev 4B est un petit modèle de décision à poids ouverts de Jared Palmer. Il est construit comme un adaptateur LoRA et une tête de pointeur sur Qwen3.5-4B-Base, et il est servi via le même contrat /v1/systemone que les modèles de TypeSafe. Sa catégorie principale est les décisions, et c'est la seule catégorie sous laquelle il est répertorié, donc c'est un modèle spécialisé plutôt qu'un assistant polyvalent.

Le modèle prend du texte en entrée et produit des décisions en sortie. Il a une longueur de contexte de 8192 tokens, et la sortie maximale est de 7372 tokens. Comme la modalité de sortie est constituée de décisions plutôt que de texte libre, vous devez vous attendre à ce que le modèle renvoie une décision plutôt qu'une réponse de style conversationnel ou une longue réponse écrite. Le côté entrée est uniquement textuel, donc il n'y a pas d'entrée image, audio ou fichier à prévoir.

Les cas d'usage pratiques découlent directement de cette forme. Kev 4B convient aux flux de travail où un texte doit être associé à une décision, comme router une requête, choisir entre des options, classer un message entrant ou conditionner une étape dans un pipeline. C'est un petit modèle, donc il convient aux situations où vous voulez qu'une décision soit prise au plus près du reste de votre système plutôt qu'un grand modèle général qui rédige de la prose. Si votre tâche est de la génération ouverte, du résumé ou de la conversation, un modèle général à sortie textuelle conviendra mieux, car Kev 4B n'est pas conçu pour produire ce type de sortie.

Vous l'appelez via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle "jaredpalmer/kev-4b". Comme l'API est compatible OpenAI, vous pointez votre client OpenAI existant vers l'URL de base d'api14 et passez cet identifiant de modèle dans votre requête. Notez que le modèle ne liste aucun paramètre pris en charge, donc vous ne devez pas compter sur des options de réglage telles que temperature, top_p ou des réglages similaires comme étant acceptées ou ayant un effet. Envoyez le texte sur lequel vous voulez une décision et lisez la décision dans la réponse.

Gardez les limites à l'esprit lors de son choix. La fenêtre de contexte est de 8192 tokens, ce qui est modeste, donc les documents très longs devront être tronqués ou découpés avant d'atteindre le modèle. Le plafond de sortie de 7372 tokens est également inférieur à la longueur de contexte, et comme la sortie est une décision, les réponses longues ne sont pas ce à quoi ce modèle est destiné. Pour les tâches qui nécessitent un grand contexte, un contrôle riche des paramètres ou une sortie écrite, un autre modèle sur api14 sera généralement le meilleur choix.