Jared Palmer: Kev 4B

Jared Palmer: Kev 4B to mały model decyzyjny o otwartych wagach od Jareda Palmera. Jest zbudowany jako adapter LoRA i głowica wskaźnikowa na Qwen3.5-4B-Base i jest udostępniany przez ten sam kontrakt /v1/systemone co modele TypeSafe. Jego główna kategoria to decyzje i jest to jedyna kategoria, w której jest wymieniony, więc jest to model skupiony, a nie asystent ogólnego przeznaczenia.

Model przyjmuje tekst jako dane wejściowe i zwraca decyzje jako dane wyjściowe. Ma długość kontekstu 8192 tokenów, a maksymalne wyjście to 7372 tokenów. Ponieważ modalnością wyjściową są decyzje, a nie dowolny tekst, należy oczekiwać, że model zwróci decyzję, a nie odpowiedź w stylu czatu ani długą pisemną odpowiedź. Strona wejściowa to wyłącznie tekst, więc nie ma danych wejściowych w postaci obrazów, dźwięku ani plików, które trzeba by uwzględnić.

Praktyczne przypadki użycia wynikają bezpośrednio z tego kształtu. Kev 4B pasuje do przepływów pracy, w których fragment tekstu trzeba zmapować na decyzję, na przykład przy kierowaniu żądania, wyborze między opcjami, klasyfikowaniu przychodzącej wiadomości lub sterowaniu krokiem w potoku. To mały model, więc nadaje się do sytuacji, w których chcesz, aby decyzja została podjęta blisko reszty twojego systemu, a nie przez duży model ogólny, który pisze prozę. Jeśli twoim zadaniem jest generowanie otwarte, streszczanie lub rozmowa, lepiej sprawdzi się model generujący ogólny tekst, ponieważ Kev 4B nie jest zbudowany do tworzenia tego rodzaju danych wyjściowych.

Wywołujesz go przez zgodne z OpenAI API api14, używając identyfikatora modelu "jaredpalmer/kev-4b". Ponieważ API jest zgodne z OpenAI, kierujesz swojego istniejącego klienta OpenAI na bazowy adres URL api14 i przekazujesz ten identyfikator modelu w żądaniu. Zwróć uwagę, że model nie wymienia żadnych obsługiwanych parametrów, więc nie należy zakładać, że opcje dostrajania, takie jak temperature, top_p lub podobne pokrętła, będą akceptowane lub będą miały efekt. Wyślij tekst, dla którego chcesz decyzji, i odczytaj decyzję z odpowiedzi.

Pamiętaj o ograniczeniach przy jego wyborze. Okno kontekstu wynosi 8192 tokenów, co jest umiarkowane, więc bardzo długie dokumenty będą wymagały przycięcia lub podzielenia, zanim dotrą do modelu. Pułap wyjściowy wynoszący 7372 tokenów jest również poniżej długości kontekstu, a ponieważ wyjściem jest decyzja, długie odpowiedzi nie są tym, do czego służy ten model. W przypadku zadań wymagających dużego kontekstu, bogatej kontroli parametrów lub pisemnego wyjścia zwykle lepszym wyborem będzie inny model w api14.