Jared Palmer: Kev 4B

Jared Palmer: Kev 4B는 Jared Palmer의 소형 오픈 웨이트 결정 모델입니다. Qwen3.5-4B-Base 위에 LoRA 어댑터와 포인터 헤드로 구축되었으며, TypeSafe의 모델과 동일한 /v1/systemone 계약을 통해 제공됩니다. 주요 카테고리는 decisions이며, 그것이 이 모델이 등록된 유일한 카테고리이므로, 범용 어시스턴트가 아니라 특화된 모델입니다.

이 모델은 텍스트를 입력으로 받고 결정을 출력으로 생성합니다. 컨텍스트 길이는 8192 토큰이고, 최대 출력은 7372 토큰입니다. 출력 양식이 자유 형식 텍스트가 아니라 결정이므로, 이 모델이 채팅 스타일 답변이나 긴 서술형 답변 대신 결정을 반환할 것이라고 예상해야 합니다. 입력 쪽은 텍스트 전용이므로, 계획할 이미지, 오디오 또는 파일 입력은 없습니다.

실용적인 사용 사례는 그 형태에서 바로 따라옵니다. Kev 4B는 텍스트 조각을 결정에 매핑해야 하는 워크플로, 예를 들어 요청 라우팅, 옵션 간 선택, 수신 메시지 분류 또는 파이프라인의 단계 게이팅에 적합합니다. 소형 모델이므로, 산문을 작성하는 대형 범용 모델보다 시스템의 나머지 부분 가까이에서 결정을 내리기를 원하는 상황에 어울립니다. 작업이 개방형 생성, 요약 또는 대화라면 범용 텍스트 출력 모델이 더 잘 맞습니다. Kev 4B는 그런 종류의 출력을 생성하도록 만들어지지 않았기 때문입니다.

모델 id "jaredpalmer/kev-4b"를 사용해 api14의 OpenAI 호환 API를 통해 호출합니다. API가 OpenAI 호환 방식이므로, 기존 OpenAI 클라이언트를 api14 기본 URL로 지정하고 요청에 해당 모델 id를 전달하면 됩니다. 이 모델은 지원되는 파라미터를 나열하지 않으므로, temperature, top_p 또는 이와 유사한 조정 옵션이 허용되거나 효과가 있다고 기대해서는 안 됩니다. 결정을 내리길 원하는 텍스트를 보내고 응답에서 결정을 읽으면 됩니다.

선택할 때 제한을 염두에 두세요. 컨텍스트 윈도우는 8192 토큰으로 작은 편이므로, 매우 긴 문서는 모델에 도달하기 전에 잘라내거나 분할해야 합니다. 7372 토큰의 출력 상한도 컨텍스트 길이보다 낮으며, 출력이 결정이므로 긴 형식의 답변은 이 모델의 용도가 아닙니다. 큰 컨텍스트, 풍부한 파라미터 제어 또는 서술형 출력이 필요한 작업에는 api14의 다른 모델이 보통 더 나은 선택입니다.