TypeSafe: Jev 1.13

TypeSafe: Jev 1.13은 TypeSafe의 구조화된 결정 모델이며, System One 모델 중 첫 번째입니다. TypeSafe는 System One 모델을 소프트웨어를 위해 빠르고 구조화된 결정을 내리는 도구로 위치시키며, 자유 형식의 산문이 아닌 타입이 지정된 선택을 반환합니다. 따라서 Jev 1.13은 일반 채팅이나 글쓰기 모델이 아닙니다. 주요 카테고리는 결정이며, 결정은 이 모델이 다루는 유일한 카테고리입니다. 정의된 옵션 중에서 선택할 모델이 필요한 소프트웨어를 만든다면, 이것이 TypeSafe가 그런 용도로 만든 모델 클래스입니다.

이 모델은 텍스트를 입력으로 받아 결정을 출력으로 생성합니다. 컨텍스트 윈도우는 64,000 토큰이고 최대 출력은 57,600 토큰입니다. 출력이 개방형 텍스트가 아닌 타입이 지정된 선택이므로, Jev 1.13은 에세이 초안을 작성하거나 대화를 나누도록 요청하는 모델이 아니라 시스템의 결정 지점에 끼워 넣는 컴포넌트로 생각해야 합니다. 입력 측은 텍스트 전용이므로, 이미지, 오디오 또는 기타 모달리티는 모델에 도달하기 전에 텍스트로 변환해야 합니다.

실용적인 사용 사례는 그 형태에서 바로 따라옵니다. Jev 1.13은 요청이나 레코드가 알려진 카테고리 집합 중 하나에 할당되어야 하는 라우팅 및 트리아지 로직에 적합합니다. 출력이 사람 독자가 아니라 코드의 다음 단계로 공급되는 파이프라인 내부의 분류 및 라벨링 단계에 적합합니다. 소프트웨어가 정의된 결과 중에서 일관된 선택을 해야 하는 게이팅 및 승인 결정에 적합합니다. 또한 산문을 파싱하고 형식이 유지되기를 바라는 대신, 분기할 수 있는 구조화된 값으로 결정을 받고 싶은 모든 워크플로에 적합합니다.

모델은 모델 id "typesafe/jev-1.13"을 사용하여 api14의 OpenAI 호환 API를 통해 호출합니다. API가 OpenAI 호환이므로 기존 OpenAI 클라이언트 라이브러리와 일반적인 chat completion 요청 형태가 재작성 없이 작동합니다. 모델 id를 변경하고 클라이언트를 api14로 지정하면 됩니다. 이 모델은 지원되는 파라미터를 나열하지 않으므로, 일반 요청을 보내야 하며 temperature 또는 top_p 같은 튜닝 옵션이 적용될 것이라고 기대하지 마십시오. 모델 id가 필요한 유일한 식별자입니다.

염두에 두어야 할 한 가지 제한은 범위입니다. Jev 1.13은 결정을 반환하므로, 생성된 산문, 요약, 번역 또는 다중 턴 대화가 필요한 작업에는 잘 맞지 않으며, 그런 경우에는 일반 텍스트 생성 모델이 더 나은 선택입니다. 마찬가지로 결정 문제에 이미지나 오디오 입력이 필요하다면 이 모델은 이를 받지 않습니다. 텍스트 입력에 대한 구조화된 선택이라는 자기 영역 안에서는, 이것이 목적에 맞게 만들어진 옵션입니다.