ScaleDown: Classify-1

ScaleDown: Classify-1은 ScaleDown의 구조화된 의사결정 모델로, 제공자의 Decisions API를 통해 제공됩니다. 자유 형식의 산문을 생성하는 대신, 사전에 정의한 질문에 답하도록 만들어졌으며, 이는 이 모델을 일반 채팅 범주가 아닌 의사결정 범주에 위치시킵니다. api14에서 모델을 평가하고 있다면, 실질적인 질문은 이 모델이 글을 잘 쓰는지가 아니라 여러분의 작업을 선택지, 예/아니오 질문, 또는 순서형 척도로 구성할 수 있는지입니다.

이 모델은 텍스트, 이미지, 파일을 입력으로 받으므로, 텍스트 구절, 스캔한 페이지, 또는 문서를 보내고 직접 평가하게 할 수 있습니다. 출력 양식은 의사결정입니다. 즉, 호출자가 정의한 질문에 대해 제공된 입력을 점수화하고 보정된 확률을 반환합니다. 컨텍스트 윈도우는 1,000,000 토큰이고 최대 출력은 900,000이므로, 긴 문서와 대량의 자료를 청킹 없이 단일 요청으로 처리할 수 있습니다. 파싱할 자유 텍스트 생성이 없으므로, 해석해야 하는 문장이 아니라 구조화된 답변을 얻습니다.

이러한 출력 형태는 상당히 구체적인 용도 집합을 가리킵니다. 라우팅과 트리아지는 자연스럽게 맞습니다. 티켓이 어느 큐에 속하는지, 또는 들어오는 메시지가 사람에게 도달하기 전에 예/아니오 조건을 충족하는지 결정하는 것입니다. 문서 검토도 또 다른 용도입니다. 파일과 이미지를 받으므로, 양식, 송장, 또는 스캔한 기록을 고정된 범주 집합에 따라 분류할 수 있습니다. 순서형 척도 질문은 감정 또는 심각도 등급 평가에 적합하며, 모델이 단일 레이블이 아니라 확률을 반환하므로 자체 신뢰도 임계값을 설정하고 낮은 신뢰도의 사례를 다른 곳으로 보낼 수 있습니다. 많은 항목에 걸쳐 일관되고 반복 가능한 판단이 필요한 워크플로는 설명을 작성해 내야 하는 워크플로보다 더 잘 맞습니다.

이 모델은 모델 id "scaledown/classify-1"을 사용하여 api14의 OpenAI 호환 API를 통해 호출합니다. 인터페이스가 OpenAI 호환이므로, 기존 클라이언트와 SDK는 base URL과 모델 id만 변경하면 작동합니다. 지원되는 매개변수 목록이 비어 있으므로, temperature 또는 top_p와 같은 샘플링 제어가 허용된다고 가정해서는 안 됩니다. 모델 id, 입력, 그리고 점수화하려는 질문을 보내고 기본값에 의존하십시오. 현재 요금은 이 페이지의 실시간 가격표를 확인하십시오.

저울질해야 할 주요 한계는 출력 형식 자체입니다. Classify-1은 산문이 아니라 의사결정을 반환하므로, 애플리케이션에 서면 요약, 대화형 답변, 또는 어떤 종류의 생성된 콘텐츠가 필요하다면 일반 텍스트 모델이 더 적합합니다. 또한 질문을 선택지, 예/아니오, 또는 순서형 척도로 표현할 수 있는지 확인할 가치가 있습니다. 그것이 이 모델이 중심으로 설계된 프레이밍이기 때문입니다. 이러한 범위 안에서, 그리고 이렇게 큰 컨텍스트 윈도우를 갖추었으므로, 파싱해야 하는 텍스트가 아니라 실행에 옮길 수 있는 확률을 원하는 대량 분류에 합리적인 선택입니다.