쿠키를 사용합니다. 쿠키와 브라우저 저장소는 로그인 상태를 유지하고 환경설정을 기억합니다. 동의하시면 사이트 이용 방식도 측정합니다. 언제든지 할 수 있습니다. 자세한 내용은 쿠키 정책을 참고하세요.
처음이신가요? 사용법을 확인해 보세요 플레이그라운드, 모델, API 키를 1분 만에 둘러보세요.
쿠키를 사용합니다. 쿠키와 브라우저 저장소는 로그인 상태를 유지하고 환경설정을 기억합니다. 동의하시면 사이트 이용 방식도 측정합니다. 언제든지 할 수 있습니다. 자세한 내용은 쿠키 정책을 참고하세요.
baseten/elephant-1위 가격으로 잔액에서 차감됩니다. 새 계정은 무료 사용량으로 시작합니다.
Baseten: Elephant 1은 Baseten의 결정 모델로, 회사의 연구 팀인 Base Labs가 개발했습니다. Qwen3.5-9B를 기반으로 하며 9B 파라미터를 가지고 있습니다. 자유 형식 대화를 생성하는 대신, 이 모델은 결정을 반환하도록 설계되었으며, 이로 인해 api14에서 decisions 카테고리에 속합니다. 산문을 생성하는 대신 선택을 확정해야 하는 시스템을 구축하고 있다면, 이것이 평가해 볼 만한 종류의 모델입니다.
이 모델은 텍스트 입력을 받아 결정을 출력으로 생성합니다. 컨텍스트 윈도우는 16,384 토큰이며, 최대 출력은 14,745 토큰입니다. 입력은 텍스트 또는 JSON으로 제공되는 상태(state)와 타입이 지정된 질문의 형태를 취할 수 있습니다. 지원되는 질문 유형은 yes/no, multiple choice, ordinal입니다. 출력 모달리티가 decisions이므로, 서술형 텍스트가 아니라 제시한 질문에 대한 구조화된 답변을 기대해야 하며, 파싱과 다운스트림 로직을 그에 맞게 설계해야 합니다.
실용적인 사용 사례는 그 설계에서 직접 따라옵니다. 상태와 yes/no 질문의 조합은 승인 게이트, 자격 확인, 정책 심사에 적합하며, 여기서 파이프라인은 레코드나 요청에 대한 명확한 판정을 필요로 합니다. Multiple choice 질문은 라우팅 및 분류 작업, 예를 들어 들어온 티켓을 올바른 큐로 보내거나 문서의 카테고리를 고르는 작업에 맞습니다. Ordinal 질문은 답이 척도 위에 놓이는 경우, 예를 들어 제공된 상태로부터 심각도나 우선순위를 등급 매기는 경우에 유용합니다. 상태를 JSON으로 제공하는 것은 입력이 이미 API나 데이터베이스에서 오고 이를 산문으로 재구성하지 않고 그대로 전달하고 싶은 워크플로에 맞습니다. 각 경우에 모델은 상태를 읽고 타입이 지정된 질문에 답하며, 이는 출력을 좁게 유지하고 자유 텍스트보다 검증하기 쉽게 만듭니다.
모델 id "baseten/elephant-1"을 사용하여 api14의 OpenAI 호환 API를 통해 이 모델을 호출합니다. 인터페이스가 OpenAI 형식을 따르므로, 기존 OpenAI 클라이언트 라이브러리와 요청 패턴이 모델 id만 바꿔서 그대로 적용됩니다. 이 모델은 API가 기본적으로 허용하는 것 외에 지원되는 요청 파라미터를 나열하지 않으므로, 요청을 표준 필드로 제한하고 temperature나 top_p 같은 선택적 튜닝 파라미터에 의존하지 마십시오. 그중 어떤 것을 기반으로 구축하기 전에 페이지에서 실시간 파라미터 목록을 확인하십시오. 16,384 토큰 컨텍스트 윈도우는 단일 요청에서 보낼 수 있는 상태의 양과 질문의 수를 제한하므로, 입력을 그 예산 안에 유지하십시오.
이 모델은 텍스트 입력과 결정 출력이므로, 산문, 요약 또는 기타 생성된 텍스트가 필요한 작업에는 맞지 않습니다. 그런 경우에는 범용 텍스트 생성 모델이 더 나은 선택입니다. 지원되는 파라미터가 없다는 점은 또한 요청을 통해 샘플링 동작을 조정할 수 없다는 뜻이며, 이는 다양하거나 창의적인 출력이 필요할 때 중요합니다. 제한된 상태에 대한 결정 작업, 타입이 지정된 질문, 그리고 16,384 토큰 안에 들어가는 컨텍스트에는 Elephant 1이 자신의 워크로드에 대해 테스트해 볼 수 있는 집중적인 옵션입니다.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/decisions", { body: {
"model": "baseten/elephant-1",
"state": "Customer: I was charged twice for my order and want my money back.",
"questions": {
"team": {
"type": "choice",
"instructions": "Which team should handle this message?",
"criteria": {
"billing": "Payments, refunds, invoices",
"support": "Product questions and bugs",
"sales": "Pricing and new purchases"
}
},
"urgent": {
"type": "noul",
"instructions": "Does this need a reply today?",
"criteria": {
"true": "Money, outage or legal risk",
"false": "Can wait"
}
}
}
} });
console.log(result.answers);
이 커뮤니티에는 아직 토픽이 없습니다. Baseten: Elephant 1에 대한 첫 토픽을 열어 보세요.