Baseten: Mammoth 1 (free)

Baseten: Mammoth 1 (free)은 Baseten의 결정 모델로, 모델 id baseten/mammoth-1:free로 게시되었습니다. Baseten의 연구팀인 Base Labs에서 나왔으며 Qwen3.5-27B를 기반으로 구축되었습니다. 주요 카테고리는 decisions이며, 이 단일 카테고리가 모델의 용도를 설명합니다. 즉, 개방형 산문을 생성하는 대신 주어진 상태에 대한 구조화된 질문에 답하도록 설계되었습니다.

이 모델은 텍스트를 입력으로 받고 결정을 출력으로 반환합니다. 제공자 설명은 입력을 상태(state)로 규정하며, 이는 텍스트 또는 JSON일 수 있고 타입이 지정된 질문과 함께 제공됩니다. 지원되는 질문 유형은 yes/no, multiple choice, ordinal입니다. 컨텍스트 윈도우는 16,384 토큰이고 최대 출력은 14,745 토큰입니다. OpenAI 호환 호출의 기본 사항 외에 지원되는 요청 파라미터는 나열되어 있지 않으므로, 모델은 샘플링이나 도구 옵션이 아니라 프롬프트 내용을 통해 구성됩니다.

실용적인 사용은 그 형태에서 직접 따라옵니다. 레코드, 구성 또는 추출된 필드 집합과 같은 JSON 상태를 전달하고 yes/no 질문을 하여 이진 결정을 얻을 수 있습니다. Multiple choice 질문은 답이 고정된 옵션 집합 중 하나여야 하는 라우팅이나 분류에 적합합니다. Ordinal 질문은 심각도나 우선순위 수준처럼 답이 척도 위에 있는 경우에 맞습니다. 상태가 일반 텍스트일 수 있으므로, 같은 모델이 구절, 지원 티켓 또는 로그 발췌를 판단할 수도 있습니다. 16,384 토큰 컨텍스트는 한 번의 호출로 보낼 수 있는 상태의 양과 질문의 수에 상한을 설정합니다.

api14를 통해 호출하려면 모델 id baseten/mammoth-1:free와 함께 OpenAI 호환 chat completions 엔드포인트를 사용하세요. 상태와 타입이 지정된 질문을 메시지 내용으로 보내고 응답에서 결정을 읽으세요. 지원되는 것으로 나열된 추가 요청 파라미터는 없으므로, 요청을 표준 필드로 유지하고 결정 로직을 프롬프트 자체에 넣으세요. 클라이언트 라이브러리가 parameters 객체를 기대한다면, 비워 두는 것이 안전한 선택입니다.

명심해야 할 주요 제약은 16,384 토큰의 컨텍스트 윈도우이며, 질문과 함께 긴 문서를 포함해야 하는 경우 이는 넉넉하지 않습니다. 출력 양식은 결정이므로, 생성된 산문, 요약 또는 코드가 필요할 때 선택할 모델이 아닙니다. 작업이 상태에 대한 타입 지정 질문에 답하는 것이 아니라 개방형 작성이나 일반 채팅이라면, 다른 모델이 더 적합할 것입니다.