Baseten: Elephant 1 (free)

Elephant 1 は Baseten の意思決定モデルで、モデル ID baseten/elephant-1:free としてリリースされています。これは Baseten の研究チームである Base Labs によるもので、9B パラメータのベースモデルである Qwen3.5-9B を基盤としています。このモデルの主なカテゴリは decisions であり、これは一般的なチャットやコンテンツ生成ではなく、何のために設計されているかを反映しています。このモデルに記載されているプロバイダーのリリース日は 2026-10-21 です。

このモデルは入力モダリティとしてテキストを受け取り、出力モダリティとして decisions を生成します。テキストまたは JSON として与えられる状態と、型付きの質問を組み合わせて動作するように作られています。これらの質問は yes/no、multiple choice、または ordinal にできます。コンテキストウィンドウは 16,384 トークンで、最大出力は 14,745 トークンです。このモデルには対応パラメータが記載されていないため、呼び出す際に temperature や top_p などのサンプリング制御が利用できると想定してはいけません。

出力は自由形式の文章ではなく意思決定であるため、実用的な用途は、与えられた状態について構造化された質問をすることから生まれます。JSON の状態を渡して yes/no の質問をし、二値の判断を得たり、選択肢の集合を提示してモデルにその中から選ばせたりできます。ordinal の質問では、単一のラベルを選ぶのではなく、結果を尺度上に位置付けることができます。これは、リクエストやレコードをさらなる処理の前に分類する必要があるルーティングやトリアージ、状態を条件に対して確認する必要があるスクリーニング手順などのワークフローに適しています。また、下流のコードが解析しなければならないテキストではなく、下流のコードがそのまま扱える簡潔で型付きの回答が欲しいあらゆるパイプラインにも適しています。

このモデルは、モデル ID "baseten/elephant-1:free" を使用して api14 の OpenAI 互換 API を通じて呼び出します。API が OpenAI 互換であるため、リクエストは通常の chat completions の形式で送信し、状態と型付きの質問をメッセージ内容に含め、応答から意思決定を読み取ります。このモデルはテキスト入力を受け取り decisions を返すため、プロンプトは状態と回答してほしい質問に集中させてください。対応パラメータが記載されていないため、モデル ID とメッセージを送信し、動作を変えるために追加のリクエストパラメータに依存することは避けてください。

コンテキスト制限に留意してください。16,384 トークンは状態と質問を合わせた量をカバーするため、非常に大きなドキュメントは送信前に切り詰めるか分割する必要があります。14,745 トークンの出力上限は意思決定には十分余裕がありますが、回答自体は説明ではなく意思決定であるため、長文の推論、要約、または自由形式の生成が必要な場合は、汎用テキストモデルの方が適しているかもしれません。Elephant 1 は、与えられた状態について型付きの質問に回答することがタスクであり、その結果を意思決定として得たい場合に適した選択です。