Baseten: Mammoth 1 (free)

Baseten: Mammoth 1 (free) は Baseten の意思決定モデルで、モデル ID baseten/mammoth-1:free で公開されています。Baseten の研究チームである Base Labs によるもので、Qwen3.5-27B を基盤としています。主なカテゴリは decisions で、この単一のカテゴリがモデルの用途を表しています。自由形式の文章を生成するのではなく、与えられた状態について構造化された質問に答えるように設計されています。

このモデルはテキストを入力として受け取り、decisions を出力として返します。プロバイダーの説明では、入力は state として位置づけられ、これはテキストまたは JSON で、型付きの質問と組み合わせて渡します。対応する質問タイプは yes/no、multiple choice、ordinal です。コンテキストウィンドウは 16,384 トークンで、最大出力は 14,745 トークンです。OpenAI 互換呼び出しの基本以外に対応するリクエストパラメータは記載されていないため、モデルはサンプリングやツールのオプションではなく、プロンプトの内容を通じて設定します。

実用的な使い方は、この形から直接導かれます。JSON の state、たとえばレコード、設定、抽出されたフィールドの集合を渡し、yes/no の質問をして二値の決定を得られます。multiple choice の質問は、答えが固定された選択肢のいずれかでなければならないルーティングや分類に適しています。ordinal の質問は、重大度や優先度のレベルなど、答えが尺度上に位置する場合に適しています。state はプレーンテキストでもよいため、同じモデルで文章、サポートチケット、ログの抜粋を判定することもできます。16,384 トークンのコンテキストが、1 回の呼び出しで送信できる state の量と質問の数の上限を定めます。

api14 を通じて呼び出すには、モデル ID baseten/mammoth-1:free を指定して OpenAI 互換の chat completions エンドポイントを使用します。state と型付きの質問をメッセージ内容として送信し、応答から decision を読み取ります。追加のリクエストパラメータは対応として記載されていないため、リクエストは標準のフィールドにとどめ、決定ロジックはプロンプト自体に含めてください。使用しているクライアントライブラリが parameters オブジェクトを要求する場合は、空のままにしておくのが安全な選択です。

留意すべき主な制約は 16,384 トークンのコンテキストウィンドウで、質問と一緒に長い文書を含める必要がある場合には控えめなサイズです。出力モダリティは decisions であるため、生成された文章、要約、コードが必要なときに選ぶモデルではありません。タスクが、状態についての型付きの質問に答えることではなく、自由形式の執筆や一般的なチャットである場合は、別のモデルの方が適しています。