Cookieを使用しています. Cookieとブラウザストレージは、ログイン状態の維持と設定の保存に使われます。許可いただいた場合は、サイトの利用状況も計測します。はいつでも変更できます。詳しくはCookieポリシーをご覧ください。
初めてですか？使い方をご紹介します プレイグラウンド、モデル、APIキーを1分でご案内します。
Cookieを使用しています. Cookieとブラウザストレージは、ログイン状態の維持と設定の保存に使われます。許可いただいた場合は、サイトの利用状況も計測します。はいつでも変更できます。詳しくはCookieポリシーをご覧ください。
baseten/elephant-1上記の料金で残高から差し引かれます。新規アカウントには無料利用分があります。
設定
Baseten: Elephant 1 は Baseten の意思決定モデルで、同社の研究チームである Base Labs によって開発されました。Qwen3.5-9B をベースにしており、9B のパラメータを持ちます。自由形式の会話を生成するのではなく、意思決定を返すように設計されており、そのため api14 では decisions カテゴリに位置づけられます。散文を生成するのではなく、モデルに選択を確定させたいシステムを構築しているなら、これは評価すべき種類のモデルです。
このモデルはテキスト入力を受け取り、出力として意思決定を生成します。コンテキストウィンドウは 16,384 トークンで、最大出力は 14,745 トークンです。入力は、テキストまたは JSON として提供される状態と、型付きの質問の組み合わせという形式を取ることができます。サポートされる質問タイプは yes/no、multiple choice、ordinal です。出力モダリティが decisions であるため、物語的なテキストではなく、提示した質問に対する構造化された回答を期待すべきであり、その前提でパースと下流のロジックを設計してください。
実用的なユースケースは、この設計から直接導かれます。状態と yes/no の質問の組み合わせは、承認ゲート、適格性チェック、ポリシー審査に適しており、パイプラインがレコードやリクエストに対して明確な判定を必要とする場面で役立ちます。multiple choice の質問は、ルーティングや分類タスクに適合します。たとえば、受信したチケットを適切なキューに送ることや、ドキュメントのカテゴリを選ぶことなどです。ordinal の質問は、回答が尺度上に位置する場合に有用です。たとえば、提供された状態から深刻度や優先度を格付けする場合などです。状態を JSON として提供することは、入力がすでに API やデータベースから来ており、それを散文に整形し直さずにそのまま渡したいワークフローに適合します。いずれの場合も、モデルは状態を読み取り、型付きの質問に答えるため、出力は狭く保たれ、自由テキストよりも検証しやすくなります。
このモデルは、モデル id "baseten/elephant-1" を使用して api14 の OpenAI 互換 API を通じて呼び出します。インターフェースは OpenAI 形式に従っているため、既存の OpenAI クライアントライブラリとリクエストパターンをそのまま利用でき、モデル id を差し替えるだけです。このモデルは、API がデフォルトで受け入れるものを超えてサポートされるリクエストパラメータを記載していないため、リクエストは標準フィールドにとどめ、temperature や top_p などのオプションのチューニングパラメータに依存しないようにしてください。それらのいずれかを前提に構築する前に、ページ上のライブのパラメータ一覧を確認してください。16,384 トークンのコンテキストウィンドウは、1 回のリクエストで送信できる状態の量と質問の数を制限するため、入力はその予算内に収めてください。
このモデルはテキスト入力と意思決定出力であるため、散文、要約、その他の生成テキストを必要とする作業には適合しません。そのような場面では汎用のテキスト生成モデルの方が適しています。また、サポートされるパラメータが存在しないことは、リクエストを通じてサンプリング挙動を調整できないことを意味し、多様な出力や創造的な出力が必要な場合には重要です。限られた状態に対する意思決定タスクで、型付きの質問があり、コンテキストが 16,384 トークン以内に収まるなら、Elephant 1 は独自のワークロードに対して試す価値のある焦点の絞られた選択肢です。
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/decisions", { body: {
"model": "baseten/elephant-1",
"state": "Customer: I was charged twice for my order and want my money back.",
"questions": {
"team": {
"type": "choice",
"instructions": "Which team should handle this message?",
"criteria": {
"billing": "Payments, refunds, invoices",
"support": "Product questions and bugs",
"sales": "Pricing and new purchases"
}
},
"urgent": {
"type": "noul",
"instructions": "Does this need a reply today?",
"criteria": {
"true": "Money, outage or legal risk",
"false": "Can wait"
}
}
}
} });
console.log(result.answers);
このコミュニティにはまだトピックがありません。Baseten: Elephant 1について最初のトピックを立てましょう。