Meta: Llama 3.1 70B Instruct 対 Mistral: Saba
api14カタログの最新のUSD料金と機能をもとに、Meta: Llama 3.1 70B Instruct($2.52 / 100万トークン (≈ ¥398))とMistral: Saba($0.70 / 100万トークン (≈ ¥110))を並べて比較します。どちらも同じOpenAI互換APIで動作します。
仕様
| Meta: Llama 3.1 70B Instruct | Mistral: Saba | |
|---|---|---|
| プロバイダー | Meta | Mistral |
| 入力 | $2.52 / 100万トークン (≈ ¥398) | $0.70 / 100万トークン (≈ ¥110) |
| 出力 | $2.52 / 100万トークン (≈ ¥398) | $2.10 / 100万トークン (≈ ¥331) |
| キャッシュ読み取り | - | $0.07 / 100万トークン (≈ ¥11) |
| コンテキストウィンドウ | 131,072 | 32,768 |
| 最大出力 | 8,192 | 26,214 |
| 入力 | text | text, file |
| 出力 | text | text |
| ツール呼び出し | ||
| 構造化出力 | ||
| 推論の調整 | ||
| 追加日 | 2024/07/23 | 2025/02/17 |
主な違い
- Mistral: Sabaは入力トークンが72%安くなっています。
- Mistral: Sabaは出力トークンが17%安くなっています。
- Meta: Llama 3.1 70B Instructは4.0倍長いコンテキスト(131,072トークン)を読み取れます。
- ツール呼び出しに対応しているのはMistral: Sabaだけです。
- 構造化JSON出力に対応しているのはMistral: Sabaだけです。
- 入力1,000トークン・出力500トークンのリクエストの費用は、Meta: Llama 3.1 70B Instructで$0.00378、Mistral: Sabaで$0.00175です。
詳しく見る
Meta: Llama 3.1 70B Instruct は、2024-07-23 にリリースされた Meta のテキストモデルです。Mistral: Saba は、2025-02-17 にリリースされた Mistral のテキストモデルです。どちらも api14 を通じてチャット補完モデルとして提供され、どちらもテキストプロンプトを受け取り、テキストを返します。主な構造上の違いは、Saba がファイル入力も受け付けるため、ドキュメントの内容をメッセージに貼り付けるのではなく、プロンプトと一緒にドキュメントを渡せることです。
2 つのモデルが最も明確に分かれるのは、コンテキストウィンドウとモダリティです。Llama 3.1 70B Instruct のコンテキスト長は 131072 トークンで、Saba は 32768 トークンなので、Llama は長い入力に対して約 4 倍の余裕があります。Saba は 2 つのうちファイル入力を受け付ける唯一のモデルです。Llama 3.1 70B Instruct はテキスト入力、テキスト出力です。パラメータについては、Llama はより広いセットを公開しており、logit_bias、min_p、repetition_penalty、top_k を含みますが、Saba はこれらをリストしていません。どちらも tools、tool_choice、structured_outputs、response_format、seed、stop、temperature、top_p、frequency_penalty、presence_penalty、max_tokens をサポートするため、関数呼び出しと JSON 形式の出力はどちら側でも利用できます。価格では、Saba は入力でより安い選択肢であり、Llama 3.1 70B Instruct は出力でより安い選択肢なので、どちらがよりお得かは、どれだけ送信するかとどれだけ生成するかによって決まります。
実用的な選択としては、プロンプトや会話が長い場合、logit_bias、min_p、repetition_penalty、top_k などの追加のサンプリング制御が必要な場合、またはワークロードが出力重視で、より安い出力レートの方が重要である場合は、Llama 3.1 70B Instruct を選んでください。テキストを自分で抽出するのではなく、モデルにファイルを直接渡したい場合、入力が 32768 トークン以内に余裕をもって収まる場合、またはワークロードが入力重視で、より安い入力レートの方が重要である場合は、Mistral: Saba を選んでください。迷った場合、通常はコンテキストウィンドウが決め手になります。32768 トークンを超えるものは Llama に送る必要があります。
どちらのモデルも api14 を通じた呼び出しは同じように機能します。API が OpenAI 互換だからです。既存の OpenAI クライアントを api14 のベース URL に向け、キーを送信し、model フィールドを希望する id に設定します。モデルを切り替えるには、その文字列を "meta-llama/llama-3.1-70b-instruct" と "mistralai/mistral-saba" の間で変更するだけです。リクエストの形、messages 配列、レスポンスの解析は同一のままなので、1 行を編集するだけで呼び出しを一方のモデルから他方へ移せます。また、入力長やファイルが添付されているかどうかに基づいて、実行時にそれらの間でルーティングできます。
選択した後でも、もう一方のモデルの方が依然としてより良い選択である場合があります。ファイル入力とより安い入力レートのために Saba から始めたが、リクエストが 32768 トークンを超えて大きくなる場合、または logit_bias、min_p、repetition_penalty、top_k が必要な場合、それを処理できるのは Llama 3.1 70B Instruct です。長いコンテキストとより安い出力のために Llama から始めたが、テキストを貼り付けるよりもドキュメントをファイルとして渡したい場合、Saba がそれをカバーします。どちらのモデルも厳密に優れているわけではありません。選択は、入力サイズ、ファイル入力が必要かどうか、どのサンプリングパラメータに依存するか、そしてトークン消費が入力と出力のどちらに傾いているかによって決まります。
文字列1つで切り替え
どちらのモデルも同じエンドポイントとリクエスト形式を使います。modelの値を"meta-llama/llama-3.1-70b-instruct"から"mistralai/mistral-saba"に変えるだけで、プロンプト、ストリーミング、ツールはそのまま動きます。
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.chat.completions.create({
"model": "mistralai/mistral-saba",
"messages": [
{
"role": "user",
"content": "Explain vector databases in two sentences."
}
]
});
console.log(result.choices[0].message.content);
その他の比較
- LiquidAI: LFM3-1.7B 対 Ricursive: Ripple 65B Preview
- LiquidAI: LFM3-1.7B 対 Crouton Alpha
- LiquidAI: LFM3-1.7B 対 Tencent: Hy4
- LiquidAI: LFM3-1.7B 対 Z.ai: GLM 5.3 FlashX Legal
- Ricursive: Ripple 65B Preview 対 Crouton Alpha
- Ricursive: Ripple 65B Preview 対 Tencent: Hy4
- Ricursive: Ripple 65B Preview 対 Z.ai: GLM 5.3 FlashX Legal
- Crouton Alpha 対 Tencent: Hy4