Cookieを使用しています. Cookieとブラウザストレージは、ログイン状態の維持と設定の保存に使われます。許可いただいた場合は、サイトの利用状況も計測します。はいつでも変更できます。詳しくはCookieポリシーをご覧ください。

Meta: Llama 3.2 3B Instruct

meta-llama/llama-3.2-3b-instruct

テキスト入力: text131K2024/09/25に追加

プレイグラウンドで開く Meta: Llama 3.2 3B InstructのAPIキーを取得

Meta: Llama 3.2 3B Instructを今すぐ試す

上記の料金で残高から差し引かれます。新規アカウントには無料利用分があります。

1つのAPIで、すべてのモデルを。

本日の無料メッセージ残り 5 / 5、無料アカウントを作成すると、無料利用量とAPIキーが追加されます。無料アカウントを作成ログイン

セッション費用 $0.00

Meta: Llama 3.2 3B Instructの概要

入力料金はテキストモデル434件の中央値より89%安くなっています。
コンテキストウィンドウは131,072トークン。長いドキュメントや複数ターンの会話にも十分です。
スキーマを使った構造化JSON出力に対応しています。
一般的なリクエスト（入力1,000 / 出力500トークン）の費用は約$0.000764です。

Meta: Llama 3.2 3B Instructについて

メタ: Llama 3.2 3B InstructはMetaのテキストモデルで、api14上ではmeta-llama/llama-3.2-3b-instructとして識別されます。これはトランスフォーマーアーキテクチャ上に構築され、指示追従向けに調整された30億パラメータの多言語大規模言語モデルです。Metaは2024年9月25日にこれをリリースし、知識カットオフは2023年12月31日です。このモデルはテキストカテゴリに属するため、画像、音声、その他のモダリティではなく言語作業を対象としています。

入力側ではテキストを受け取り、テキストを返します。コンテキストウィンドウは131,072トークンで、このサイズのモデルとしては大きく、長い文書、文字起こし、複数ターンの履歴を1回のリクエストで渡せます。最大出力は117,964トークンなので、応答も長くできます。Metaはこのモデルを、対話生成、推論、要約などの自然言語処理タスクに最適化されたものと説明しており、多言語で訓練されているため複数の言語のプロンプトを扱えます。

これらの能力は、かなり明確な用途群を示しています。要約は自然に当てはまります。長いレポート、会議メモ、記事の下書きを入力すると、短縮版が出てきます。対話生成により、チャットアシスタント、サポートボット、会話インターフェースに適しており、指示調整によって返答がタスクから外れにくくなります。推論タスク、たとえばプロンプトで述べられた問題を解いたり、非構造化テキストから構造化された回答を抽出したりする作業も対象です。モデルが小さいため、低遅延を求める場合や多数のリクエストを実行したい場合に妥当な選択であり、長いコンテキストにより、送信前に文書を積極的に分割する必要がありません。

モデルID meta-llama/llama-3.2-3b-instructを使用して、api14のOpenAI互換APIを通じて呼び出します。インターフェースはOpenAI形式に従っているため、既存のクライアントやSDKは通常、ベースURLとモデルIDを変更するだけで動作します。サポートされるリクエストパラメータは、frequency_penalty、logit_bias、logprobs、max_tokens、min_p、presence_penalty、repetition_penalty、seed、stop、structured_outputs、temperature、top_k、top_logprobs、top_pです。これには通常のサンプリング制御（temperature、top_p、top_k、min_p）、繰り返しへのペナルティ、seedによる決定論的実行、停止シーケンス、トークン制限、logprobsとtop_logprobsによる対数確率の検査が含まれます。構造化出力もサポートされており、返答をスキーマに準拠させる必要がある場合に役立ちます。

主に検討すべき点はモデルサイズです。30億パラメータではコンパクトなモデルなので、深い推論や広範な世界知識を要求するタスクでは、より大きなモデルの方が適している可能性があります。またテキスト専用であるため、他の入力タイプを含むものはここでの対象外です。ワークロードが要約、対話、中程度の推論であり、長いコンテキストウィンドウを重視するなら、このモデルは実用的な選択です。

Meta: Llama 3.2 3B Instruct APIの呼び出し方

ダッシュボードでAPIキーを作成します。
お使いの言語の公式openai SDKをインストールします。
baseURLをhttps://api14.com/api/v1に、modelを"meta-llama/llama-3.2-3b-instruct"に設定します。

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api14.com/api/v1",
  apiKey: process.env.API14_API_KEY,
});

const result = await client.chat.completions.create({
  "model": "meta-llama/llama-3.2-3b-instruct",
  "messages": [
    {
      "role": "user",
      "content": "Explain vector databases in two sentences."
    }
  ]
});
console.log(result.choices[0].message.content);

対応パラメーター

frequency_penaltylogit_biaslogprobsmax_tokensmin_ppresence_penaltyrepetition_penaltyseedstopstructured_outputstemperaturetop_ktop_logprobstop_p

仕様

コンテキスト長: 131,072
最大出力: 72,000
入力: text
出力: text
知識のカットオフ: 2023-12-31

api14でのリクエスト数 · 過去7日間

Meta: Llama 3.2 3B Instruct：よくある質問

Meta: Llama 3.2 3B Instruct APIの料金は？: Meta: Llama 3.2 3B Instructの料金は入力 $0.18 / 100万トークンです。USD残高から差し引かれるのは成功したリクエストのみで、失敗したリクエストは無料です。
Meta: Llama 3.2 3B Instructのコンテキストウィンドウは？: Meta: Llama 3.2 3B Instructは1リクエストあたり最大131,072トークン（プロンプト、履歴、ドキュメントの合計）を読み取れます。 1回のレスポンスで最大72,000トークンを出力します。
Meta: Llama 3.2 3B Instructで何ができますか？: Meta: Llama 3.2 3B Instructはtextを入力として受け付け、textを返します。構造化JSON出力に対応しています。
コードからMeta: Llama 3.2 3B Instructを呼び出すには？: 任意のOpenAI SDKの接続先をhttps://api14.com/api/v1にして、modelを"meta-llama/llama-3.2-3b-instruct"に設定するだけです。他のコード変更は不要です。このページのコードパネルからすぐ使える例をコピーできます。
Meta: Llama 3.2 3B Instructの代替モデルは？: 同程度の料金のテキストモデル：Qwen: Qwen3 30B A3B Instruct 2507, Mistral: Mistral Small 4 (batch), ByteDance Seed: Seed 1.6 Flash。どれも同じAPIキーで動くので、文字列を1つ変えるだけで切り替えられます。

Meta: Llama 3.2 3B Instructコミュニティ

新しいトピック

このコミュニティにはまだトピックがありません。Meta: Llama 3.2 3B Instructについて最初のトピックを立てましょう。