NVIDIA: Nemotron 3 Nano 30B A3B

NVIDIA Nemotron 3 Nano 30B A3B は、NVIDIA が Nemotron ファミリーの一部として構築した小型言語モデルです。その名前はアーキテクチャを反映しています。合計約 300 億パラメータ、トークンあたり約 30 億がアクティブになる mixture-of-experts 設計で、NVIDIA は高い計算効率と精度を実現すると説明しています。これは、専門的なエージェント型 AI システムを構築する開発者を対象としたテキストモデルであり、プロバイダーによって 2025 年 12 月 14 日にリリースされました。

このモデルはテキストを入力として受け取り、テキストを出力します。コンテキストウィンドウは 262,144 トークンで、最大出力は 235,929 トークンであるため、非常に長い入力を受け付け、1 回のリクエストで長い補完を生成できます。通常の生成に加えて、サポートされているパラメータは reasoning と構造化出力が第一級の機能であることを示唆しています。reasoning と include_reasoning の両方が受け付けられ、response_format、structured_outputs、tools も同様です。サンプリングとデコーディングの制御には、temperature、top_p、top_k、repetition_penalty、frequency_penalty、presence_penalty、stop、seed、logit_bias に加え、トークンレベルの確率を検査するための logprobs と top_logprobs があります。

これらの機能は、いくつかの実用的なワークロードを示唆しています。大きなコンテキストウィンドウは、大規模なコードベースやレポートコレクションに対する要約、抽出、質問応答など、積極的なチャンク分割なしで長い文書を処理するのに適しています。エージェント型の位置づけは、ツール呼び出しと構造化出力と組み合わさることで、モデルがどのツールを呼び出すかを決定し、機械可読な結果を返すパイプラインに適合します。例えば、データ拡充、検索オーケストレーション、多段階自動化などです。reasoning 制御は、分析、計画、デバッグなど、モデルの中間的な思考を最終回答から分離したいタスクに有用です。小型で効率に焦点を当てたモデルであるため、ピーク性能よりもスループットが重要な大量のテキスト変換ジョブにも適しています。

これは、モデル id "nvidia/nemotron-3-nano-30b-a3b" を使用して、api14 の OpenAI 互換 API を通じて呼び出します。エンドポイントは OpenAI スキーマに従っているため、標準的な chat completions 形式のリクエストが機能し、上記のパラメータのいずれもリクエスト本文で渡すことができます。これには、関数呼び出し用の tools と tool_choice、構造化応答用の response_format、出力長を制限するための max_tokens が含まれます。ストリーミングとロギングのオプションは、ゲートウェイ上の他のモデルと同じように動作します。

これはテキスト専用モデルです。画像や音声の入力は受け付けないため、マルチモーダルタスクには別のモデルが必要であり、プロバイダーの説明では、汎用フラッグシップとしてではなく、専門的なエージェント型システム向けに位置づけられています。ワークロードが視覚、他の入力モダリティ、またはより大きなモデルの広範な知識を必要とする場合は、代替案を検討してください。長いコンテキスト、推論重視、またはツール駆動のテキストパイプラインでは、262,144 トークンウィンドウ、ツールサポート、効率的な MoE アーキテクチャの組み合わせが、これを選ぶ理由です。