NVIDIA: Nemotron 3 Ultra

NVIDIA Nemotron 3 Ultra は、NVIDIA によるオープンなフロンティア推論およびオーケストレーションモデルです。これは 550B の総パラメータのうち 55B がアクティブなパラメータである mixture of experts モデルで、ハイブリッド Transformer-Mamba アーキテクチャに基づいて構築されています。api14 上のモデル id は nvidia/nemotron-3-ultra-550b-a55b で、text カテゴリに属するため、画像、音声、動画の生成ではなく言語作業を対象としています。

このモデルはテキストを入力として受け取り、テキストを出力として返します。コンテキスト長は 262144 トークンで、長い文書、大きなコードファイル、拡張された会話履歴を 1 回のリクエストに収めるのに十分であり、最大出力は 182520 トークンなので、作業を複数の呼び出しに分割せずに長い生成が可能です。推論の挙動は include_reasoning パラメータと reasoning パラメータを通じて公開されており、reasoning_effort を使うと、回答前にモデルが適用する内部的な熟考の量を制御できます。ツール呼び出しは tools と tool_choice を通じてサポートされ、structured_outputs と response_format を使うと返されるテキストの形を制約できます。

これらの機能はいくつかの実用的な用途を示しています。長いコンテキストと推論は、大規模なコードベースの分析、複数文書のレビュー、そしてモデルが多数の情報源を同時に保持してそれらを突き合わせなければならない調査タスクに適しています。ツール呼び出しは、モデルがどの関数をどの順序で呼び出すかを決めるエージェント形式のワークフローやオーケストレーションに適したものにします。構造化出力は、契約書からのフィールド抽出や機械可読な要約の生成など、結果を別のシステムに直接入力する必要がある場合に有用です。大きな出力上限は、詳細なレポートや拡張されたコード生成など、長い成果物を生成するタスクに役立ちます。

このモデルは、モデル id nvidia/nemotron-3-ultra-550b-a55b を使用して api14 の OpenAI 互換 API を通じて呼び出します。リクエストは通常のサンプリングおよび制御パラメータを受け付けます。出力を形作るための temperature、top_p、top_k、min_p、frequency_penalty、presence_penalty、repetition_penalty、長さのための max_tokens、再現性のための seed、停止シーケンスのための stop、トークンレベルの調整のための logit_bias です。ツール使用には tools と tool_choice を渡します。構造化結果には response_format と structured_outputs を使用します。推論は reasoning、reasoning_effort、include_reasoning で制御します。インターフェースが OpenAI 互換であるため、既存のクライアントや SDK は通常、base URL とモデル id を変更するだけで動作します。

留意すべき点の 1 つは、このモデルがテキスト専用であることです。タスクが画像、音声、その他の入力モダリティに依存している場合、このモデルはそれを扱えず、マルチモーダルな選択肢のほうが適しています。また、非常に大きなコンテキストと出力上限は、リクエストが重くなる可能性があることも意味するため、短く単純なプロンプトでは、より小さなモデルのほうが速く応答し、管理しやすい場合があります。ただしテキスト作業の範囲内では、長いコンテキスト、推論制御、ツール呼び出し、構造化出力の組み合わせが、幅広い開発者のニーズをカバーします。