NVIDIA: Nemotron 3.5 Lightning

NVIDIA: Nemotron 3.5 Lightning は、NVIDIA のオープンな mixture-of-experts テキストモデルです。総パラメータ数 30B のうち 3B がアクティブパラメータで、トークンごとにネットワークの一部のみをアクティブに保つ設計です。プロバイダーは 2026-08-11 にこれをリリースしました。テキストカテゴリに属するため、画像や音声の入力ではなく言語処理向けに構築されています。

このモデルはテキストを受け取り、テキストを返します。コンテキストウィンドウは 262,144 トークン、最大出力は 235,929 トークンなので、その範囲内で長い入力と長い生成の両方が可能です。アクティブパラメータ数が小さい mixture-of-experts モデルであるため、NVIDIA はこれを高スループットのエージェントワークロードや専門的なタスク向けに位置づけています。また reasoning 出力をサポートしており、reasoning パラメータと include_reasoning パラメータで制御できます。

これらの機能は、いくつかの実用的な用途を示しています。長いコンテキストと大きな出力は、契約書、ログ、研究資料などの長文ドキュメントを処理し、詳細な要約や抽出を生成するのに適しています。ツール呼び出しのサポートにより、モデルが呼び出す関数を決定し、結果を会話に戻すエージェントループに適しています。構造化出力と response_format は、下流のコード向けに JSON やその他のスキーマ準拠の形式が必要な場合に役立ちます。reasoning 制御により、タスクで必要なときに中間推論を有効化または検査でき、レイテンシや出力サイズがより重要な場合はオフにできます。

これは api14 の OpenAI 互換 API を通じて、モデル ID "nvidia/nemotron-3.5-lightning" を使用して呼び出します。サポートされるリクエストパラメータは frequency_penalty、include_reasoning、logit_bias、logprobs、max_tokens、min_p、presence_penalty、reasoning、repetition_penalty、response_format、seed、stop、structured_outputs、temperature、tool_choice、tools、top_k、top_logprobs、top_p です。サンプリングは temperature、top_p、top_k、min_p で調整でき、seed、stop、およびペナルティパラメータによって再現性と繰り返しの制御が可能です。ツール使用は tools と tool_choice で設定し、出力形状は response_format と structured_outputs で設定します。

選択する際は制限に留意してください。入力はテキストのみなので、画像や音声を含むものには別のモデルが必要です。コンテキストウィンドウと最大出力は大きいものの有限であり、それを超えるリクエストは収まりません。ワークロードでツール呼び出し、構造化出力、reasoning が必要ない場合、よりシンプルなテキストモデルで十分かもしれません。