NVIDIA: Nemotron 3.5 Rerank 8B (free)

NVIDIA: Nemotron 3.5 Rerank 8B (free) は NVIDIA のリランキングモデルで、モデル ID nvidia/nemotron-3.5-rerank-8b:free で公開されています。rerank カテゴリに属するため、その役割は会話テキストを生成することではなく、クエリに対して候補項目のセットをスコアリングし並べ替えることです。プロバイダーのリリース日は 2026-10-21 です。api14 では無料バリアントとして提供されているため、本番環境で採用する前に独自の検索データで評価するのが容易です。

このモデルはテキストと画像の入力を受け付け、rerank 出力を生成します。コンテキスト長は 32768 トークンで、最大出力は 29491 です。テキストと画像の両方を扱えるため、ランク付けされる項目が純粋にテキストではないパイプラインでも使用できます。出力モダリティは text ではなく rerank であるため、散文的な回答ではなく関連性スコアまたは順序が返されることを想定してください。

実用的なユースケースは、この形状から直接導かれます。よくあるのは第二段階の検索です。ベクトル検索またはキーワード検索の上位結果を取得し、このモデルで再スコアリングすることで、最も関連性の高い項目が上位に浮上します。同じパターンは検索拡張生成にも当てはまり、取得したパッセージの順序が良くなることで、下流で使用する生成モデルの品質が向上します。画像入力がサポートされているため、混合メディアの候補をランク付けすることもできます。たとえば、特定のクエリに対して最も関連性の高い画像や、画像を含むドキュメントを選択する場合です。また、候補のプールがあり、説明可能な順序付けが必要な重複排除や優先順位付けのタスクにも妥当な選択です。

api14 の OpenAI 互換 API を通じて、モデル ID nvidia/nemotron-3.5-rerank-8b:free を使用して呼び出します。エンドポイントは OpenAI スキーマに従っているため、既存の OpenAI クライアントを api14 のベース URL に向け、model フィールドを変更するだけで済み、統合作業を小さく保てます。このモデルはサポート対象パラメータを一切リストしていないため、temperature や top_p などのチューニングオプションが受け入れられることに依存しないでください。リクエストでクエリと候補項目を送信し、rerank 出力を読み取ってください。順序付けの動作を制御する必要がある場合は、候補の構築方法とバッチ処理方法によって、あなたの側で行ってください。

サポート対象パラメータのリストが空であることを踏まえると、このモデルはサンプリング設定で操作するものではなく、固定関数として扱うのが最適です。タスクがテキスト生成、要約、チャットである場合、このモデルは rerank 出力のみを返すため、生成モデルの方が適しています。32768 トークンのコンテキストと 29491 の最大出力は、1 回のリクエストで送信できる候補資料の量を制限するため、非常に大きな候補プールの場合はバッチ処理が必要になります。無料で画像を認識するリランカーを求め、これらの制約内で作業できる場合には、賢明な選択です。