NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)

NVIDIA: Llama Nemotron Rerank VL 1B V2 (free) は NVIDIA によるマルチモーダルなリランキングモデルです。これは rerank カテゴリに属し、その役割はチャットや生成モデルよりも狭いものです。ユーザーのクエリに対してドキュメントがどれだけ関連しているかを評価します。このモデルは 1.7B パラメータのシステムで、ここで提供されるバージョンは V2 リリースです。NVIDIA はこれを検索パイプラインのランキング段階向けに特別に構築しました。テキストだけでなく画像も扱うパイプラインを含みます。

入力では、このモデルはテキストと画像を受け付けます。出力では、生成された文章ではなくリランク結果を生成します。つまり、クエリと候補ドキュメント (ドキュメント画像またはテキスト) を与えると、それらの候補を並べるために使用できる関連性の判定を返します。コンテキストウィンドウは 10,240 トークンで、最大出力は 9,216 です。入力と出力の両方の予算がその範囲にあるため、実用的な制約は 1 回のスコアリング呼び出しにどれだけのクエリとドキュメントの内容を詰め込むかになります。

明らかなユースケースはビジョン RAG です。検索システムがスキャンしたページ、スクリーンショット、スライドデッキ、画像としてレンダリングされた PDF、またはレイアウトや視覚情報が意味を持つあらゆるコーパスをインデックス化している場合、テキストのみのリランカーは信号の一部を見落とします。このモデルはドキュメント画像をクエリに対して直接スコアリングするため、第 1 段階の検索器と生成ステップの間に位置し、候補を並べ替えて、最終的な回答を書くモデルのコンテキストウィンドウに最も関連性の高いものが届くようにできます。テキストのみのリランキングも引き続き機能するため、混在したコーパスでも問題ありません。

モデル id "nvidia/llama-nemotron-rerank-vl-1b-v2:free" を使用して、api14 の OpenAI 互換 API を通じて呼び出します。インターフェースが OpenAI 互換であるため、既存のクライアントを api14 のベース URL に向け、model フィールドにその id を渡します。このモデルは基本を超えるサポート対象パラメータを何も記載していないため、サンプリング制御やカスタム応答フォーマットなどの追加の設定項目はないことに注意してください。リクエストは標準のメッセージ内容とモデル id のみに留めてください。

この空のパラメータリストは、それを前提に計画する価値があります。アプリケーションが temperature、top_p、または類似の設定を調整することを期待している場合、これはそのためのモデルではありません。そこには生成モデルの方が適しています。同様に、タスクが候補を並べることではなくテキストを生成することである場合、リランカーは誤ったツールです。それが適合するのはランキング段階であり、特にドキュメントが画像で、それらを考慮した関連性スコアリングを求める場合です。