NVIDIA: Llama Nemotron Embed VL 1B V2 (free)

Llama Nemotron Embed VL 1B V2 は NVIDIA の埋め込みモデルで、api14 上でモデル ID nvidia/llama-nemotron-embed-vl-1b-v2:free として配布されています。embeddings カテゴリに属し、その公称用途はマルチモーダル質問応答検索です。これは 1B クラスのモデルであり、Nemotron ファミリーの中では小規模な選択肢に位置づけられ、ここでは無料のバリアントとして提供されています。

このモデルはテキストと画像を入力として受け取り、出力として埋め込みを生成します。ドキュメントを 3 つの形式で埋め込むことができます。画像のみ、テキストのみ、または画像とテキストの組み合わせです。この柔軟性が設計の核心です。検索システムでは、テキストの質問をページ画像、スクリーンショット、図、または散文の一節と照合する必要がしばしばあるためです。コンテキストウィンドウは 131072 トークン、最大出力は 117964 であるため、長いドキュメントを多数の断片に分割せずに埋め込むことができます。

実用的な用途はマルチモーダル検索から導かれます。スキャンした文書、PDF、製品画像、または混合メディアのナレッジベース上で質問応答システムを構築するチームは、各項目を一度埋め込んでから、テキストクエリに対して類似度検索を実行できます。画像とテキストを同時に埋め込めるため、同じインデックスがグラフに関するクエリとその隣の段落に関するクエリの両方に対応でき、視覚コンテンツとテキストコンテンツのために別々のパイプラインを維持する必要がありません。また、スクリーンショットと文章資料が混在するコレクションに対する重複排除、クラスタリング、推薦にも適しています。

api14 を通じて呼び出すには、OpenAI 互換の embeddings エンドポイントをモデル ID nvidia/llama-nemotron-embed-vl-1b-v2:free とともに使用します。このモデルはサポートされるパラメータを記載していないため、リクエストは temperature や top_p といったサンプリング制御ではなく、エンドポイントが要求する標準フィールドに依存すべきです。これらは埋め込みモデルには適用されません。通常の embeddings リクエスト形式で入力を送信し、レスポンスからベクトルを読み取ってください。

考慮すべき点の 1 つは、これは埋め込みモデルであり、チャットや生成モデルではないため、質問に答えたりテキストを書いたりしないことです。タスクが生成、推論、または会話である場合は、別のモデルが適切な選択です。また、検索スタックがモデルの返すベクトル次元を保存および比較できること、および入力が 131072 トークンのコンテキスト内に収まることを確認する価値もあります。