NVIDIA: Llama Nemotron Embed VL 1B V2 (free)

Llama Nemotron Embed VL 1B V2 ist ein Embedding-Modell von NVIDIA, das auf api14 unter der Modell-ID nvidia/llama-nemotron-embed-vl-1b-v2:free verteilt wird. Es gehört zur Kategorie embeddings, und sein angegebener Zweck ist multimodales Question-Answering-Retrieval. Es ist ein Modell der 1B-Klasse, was es zu einer der kleineren Optionen in der Nemotron-Familie macht, und es wird hier in einer kostenlosen Variante angeboten.

Das Modell akzeptiert Text und Bilder als Eingabe und erzeugt Embeddings als Ausgabe. Es kann Dokumente in drei Formen einbetten: nur Bild, nur Text oder Bild und Text zusammen. Diese Flexibilität ist der Kern seines Designs, da Retrieval-Systeme oft eine Textfrage mit einem Seitenbild, einem Screenshot, einem Diagramm oder einer Textpassage abgleichen müssen. Das Kontextfenster beträgt 131072 Token, und die maximale Ausgabe ist 117964, sodass lange Dokumente eingebettet werden können, ohne sie in viele Fragmente aufzuteilen.

Praktische Anwendungen ergeben sich aus dem multimodalen Retrieval. Ein Team, das ein Question-Answering-System über gescannte Dokumente, PDFs, Produktbilder oder gemischte Medien-Wissensbasen aufbaut, kann jedes Element einmal einbetten und dann eine Ähnlichkeitssuche gegen eine Textabfrage ausführen. Da Bild und Text gemeinsam eingebettet werden können, kann derselbe Index sowohl Abfragen zu einem Diagramm als auch Abfragen zum danebenstehenden Absatz bedienen, was vermeidet, separate Pipelines für visuelle und textliche Inhalte zu pflegen. Es eignet sich auch für Deduplizierung, Clustering und Empfehlungen über Sammlungen, die Screenshots mit schriftlichem Material mischen.

Um es über api14 aufzurufen, verwenden Sie den OpenAI-kompatiblen embeddings-Endpunkt mit der Modell-ID nvidia/llama-nemotron-embed-vl-1b-v2:free. Das Modell listet keine unterstützten Parameter auf, daher sollten Anfragen sich auf die Standardfelder verlassen, die der Endpunkt erfordert, statt auf Sampling-Steuerungen wie temperature oder top_p, die für Embedding-Modelle nicht gelten. Senden Sie Ihre Eingabe in der üblichen Form einer embeddings-Anfrage und lesen Sie den Vektor aus der Antwort zurück.

Eine Sache, die abzuwägen ist, ist, dass dies ein Embedding-Modell ist, kein Chat- oder Generierungsmodell, sodass es keine Fragen beantwortet oder Text schreibt. Wenn Ihre Aufgabe Generierung, Reasoning oder Konversation ist, ist ein anderes Modell die richtige Wahl. Es lohnt sich auch zu prüfen, ob Ihr Retrieval-Stack die Vektordimensionen speichern und vergleichen kann, die das Modell zurückgibt, und ob Ihre Eingaben in den Kontext von 131072 Token passen.