NVIDIA: Llama Nemotron Embed VL 1B V2 (free)

Llama Nemotron Embed VL 1B V2 is een embeddingmodel van NVIDIA, gedistribueerd op api14 onder de model-id nvidia/llama-nemotron-embed-vl-1b-v2:free. Het behoort tot de categorie embeddings, en het opgegeven doel is multimodale vraag-en-antwoord-retrieval. Het is een model uit de 1B-klasse, wat het plaatst onder de kleinere opties in de Nemotron-familie, en het wordt hier aangeboden in een gratis variant.

Het model accepteert tekst en afbeeldingen als invoer en produceert embeddings als uitvoer. Het kan documenten in drie vormen embedden: alleen afbeelding, alleen tekst, of afbeelding en tekst samen. Die flexibiliteit is de kern van het ontwerp, omdat retrievalsystemen vaak een tekstvraag moeten matchen met een pagina-afbeelding, een screenshot, een diagram of een stuk proza. Het contextvenster is 131072 tokens, en de maximale uitvoer is 117964, zodat lange documenten kunnen worden ge-embed zonder ze in veel fragmenten te splitsen.

Praktische toepassingen volgen uit multimodale retrieval. Een team dat een vraag-en-antwoordsysteem bouwt over gescande documenten, PDF's, productafbeeldingen of kennisbanken met gemengde media kan elk item eenmalig embedden en vervolgens similarity search uitvoeren tegen een tekstquery. Omdat afbeelding en tekst gezamenlijk kunnen worden ge-embed, kan dezelfde index queries bedienen over een grafiek en queries over de paragraaf ernaast, wat voorkomt dat er aparte pipelines voor visuele en tekstuele inhoud moeten worden onderhouden. Het is ook geschikt voor deduplicatie, clustering en aanbevelingen over collecties die screenshots met geschreven materiaal mengen.

Om het via api14 aan te roepen, gebruik je het OpenAI-compatibele embeddings-endpoint met de model-id nvidia/llama-nemotron-embed-vl-1b-v2:free. Het model vermeldt geen ondersteunde parameters, dus verzoeken moeten vertrouwen op de standaardvelden die het endpoint vereist in plaats van sampling-instellingen zoals temperature of top_p, die niet van toepassing zijn op embeddingmodellen. Stuur je invoer in de gebruikelijke vorm van een embeddings-verzoek en lees de vector terug uit de respons.

Iets om af te wegen is dat dit een embeddingmodel is, geen chat- of generatiemodel, dus het zal geen vragen beantwoorden of tekst schrijven. Als je taak generatie, redenering of conversatie is, is een ander model de juiste keuze. Het is ook de moeite waard om te controleren of je retrieval-stack de vectordimensies die het model retourneert kan opslaan en vergelijken, en of je invoer binnen de context van 131072 tokens past.