NVIDIA: Nemotron 3.5 Rerank 8B (free)

NVIDIA: Nemotron 3.5 Rerank 8B (free) is een reranking-model van NVIDIA, gepubliceerd onder het model-id nvidia/nemotron-3.5-rerank-8b:free. Het behoort tot de categorie rerank, dus het doel is niet het genereren van conversationele tekst, maar het scoren en herordenen van een reeks kandidaat-items ten opzichte van een query. De releasedatum van de provider is 2026-10-21. Op api14 wordt het aangeboden als een gratis variant, wat het eenvoudig maakt om het te evalueren met je eigen retrieval-gegevens voordat je het in productie neemt.

Het model accepteert tekst- en afbeeldingsinvoer en produceert rerank-uitvoer. Het heeft een contextlengte van 32768 tokens, en de maximale uitvoer is 29491. Omdat het zowel tekst als afbeeldingen verwerkt, kan het worden gebruikt in pipelines waarin de items die worden gerangschikt niet puur tekstueel zijn. De uitvoermodaliteit is rerank in plaats van tekst, dus je moet rekenen op relevantiescores of een ordening in plaats van proza-antwoorden.

Praktische use cases volgen direct uit die vorm. Een veelvoorkomende is tweede fase retrieval: neem de topresultaten van een vector- of trefwoordzoekopdracht, en laat dit model ze opnieuw scoren zodat de meest relevante items bovenaan komen. Hetzelfde patroon geldt voor retrieval augmented generation, waarbij een betere ordening van de opgehaalde passages de kwaliteit verbetert van welk generatormodel je downstream ook gebruikt. Omdat afbeeldingsinvoer wordt ondersteund, kan het ook kandidaten met gemengde media rangschikken, bijvoorbeeld het selecteren van de meest relevante afbeeldingen of documenten met afbeeldingen voor een gegeven query. Het is ook een redelijke keuze voor deduplicatie- of prioriteringstaken waarbij je een pool van kandidaten hebt en een verdedigbare ordening nodig hebt.

Je roept het aan via de OpenAI-compatibele API van api14 met het model-id nvidia/nemotron-3.5-rerank-8b:free. Omdat het endpoint het OpenAI-schema volgt, kun je een bestaande OpenAI-client op de base-URL van api14 richten en het model-veld wijzigen, wat het integratiewerk klein houdt. Het model vermeldt geen ondersteunde parameters, dus je moet er niet op rekenen dat afstemmingsopties zoals temperature of top_p worden geaccepteerd; stuur je query en kandidaat-items mee in het verzoek en lees de rerank-uitvoer. Als je het ordeningsgedrag wilt beheersen, doe dat dan aan jouw kant via de manier waarop je de kandidaten samenstelt en batched.

Gezien de lege lijst met ondersteunde parameters kun je dit model het beste behandelen als een vaste functie in plaats van iets dat je stuurt met sampling-instellingen. Als je taak tekstgeneratie, samenvatting of chat is, past een generatief model beter, want dit model retourneert alleen rerank-uitvoer. De context van 32768 tokens en de maximale uitvoer van 29491 begrenzen hoeveel kandidaatmateriaal je in één verzoek kunt indienen, dus voor zeer grote kandidatenpools zul je moeten batchen. Het is een verstandige keuze wanneer je een gratis, afbeeldingsbewuste reranker wilt en binnen die beperkingen kunt werken.