NVIDIA: Nemotron 3.5 Rerank 8B (free)

NVIDIA: Nemotron 3.5 Rerank 8B (free) är en omrangordningsmodell från NVIDIA, publicerad under modell-id nvidia/nemotron-3.5-rerank-8b:free. Den tillhör kategorin rerank, så dess uppgift är inte att generera konversationstext utan att poängsätta och ordna om en uppsättning kandidatobjekt mot en fråga. Leverantörens utgivningsdatum är 2026-10-21. På api14 erbjuds den som en gratis variant, vilket gör det enkelt att utvärdera den mot dina egna hämtningsdata innan du bestämmer dig för att använda den i produktion.

Modellen tar emot text- och bildindata och producerar rerank-utdata. Den har en kontextlängd på 32768 tokens, och maximal utdata är 29491. Eftersom den hanterar både text och bilder kan den användas i pipelines där objekten som rangordnas inte är enbart textbaserade. Utdata modaliteten är rerank snarare än text, så du bör förvänta dig relevanspoäng eller en ordning snarare än prosasvar.

Praktiska användningsfall följer direkt av den formen. Ett vanligt är andra stegs hämtning: ta de bästa resultaten från en vektor- eller nyckelordssökning och låt sedan denna modell poängsätta dem igen så att de mest relevanta objekten hamnar högst upp. Samma mönster gäller för hämtningsförstärkt generering, där bättre ordning på de hämtade avsnitten förbättrar kvaliteten på vilken generatormodell du än använder nedströms. Eftersom bildindata stöds kan den också rangordna blandade mediekandidater, till exempel välja de mest relevanta bilderna eller dokumenten som innehåller bilder för en given fråga. Den är också ett rimligt val för deduplicering eller prioriteringsuppgifter där du har en pool av kandidater och behöver en försvarbar ordning.

Du anropar den via api14:s OpenAI-kompatibla API med modell-id nvidia/nemotron-3.5-rerank-8b:free. Eftersom slutpunkten följer OpenAI-schemat kan du peka en befintlig OpenAI-klient mot api14:s bas-URL och ändra modellfältet, vilket håller integrationsarbetet litet. Modellen listar inga stödda parametrar, så du bör inte förlita dig på att justeringsalternativ som temperature eller top_p accepteras; skicka din fråga och dina kandidatobjekt i begäran och läs rerank-utdata. Om du behöver kontrollera ordningsbeteendet gör du det på din sida genom hur du konstruerar och batchar kandidaterna.

Med tanke på den tomma listan över stödda parametrar är denna modell bäst att behandla som en fast funktion snarare än något du styr med samplingsinställningar. Om din uppgift är textgenerering, sammanfattning eller chatt passar en generativ modell bättre, eftersom denna endast returnerar rerank-utdata. Kontexten på 32768 tokens och den maximala utdatan på 29491 begränsar hur mycket kandidatmaterial du kan skicka i en begäran, så för mycket stora kandidatpooler behöver du batcha. Det är ett förnuftigt val när du vill ha en gratis, bildmedveten omrangordnare och kan arbeta inom dessa begränsningar.