NVIDIA: Nemotron 3.5 Rerank 8B (free)

NVIDIA: Nemotron 3.5 Rerank 8B (free) to model do ponownego rankingowania od NVIDIA, opublikowany pod identyfikatorem modelu nvidia/nemotron-3.5-rerank-8b:free. Należy do kategorii rerank, więc jego zadaniem nie jest generowanie tekstu konwersacyjnego, lecz ocenianie i zmiana kolejności zestawu elementów kandydujących względem zapytania. Data wydania przez dostawcę to 2026-10-21. W api14 jest oferowany jako wariant darmowy, co pozwala na proste przetestowanie go na własnych danych wyszukiwania przed wdrożeniem produkcyjnym.

Model przyjmuje dane wejściowe tekstowe i obrazowe oraz zwraca wynik rerank. Ma długość kontekstu 32768 tokenów, a maksymalna długość wyjścia to 29491. Ponieważ obsługuje zarówno tekst, jak i obrazy, można go stosować w potokach, w których rankingowane elementy nie są wyłącznie tekstowe. Modalność wyjścia to rerank, a nie tekst, więc należy oczekiwać ocen trafności lub uporządkowania, a nie odpowiedzi w formie prozy.

Praktyczne zastosowania wynikają wprost z tego kształtu. Częstym przypadkiem jest wyszukiwanie dwuetapowe: weź najlepsze wyniki z wyszukiwania wektorowego lub słownikowego, a następnie pozwól temu modelowi ponownie je ocenić, aby najbardziej trafne elementy znalazły się na górze. Ten sam wzorzec dotyczy generowania wspomaganego wyszukiwaniem, gdzie lepsze uporządkowanie pobranych fragmentów poprawia jakość dowolnego modelu generującego użytego dalej. Ponieważ obsługiwane są dane wejściowe obrazowe, model może również rankingować kandydatów mieszanych mediów, na przykład wybierać najbardziej trafne obrazy lub dokumenty zawierające obrazy dla danego zapytania. Jest to także rozsądny wybór do zadań deduplikacji lub priorytetyzacji, gdy masz pulę kandydatów i potrzebujesz uzasadnionego uporządkowania.

Wywołujesz go przez zgodne z OpenAI API api14, używając identyfikatora modelu nvidia/nemotron-3.5-rerank-8b:free. Ponieważ punkt końcowy jest zgodny ze schematem OpenAI, możesz skierować istniejącego klienta OpenAI na bazowy adres URL api14 i zmienić pole model, co ogranicza prace integracyjne. Model nie wymienia żadnych obsługiwanych parametrów, więc nie należy zakładać, że opcje dostrajania, takie jak temperature lub top_p, zostaną przyjęte; wyślij zapytanie i elementy kandydujące w żądaniu, a następnie odczytaj wynik rerank. Jeśli potrzebujesz kontrolować zachowanie porządkowania, zrób to po swojej stronie poprzez sposób konstruowania i grupowania kandydatów.

Biorąc pod uwagę pustą listę obsługiwanych parametrów, ten model najlepiej traktować jako stałą funkcję, a nie coś, czym sterujesz ustawieniami próbkowania. Jeśli Twoim zadaniem jest generowanie tekstu, streszczanie lub czat, lepiej sprawdzi się model generatywny, ponieważ ten zwraca wyłącznie wynik rerank. Kontekst 32768 tokenów i maksymalne wyjście 29491 ograniczają ilość materiału kandydującego, jaki możesz przesłać w jednym żądaniu, więc przy bardzo dużych pulach kandydatów konieczne będzie grupowanie. To rozsądny wybór, gdy chcesz darmowego, świadomego obrazów rerankera i możesz działać w tych ograniczeniach.