NVIDIA: Nemotron 3.5 Rerank 8B (free)

NVIDIA: Nemotron 3.5 Rerank 8B (free) è un modello di reranking di NVIDIA, pubblicato con l'id modello nvidia/nemotron-3.5-rerank-8b:free. Appartiene alla categoria rerank, quindi il suo compito non è generare testo conversazionale ma assegnare un punteggio e riordinare un insieme di elementi candidati rispetto a una query. La data di rilascio del provider è 2026-10-21. Su api14 è offerto come variante gratuita, il che rende semplice valutarlo sui propri dati di retrieval prima di adottarlo in produzione.

Il modello accetta input di testo e immagini e produce output di rerank. Ha una lunghezza di contesto di 32768 token, e l'output massimo è 29491. Poiché gestisce sia testo che immagini, può essere usato in pipeline in cui gli elementi da classificare non sono puramente testuali. La modalità di output è rerank anziché testo, quindi ci si devono aspettare punteggi di rilevanza o un ordinamento, non risposte in prosa.

I casi d'uso pratici derivano direttamente da questa forma. Uno comune è il retrieval di secondo stadio: prendi i risultati migliori da una ricerca vettoriale o per parole chiave, poi fai riassegnare loro un punteggio da questo modello in modo che gli elementi più rilevanti risalgano in cima. Lo stesso schema si applica alla generazione aumentata da retrieval, dove un migliore ordinamento dei passaggi recuperati migliora la qualità di qualunque modello generatore tu usi a valle. Poiché l'input di immagini è supportato, può anche classificare candidati di media misti, per esempio selezionando le immagini più rilevanti o i documenti contenenti immagini per una data query. È anche una scelta ragionevole per attività di deduplicazione o prioritizzazione in cui hai un pool di candidati e ti serve un ordinamento difendibile.

Lo chiami tramite l'API compatibile con OpenAI di api14 usando l'id modello nvidia/nemotron-3.5-rerank-8b:free. Poiché l'endpoint segue lo schema OpenAI, puoi puntare un client OpenAI esistente all'URL di base di api14 e cambiare il campo model, il che mantiene ridotto il lavoro di integrazione. Il modello non elenca parametri supportati, quindi non dovresti contare sul fatto che opzioni di tuning come temperature o top_p vengano accettate; invia la tua query e gli elementi candidati nella richiesta e leggi l'output di rerank. Se devi controllare il comportamento dell'ordinamento, fallo dalla tua parte, in base a come costruisci e raggruppi i candidati.

Data la lista vuota di parametri supportati, questo modello è meglio trattarlo come una funzione fissa anziché come qualcosa da guidare con impostazioni di campionamento. Se il tuo compito è generazione di testo, riassunto o chat, un modello generativo si adatterà meglio, dato che questo restituisce solo output di rerank. Il contesto di 32768 token e l'output massimo di 29491 limitano quanto materiale candidato puoi inviare in una singola richiesta, quindi per pool di candidati molto grandi dovrai suddividere in batch. È una scelta sensata quando vuoi un reranker gratuito e consapevole delle immagini e puoi lavorare entro questi vincoli.