NVIDIA: Nemotron 3.5 Rerank 8B (free)

NVIDIA : Nemotron 3.5 Rerank 8B (free) est un modèle de reranking de NVIDIA, publié sous l'identifiant de modèle nvidia/nemotron-3.5-rerank-8b:free. Il appartient à la catégorie rerank, donc son rôle n'est pas de générer du texte conversationnel mais de noter et de réordonner un ensemble d'éléments candidats par rapport à une requête. La date de publication par le fournisseur est le 2026-10-21. Sur api14, il est proposé comme variante gratuite, ce qui permet de l'évaluer facilement sur vos propres données de retrieval avant de l'adopter en production.

Le modèle accepte des entrées texte et image et produit une sortie rerank. Il a une longueur de contexte de 32768 tokens, et la sortie maximale est de 29491. Comme il traite à la fois le texte et les images, il peut être utilisé dans des pipelines où les éléments à classer ne sont pas purement textuels. La modalité de sortie est rerank plutôt que texte, donc attendez-vous à des scores de pertinence ou à un ordre plutôt qu'à des réponses en prose.

Les cas d'usage pratiques découlent directement de cette forme. Un cas courant est le retrieval en second étage : prenez les meilleurs résultats d'une recherche vectorielle ou par mots-clés, puis faites reclasser ces résultats par ce modèle afin que les éléments les plus pertinents remontent en tête. Le même schéma s'applique à la génération augmentée par retrieval, où un meilleur ordonnancement des passages récupérés améliore la qualité du modèle générateur que vous utilisez en aval. Comme l'entrée image est prise en charge, il peut aussi classer des candidats multimédias mixtes, par exemple sélectionner les images les plus pertinentes ou les documents contenant des images pour une requête donnée. C'est également un choix raisonnable pour des tâches de déduplication ou de priorisation où vous disposez d'un ensemble de candidats et avez besoin d'un ordre défendable.

Vous l'appelez via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle nvidia/nemotron-3.5-rerank-8b:free. Comme le point de terminaison suit le schéma OpenAI, vous pouvez pointer un client OpenAI existant vers l'URL de base d'api14 et changer le champ model, ce qui limite le travail d'intégration. Le modèle ne liste aucun paramètre pris en charge, donc vous ne devez pas compter sur l'acceptation d'options de réglage telles que temperature ou top_p ; envoyez votre requête et vos éléments candidats dans la requête et lisez la sortie rerank. Si vous devez contrôler le comportement d'ordonnancement, faites-le de votre côté par la façon dont vous construisez et regroupez les candidats.

Étant donné la liste vide de paramètres pris en charge, ce modèle se traite mieux comme une fonction fixe plutôt que comme quelque chose que vous pilotez avec des réglages d'échantillonnage. Si votre tâche est la génération de texte, le résumé ou le chat, un modèle génératif conviendra mieux, puisque celui-ci ne renvoie qu'une sortie rerank. Le contexte de 32768 tokens et la sortie maximale de 29491 bornent la quantité de matériel candidat que vous pouvez soumettre en une requête, donc pour de très grands ensembles de candidats vous devrez traiter par lots. C'est un choix judicieux lorsque vous voulez un reranker gratuit et conscient des images et que vous pouvez travailler dans ces contraintes.