NVIDIA: Nemotron 3.5 Rerank 8B (free)

NVIDIA: Nemotron 3.5 Rerank 8B (free) es un modelo de reranking de NVIDIA, publicado bajo el id de modelo nvidia/nemotron-3.5-rerank-8b:free. Pertenece a la categoría rerank, por lo que su función no es generar texto conversacional sino puntuar y reordenar un conjunto de elementos candidatos frente a una consulta. La fecha de lanzamiento del proveedor es 2026-10-21. En api14 se ofrece como variante gratuita, lo que facilita evaluarlo con tus propios datos de recuperación antes de comprometerte a usarlo en producción.

El modelo acepta entradas de texto e imagen y produce salida de rerank. Tiene una longitud de contexto de 32768 tokens, y la salida máxima es 29491. Debido a que maneja tanto texto como imágenes, puede usarse en pipelines donde los elementos que se clasifican no son puramente textuales. La modalidad de salida es rerank en lugar de texto, por lo que debes esperar puntuaciones de relevancia o un orden en lugar de respuestas en prosa.

Los casos de uso prácticos se derivan directamente de esa forma. Uno común es la recuperación en segunda etapa: toma los mejores resultados de una búsqueda vectorial o por palabras clave, luego haz que este modelo los vuelva a puntuar para que los elementos más relevantes suban a la parte superior. El mismo patrón se aplica a la generación aumentada por recuperación, donde un mejor orden de los pasajes recuperados mejora la calidad del modelo generador que uses después. Debido a que se admite entrada de imagen, también puede clasificar candidatos de medios mixtos, por ejemplo seleccionar las imágenes o documentos que contienen imágenes más relevantes para una consulta dada. También es una opción razonable para tareas de deduplicación o priorización donde tienes un conjunto de candidatos y necesitas un orden defendible.

Lo llamas a través de la API compatible con OpenAI de api14 usando el id de modelo nvidia/nemotron-3.5-rerank-8b:free. Debido a que el endpoint sigue el esquema de OpenAI, puedes apuntar un cliente de OpenAI existente a la URL base de api14 y cambiar el campo model, lo que mantiene el trabajo de integración pequeño. El modelo no lista parámetros admitidos, por lo que no debes confiar en que se acepten opciones de ajuste como temperature o top_p; envía tu consulta y los elementos candidatos en la solicitud y lee la salida de rerank. Si necesitas controlar el comportamiento del orden, hazlo de tu lado según cómo construyes y agrupas los candidatos.

Dada la lista vacía de parámetros admitidos, este modelo se trata mejor como una función fija en lugar de algo que diriges con ajustes de muestreo. Si tu tarea es generación de texto, resumen o chat, un modelo generativo encajará mejor, ya que este solo devuelve salida de rerank. El contexto de 32768 tokens y la salida máxima de 29491 limitan cuánto material candidato puedes enviar en una solicitud, así que para conjuntos de candidatos muy grandes tendrás que agrupar por lotes. Es una elección sensata cuando quieres un reranker gratuito y consciente de imágenes y puedes trabajar dentro de esas restricciones.