Usamos cookies. Las cookies y el almacenamiento del navegador mantienen tu sesión iniciada y recuerdan tus preferencias. Con tu permiso, también medimos cómo se usa el sitio. Puedes en cualquier momento. Consulta nuestra política de cookies.
mongodb/rerank-2.5-liteSe ejecuta con tu saldo a los precios indicados arriba. Las cuentas nuevas empiezan con uso gratuito.
Configuración
VoyageAI by MongoDB: rerank-2.5-lite es un modelo de reranking de VoyageAI by MongoDB. Se sitúa en la categoría rerank, lo que significa que su función es tomar un conjunto de documentos candidatos y reordenarlos por relevancia respecto a una consulta en lugar de generar texto nuevo. Fue lanzado por el proveedor el 2026-07-27.
El modelo acepta texto como entrada y produce una salida de rerank, por lo que se le envía una consulta junto con los documentos que se quieren puntuar y devuelve estos en un orden más útil. Tiene una longitud de contexto de 32000 tokens y una salida máxima de 28800. Como trabaja solo con texto, cualquier pasaje candidato que se quiera clasificar debe proporcionarse como texto. El proveedor lo describe como un reranker optimizado tanto para latencia como para calidad, y reporta una mejora del 7.16% en precisión de recuperación frente a Cohere Rerank v3.5 en 93 conjuntos de datos, además de superar a Cohere Rerank v3.5.
El encaje práctico se deriva de eso. Si ya se ejecuta un paso de recuperación, ya sea búsqueda vectorial, búsqueda por palabras clave o una combinación de ambas, este modelo puede situarse después y reordenar los mejores candidatos antes de que lleguen a la aplicación o al modelo de lenguaje. Eso ayuda cuando la primera etapa devuelve resultados plausibles pero con un orden imperfecto, algo habitual en búsquedas sobre documentación, tickets de soporte, catálogos de productos o bases de conocimiento internas. También es útil en pipelines de generación aumentada por recuperación, donde la calidad de los pasajes situados cerca del principio del prompt tiene un efecto directo en la respuesta, y en tareas de evaluación en las que se quiere un orden de relevancia consistente sobre un conjunto fijo de candidatos. El énfasis en la latencia lo convierte en una opción razonable cuando el reranking ocurre en la ruta de la solicitud en lugar de en un trabajo por lotes.
Se llama a través de la API compatible con OpenAI de api14 usando el id de modelo "mongodb/rerank-2.5-lite". Como el endpoint sigue el formato de OpenAI, se puede apuntar un cliente de OpenAI existente a api14 cambiando la URL base y proporcionando la clave de api14, y luego pasar el id de modelo en la solicitud. No se admiten parámetros de solicitud adicionales para este modelo, así que conviene limitar las llamadas a los campos estándar que acepta el endpoint en lugar de depender de opciones específicas del proveedor, como la truncación personalizada o la configuración de instrucciones.
Hay que tener en cuenta la longitud de contexto al ensamblar las entradas: la consulta y los documentos que se envían comparten el presupuesto de 32000 tokens, por lo que los conjuntos de candidatos muy grandes deben recortarse o dividirse antes de enviarlos. Si la tarea es generar texto en lugar de ordenarlo, un modelo de chat o de completado es la herramienta adecuada, y si se necesita clasificar imágenes u otras entradas que no sean texto, este modelo no cubre ese caso.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/rerank", { body: {
"model": "mongodb/rerank-2.5-lite",
"query": "What is the capital of France?",
"documents": [
"Paris is the capital of France.",
"Berlin is in Germany."
],
"top_n": 1
} });
console.log(result.results);
Esta comunidad aún no tiene temas. Abre el primero sobre VoyageAI by MongoDB: rerank-2.5-lite.