Usamos cookies. Las cookies y el almacenamiento del navegador mantienen tu sesión iniciada y recuerdan tus preferencias. Con tu permiso, también medimos cómo se usa el sitio. Puedes en cualquier momento. Consulta nuestra política de cookies.
mongodb/rerank-3Se ejecuta con tu saldo a los precios indicados arriba. Las cuentas nuevas empiezan con uso gratuito.
Configuración
VoyageAI by MongoDB: rerank-3 es un modelo de reranking de VoyageAI by MongoDB. Se sitúa en la categoría rerank y se posiciona como una actualización directa de rerank-2.5, lo que significa que los equipos que ya usan el modelo anterior pueden pasar a rerank-3 sin rehacer su integración. El modelo está diseñado para la calidad de recuperación en lugar de la generación, por lo que pertenece a la parte de un pipeline que decide cómo deben ordenarse los resultados de búsqueda o los pasajes candidatos antes de llegar a un usuario o a un modelo posterior.
El modelo toma texto como entrada y produce una salida de reranking. Admite una longitud de contexto de 32.000 tokens, con una salida máxima de 28.800, lo que es espacio suficiente para puntuar pasajes candidatos largos junto con una consulta en lugar de solo fragmentos cortos. Dado que la modalidad de entrada es texto y la modalidad de salida es rerank, el modelo no genera prosa ni respuestas de chat; devuelve un orden de los pasajes que se le proporcionan. Eso lo convierte en un componente de puntuación y ordenación en lugar de uno conversacional.
Los casos de uso prácticos se derivan directamente de esa forma. Un pipeline de recuperación puede obtener un conjunto amplio de candidatos con una búsqueda rápida de primera etapa, y luego pasar la consulta y esos candidatos a rerank-3 para producir un orden final mejor. Esto es útil en búsquedas sobre documentación, bases de conocimiento internas, contenido de soporte o cualquier corpus donde los mejores resultados importen más que la recuperación bruta. También encaja en configuraciones de generación aumentada por recuperación, donde la calidad de los pasajes colocados en un prompt afecta la respuesta que sigue. El contexto largo y el amplio margen de salida lo hacen adecuado para colecciones que incluyen documentos extensos, ya que el modelo puede considerar más de cada candidato al asignarle su posición.
Se llama al modelo a través de la API compatible con OpenAI de api14 usando el id de modelo "mongodb/rerank-3". Como la interfaz sigue el formato de OpenAI, puedes apuntar un cliente de OpenAI existente a api14 y seleccionar este id de modelo en tu solicitud. El modelo no lista parámetros admitidos más allá del propio id de modelo, así que no deberías esperar ajustar configuraciones de muestreo o generación como temperature o top_p; esas pertenecen a los modelos generativos, no a un reranker. Envía la consulta y los textos candidatos, y lee de vuelta la salida de reranking.
Vale la pena señalar que rerank-3 es un reranker, por lo que no es la elección correcta cuando necesitas generación de texto, chat, resumen o embeddings. Si tu tarea es producir una respuesta en lugar de ordenar candidatos, un modelo generativo encaja mejor. Si tu tarea es crear las representaciones vectoriales iniciales que luego un reranker reordena, un modelo de embeddings es el componente apropiado. Dentro del trabajo de reranking, rerank-3 es el sucesor directo de rerank-2.5, y el proveedor reporta mejoras sobre ese modelo de 0,80% NDCG@10 en promedio en evaluaciones de dominio y 3,35% en evaluaciones de documentos largos.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/rerank", { body: {
"model": "mongodb/rerank-3",
"query": "What is the capital of France?",
"documents": [
"Paris is the capital of France.",
"Berlin is in Germany."
],
"top_n": 1
} });
console.log(result.results);
Esta comunidad aún no tiene temas. Abre el primero sobre VoyageAI by MongoDB: rerank-3.