Usamos cookies. Las cookies y el almacenamiento del navegador mantienen tu sesión iniciada y recuerdan tus preferencias. Con tu permiso, también medimos cómo se usa el sitio. Puedes en cualquier momento. Consulta nuestra política de cookies.
mongodb/rerank-2.5Se ejecuta con tu saldo a los precios indicados arriba. Las cuentas nuevas empiezan con uso gratuito.
Configuración
VoyageAI by MongoDB: rerank-2.5 es un modelo de reranking de VoyageAI by MongoDB. Pertenece a la categoría rerank, lo que significa que su función es tomar un conjunto existente de resultados candidatos y reordenarlos por relevancia en lugar de generar texto nuevo desde cero. Es un modelo de texto, y su salida es un resultado de rerank.
El modelo acepta texto como entrada y produce una salida reordenada. Tiene una longitud de contexto de 32.000 tokens y una salida máxima de 28.800. Debido a que es un reranker, no escribe prosa, no responde preguntas ni mantiene una conversación. En su lugar, puntúa y ordena pasajes en relación con una consulta, que es el paso que normalmente se sitúa entre una pasada de recuperación inicial y el conjunto final de documentos entregados a un modelo posterior o mostrados a un usuario.
Esa forma lo hace útil dondequiera que importe la calidad de la recuperación. Un patrón común es una canalización de búsqueda en dos etapas: una búsqueda rápida vectorial o por palabras clave devuelve una lista amplia de candidatos, y rerank-2.5 reordena esos candidatos para que los elementos más relevantes queden en la parte superior. Esto se aplica a la generación aumentada por recuperación, donde un mejor orden significa que el generador ve primero el contexto más sólido, y a la búsqueda sobre documentación, tickets de soporte, bases de conocimiento internas o catálogos de productos. También encaja en trabajos de evaluación y curación de datos, donde se necesita un orden de relevancia consistente en un conjunto grande de pares de consulta y documento.
Se llama a través de la API compatible con OpenAI de api14 usando el id de modelo "mongodb/rerank-2.5". Debido a que el endpoint sigue el formato de OpenAI, puedes apuntar un cliente de OpenAI existente a api14 cambiando la URL base y pasando ese id de modelo en tu solicitud. El modelo no lista parámetros compatibles, así que no hay opciones de muestreo o generación que ajustar; envías tu consulta y tus documentos y recibes el orden reordenado de vuelta. El contexto de 32.000 tokens es el presupuesto a tener en cuenta al decidir cuántos candidatos enviar en una sola llamada.
Si tu tarea es generación de texto, resumen, chat o uso de herramientas, un reranker es la herramienta equivocada y un modelo generativo encajará mejor. rerank-2.5 se trata mejor como una etapa de una canalización en lugar de un asistente independiente, y es más valioso cuando ya tienes un conjunto de candidatos que necesita un orden más preciso.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/rerank", { body: {
"model": "mongodb/rerank-2.5",
"query": "What is the capital of France?",
"documents": [
"Paris is the capital of France.",
"Berlin is in Germany."
],
"top_n": 1
} });
console.log(result.results);
Esta comunidad aún no tiene temas. Abre el primero sobre VoyageAI by MongoDB: rerank-2.5.