VoyageAI by MongoDB: rerank-2.5

VoyageAI by MongoDB: rerank-2.5 es un modelo de reranking de Voyage AI, un proveedor cuyos rerankers se distribuyen bajo el nombre VoyageAI by MongoDB. Se sitúa en la categoría rerank, lo que significa que su función no es generar texto, sino tomar un conjunto de documentos candidatos y reordenarlos por relevancia respecto a una consulta. Si tu aplicación ya recupera pasajes, fragmentos o resultados de búsqueda y quieres que las mejores coincidencias queden arriba, este es el tipo de modelo al que recurrirías.

El modelo acepta texto como entrada y produce un reranking como salida. Tiene una longitud de contexto de 32.000 tokens, que es el presupuesto compartido entre la consulta y los documentos que envías en una sola solicitud, y una salida máxima de 28.800. Como la salida es una clasificación y no prosa generada, no deberías esperar que responda preguntas, resuma contenido o escriba código. Toda su contribución es un orden de relevancia sobre los candidatos que proporcionas.

Los casos de uso prácticos se derivan directamente de eso. Un pipeline de generación aumentada por recuperación puede usar rerank-2.5 como segunda etapa después de una búsqueda rápida vectorial o por palabras clave, tomando los mejores candidatos y reordenándolos para que los fragmentos más relevantes sean los que se pasen a un modelo de generación. El mismo patrón se aplica a la búsqueda empresarial, la búsqueda en documentación y las bases de conocimiento de soporte, donde la primera etapa favorece el recall y el reranker restaura la precisión. También es útil para tareas de deduplicación y priorización en las que tienes más pasajes candidatos de los que puedes permitirte mostrar a un usuario o introducir en un prompt posterior.

Lo llamas a través de la API compatible con OpenAI de api14 usando el id de modelo "voyageai/rerank-2.5". Como el endpoint sigue el esquema de OpenAI, puedes apuntar un cliente de OpenAI existente a la URL base de api14 y pasar este id en el campo model. La lista de parámetros admitidos del modelo está vacía, así que no hay opciones de ajuste adicionales que configurar más allá de lo que requiere la propia solicitud de rerank, como la consulta y los documentos que se van a puntuar. Mantén las solicitudes dentro del contexto de 32.000 tokens, recordando que la consulta y cada documento candidato cuentan para ese total.

Sobre la cuestión de cuándo buscar en otro sitio: rerank-2.5 solo maneja texto y solo devuelve una clasificación, así que las tareas que necesitan entrada de imágenes, audio o salida generada quedan fuera de su alcance y corresponden a un modelo diferente. Si necesitas un único modelo que tanto recupere como responda, un modelo de generación encaja mejor, con rerank-2.5 colocado opcionalmente delante como etapa de precisión.