VoyageAI by MongoDB: rerank-3

VoyageAI de MongoDB: rerank-3 es un modelo de reranking de Voyage AI, un proveedor que ahora forma parte de MongoDB. Se sitúa en la categoría rerank, y Voyage AI lo posiciona como un reranker optimizado y una actualización directa de rerank-2.5. Este no es un modelo de chat ni de generación de texto: existe para tomar un conjunto de documentos candidatos y reordenarlos por relevancia respecto a una consulta.

El modelo trabaja con entrada de texto y produce salida de reranking. Tiene una longitud de contexto de 32.000 tokens, lo cual es suficientemente grande para acomodar una consulta junto con un lote sustancial de pasajes candidatos en una sola llamada. La salida máxima es 28.800. Debido a que es un reranker, la forma de una respuesta es un orden clasificado de los documentos que usted proporciona, no prosa de forma libre. No hay parámetros soportados listados para este modelo, por lo que quienes lo invocan no deberían esperar los controles de muestreo (temperature, top_p y similares) que aplican a los modelos generativos.

Los casos de uso prácticos se derivan directamente de ese diseño. Un patrón común es una canalización de recuperación en dos etapas: una búsqueda rápida vectorial o por palabras clave devuelve un conjunto amplio de candidatos, luego rerank-3 los reordena para que los resultados más relevantes aparezcan en la parte superior. Esto mejora la calidad de los resultados de búsqueda, el contexto de generación aumentada por recuperación, el cuestionamiento y respuesta sobre una colección de documentos, y las funciones de recomendación o emparejamiento donde la clasificación por relevancia importa. Debido a que el proveedor describe mejoras en evaluaciones de documentos largos, también es una opción razonable cuando los pasajes que se clasifican son extensos en lugar de fragmentos cortos.

Para invocarlo a través de api14, use el id de modelo "voyageai/rerank-3" contra el endpoint compatible con OpenAI. Debido a que api14 expone una API compatible con OpenAI, usted apunta su cliente existente a la puerta de enlace y pasa ese id como el modelo. Dado que el modelo no lista parámetros soportados, usted debería enviar una solicitud simple con su consulta y los documentos a clasificar, y confiar en el propio comportamiento de clasificación del modelo en lugar de ajustar la configuración de decodificación.

Un límite que vale la pena señalar es el alcance. rerank-3 solo rerankea texto; no genera respuestas ni resúmenes, así que si necesita un modelo que produzca texto, lo emparejaría con un modelo generativo. Además, si su canalización no tiene un paso de recuperación separado y solo necesita una búsqueda de embeddings de primera pasada, un modelo de embeddings dedicado puede ser el punto de partida más simple, con rerank-3 agregado después para refinar el orden.