Usamos cookies. Las cookies y el almacenamiento del navegador mantienen tu sesión iniciada y recuerdan tus preferencias. Con tu permiso, también medimos cómo se usa el sitio. Puedes en cualquier momento. Consulta nuestra política de cookies.
cohere/rerank-5-fastSe ejecuta con tu saldo a los precios indicados arriba. Las cuentas nuevas empiezan con uso gratuito.
Configuración
Cohere: Rerank 5 Fast es un modelo de reranking de Cohere, posicionado como el nivel de baja latencia de la familia Rerank 5 de la compañía. En lugar de generar texto, puntúa y reordena documentos candidatos frente a una consulta, lo que lo sitúa en la etapa de recuperación de un pipeline de búsqueda o RAG en lugar de en la etapa de generación.
El modelo trabaja con entrada de texto y produce una salida de rerank, lo que significa que su respuesta es una ordenación de los documentos que proporcionas en lugar de prosa nueva. Admite una longitud de contexto de 32768 tokens, y su salida máxima es 29491. Debido a que está diseñado para puntuar y reordenar, no acepta los parámetros de muestreo o generación que esperarías de un modelo de chat.
Los casos de uso prácticos se derivan directamente de ese comportamiento. Si ejecutas un recuperador de primera etapa como una búsqueda vectorial o una búsqueda por palabras clave, Rerank 5 Fast puede tomar los mejores candidatos que devuelve y reordenarlos para que los documentos más relevantes queden en la parte superior. Eso mejora la calidad de lo que alimentas a un generador de respuestas posterior, y también ayuda cuando presentas resultados de búsqueda directamente a un usuario. El nivel de baja latencia está orientado a la recuperación de alto rendimiento, por lo que encaja en pipelines que emiten muchas consultas y no pueden permitirse un paso de reranking lento en cada una.
Lo llamas a través de la API compatible con OpenAI de api14 usando el id de modelo "cohere/rerank-5-fast". Debido a que el endpoint sigue el formato de OpenAI, puedes apuntar las bibliotecas de cliente de OpenAI existentes a api14 y pasar ese id como el modelo. El modelo no lista parámetros admitidos, por lo que las solicitudes dependen del id de modelo junto con tu consulta y los documentos candidatos en lugar de opciones de ajuste.
Dado que Rerank 5 Fast solo reordena los documentos que proporcionas, no es adecuado cuando necesitas generación de texto, resumen o razonamiento sobre un prompt. Esas tareas requieren un modelo generativo, con el reranking aplicado de antemano si la calidad de la recuperación importa.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/rerank", { body: {
"model": "cohere/rerank-5-fast",
"query": "What is the capital of France?",
"documents": [
"Paris is the capital of France.",
"Berlin is in Germany."
],
"top_n": 1
} });
console.log(result.results);
Esta comunidad aún no tiene temas. Abre el primero sobre Cohere: Rerank 5 Fast.