Usamos cookies. Cookies e o armazenamento do navegador mantêm você conectado e lembram suas preferências. Com sua permissão, também medimos como o site é usado. Você pode a qualquer momento. Veja nossa política de cookies.
cohere/rerank-5-fastUsa o seu saldo, aos preços acima. Novas contas começam com uso grátis.
Configurações
Cohere: Rerank 5 Fast é um modelo de reranking da Cohere, posicionado como o nível de baixa latência da família Rerank 5 da empresa. Em vez de gerar texto, ele pontua e reordena documentos candidatos em relação a uma consulta, o que o coloca no estágio de recuperação de um pipeline de busca ou RAG, e não no estágio de geração.
O modelo trabalha com entrada de texto e produz uma saída de rerank, ou seja, sua resposta é uma ordenação dos documentos que você fornece, e não texto novo. Ele suporta um comprimento de contexto de 32768 tokens, e sua saída máxima é 29491. Como é construído para pontuar e reordenar, ele não aceita os parâmetros de amostragem ou geração que você esperaria de um modelo de chat.
Os casos de uso práticos decorrem diretamente desse comportamento. Se você executa um retriever de primeiro estágio, como uma busca vetorial ou busca por palavra-chave, o Rerank 5 Fast pode pegar os principais candidatos que ele retorna e reordená-los para que os documentos mais relevantes fiquem no topo. Isso melhora a qualidade do que você alimenta em um gerador de respostas downstream, e também ajuda quando você apresenta resultados de busca diretamente a um usuário. O nível de baixa latência é voltado para recuperação de alto throughput, então ele se encaixa em pipelines que emitem muitas consultas e não podem arcar com uma etapa de reranking lenta em cada uma.
Você o chama através da API compatível com OpenAI da api14 usando o model id "cohere/rerank-5-fast". Como o endpoint segue o formato OpenAI, você pode apontar bibliotecas cliente OpenAI existentes para a api14 e passar esse id como o modelo. O modelo não lista parâmetros suportados, então as requisições dependem do model id junto com sua consulta e documentos candidatos, e não de opções de ajuste.
Como o Rerank 5 Fast apenas reordena documentos que você fornece, ele não é adequado quando você precisa de geração de texto, sumarização ou raciocínio sobre um prompt. Essas tarefas exigem um modelo generativo, com reranking aplicado antes, se a qualidade da recuperação for importante.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/rerank", { body: {
"model": "cohere/rerank-5-fast",
"query": "What is the capital of France?",
"documents": [
"Paris is the capital of France.",
"Berlin is in Germany."
],
"top_n": 1
} });
console.log(result.results);
Esta comunidade ainda não tem tópicos. Abra o primeiro sobre Cohere: Rerank 5 Fast.