We gebruiken cookies. Cookies en browseropslag houden je ingelogd en onthouden je voorkeuren. Met je toestemming meten we ook hoe de site wordt gebruikt. Je kunt je wanneer je wilt. Zie ons cookiebeleid.
cohere/rerank-5-fastDraait op je saldo tegen de prijzen hierboven. Nieuwe accounts beginnen met gratis gebruik.
Cohere: Rerank 5 Fast is een reranking-model van Cohere, gepositioneerd als de low-latency tier van de Rerank 5-familie van het bedrijf. In plaats van tekst te genereren, scoort en herordent het kandidaat-documenten ten opzichte van een query, wat het in de retrieval-fase van een zoek- of RAG-pipeline plaatst in plaats van in de generatiefase.
Het model werkt met tekstinvoer en produceert een rerank-uitvoer, wat betekent dat de respons een ordening is van de documenten die je aanlevert in plaats van nieuwe tekst. Het ondersteunt een contextlengte van 32768 tokens, en de maximale uitvoer is 29491. Omdat het is gebouwd voor scoren en herordenen, gebruikt het niet de sampling- of generatieparameters die je van een chatmodel zou verwachten.
De praktische use cases volgen direct uit dat gedrag. Als je een first-stage retriever gebruikt, zoals een vector search of keyword search, kan Rerank 5 Fast de topkandidaten die deze retourneert nemen en ze herordenen zodat de meest relevante documenten bovenaan staan. Dat verbetert de kwaliteit van wat je aan een downstream antwoordgenerator voert, en het helpt ook wanneer je zoekresultaten direct aan een gebruiker presenteert. De low-latency tier is gericht op high-throughput retrieval, dus het past bij pipelines die veel queries uitsturen en zich geen langzame reranking-stap per query kunnen veroorloven.
Je roept het aan via de OpenAI-compatibele API van api14 met het model-id "cohere/rerank-5-fast". Omdat het endpoint het OpenAI-formaat volgt, kun je bestaande OpenAI-clientbibliotheken op api14 richten en dat id als het model doorgeven. Het model vermeldt geen ondersteunde parameters, dus verzoeken vertrouwen op het model-id samen met je query en kandidaat-documenten in plaats van op tuning-opties.
Aangezien Rerank 5 Fast alleen documenten herordent die je aanlevert, is het niet geschikt wanneer je tekstgeneratie, samenvatting of redeneren over een prompt nodig hebt. Die taken vragen om een generatief model, waarbij reranking vooraf wordt toegepast als retrieval-kwaliteit belangrijk is.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/rerank", { body: {
"model": "cohere/rerank-5-fast",
"query": "What is the capital of France?",
"documents": [
"Paris is the capital of France.",
"Berlin is in Germany."
],
"top_n": 1
} });
console.log(result.results);
Deze community heeft nog geen topics. Open het eerste topic over Cohere: Rerank 5 Fast.
Instellingen