Vi använder cookies. Cookies och webbläsarlagring håller dig inloggad och kommer ihåg dina preferenser. Med ditt tillstånd mäter vi också hur webbplatsen används. Du kan när som helst. Läs vår cookiepolicy.
cohere/rerank-5-fastKörs på ditt saldo till priserna ovan. Nya konton börjar med gratis användning.
Inställningar
Cohere: Rerank 5 Fast är en omrankningsmodell från Cohere, positionerad som företagets låglatensnivå i Rerank 5-familjen. Istället för att generera text poängsätter och ordnar den om kandidatdokument mot en fråga, vilket placerar den i hämtningssteget i en sök- eller RAG-pipeline snarare än i genereringssteget.
Modellen arbetar med textinmatning och producerar en omrankningsutdata, vilket innebär att dess svar är en ordning på de dokument du tillhandahåller snarare än ny prosa. Den stöder en kontextlängd på 32768 tokens, och dess maximala utdata är 29491. Eftersom den är byggd för poängsättning och omordning tar den inte de sampling- eller genereringsparametrar du skulle förvänta dig av en chattmodell.
De praktiska användningsfallen följer direkt av detta beteende. Om du kör en förstastegs-hämtare som en vektorsökning eller nyckelordssökning kan Rerank 5 Fast ta de främsta kandidaterna den returnerar och ordna om dem så att de mest relevanta dokumenten hamnar högst upp. Det förbättrar kvaliteten på det du matar in i en nedströms svarsgenerator, och det hjälper också när du presenterar sökresultat direkt för en användare. Låglatensnivån är inriktad på hög genomströmning för hämtning, så den passar pipelines som skickar många frågor och inte har råd med ett långsamt omrankningssteg för var och en.
Du anropar den via api14:s OpenAI-kompatibla API med modell-id:t "cohere/rerank-5-fast". Eftersom slutpunkten följer OpenAI-formatet kan du peka befintliga OpenAI-klientbibliotek mot api14 och skicka det id:t som modell. Modellen listar inga parametrar som stöds, så förfrågningar förlitar sig på modell-id:t tillsammans med din fråga och dina kandidatdokument snarare än på inställningsalternativ.
Eftersom Rerank 5 Fast endast ordnar om dokument du tillhandahåller är den inte lämplig när du behöver textgenerering, sammanfattning eller resonemang över en prompt. Dessa uppgifter kräver en generativ modell, med omrankning tillämpad i förväg om hämtningskvaliteten är viktig.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/rerank", { body: {
"model": "cohere/rerank-5-fast",
"query": "What is the capital of France?",
"documents": [
"Paris is the capital of France.",
"Berlin is in Germany."
],
"top_n": 1
} });
console.log(result.results);
Den här communityn har inga trådar ännu. Starta den första om Cohere: Rerank 5 Fast.