Wir verwenden Cookies. Cookies und Browserspeicher halten Sie angemeldet und merken sich Ihre Einstellungen. Mit Ihrer Zustimmung messen wir außerdem, wie die Website genutzt wird. Sie können jederzeit . Siehe unsere Cookie-Richtlinie.
cohere/rerank-5-fastLäuft über Ihr Guthaben zu den oben genannten Preisen. Neue Konten starten mit kostenloser Nutzung.
Einstellungen
Cohere: Rerank 5 Fast ist ein Reranking-Modell von Cohere, positioniert als die Tier mit niedriger Latenz der Rerank 5 Familie des Unternehmens. Statt Text zu generieren, bewertet und ordnet es Kandidatendokumente gegen eine Abfrage neu, was es in die Retrieval-Phase einer Such- oder RAG-Pipeline einordnet und nicht in die Generierungsphase.
Das Modell arbeitet mit Texteingabe und erzeugt eine Rerank-Ausgabe, was bedeutet, dass seine Antwort eine Reihenfolge der von Ihnen bereitgestellten Dokumente ist und keine neue Prosa. Es unterstützt eine Kontextlänge von 32768 Token, und seine maximale Ausgabe beträgt 29491. Da es für Bewertung und Neuanordnung gebaut ist, nimmt es nicht die Sampling- oder Generierungsparameter an, die Sie von einem Chat-Modell erwarten würden.
Die praktischen Anwendungsfälle ergeben sich direkt aus diesem Verhalten. Wenn Sie einen First-Stage-Retriever wie eine Vektorsuche oder eine Stichwortsuche betreiben, kann Rerank 5 Fast die besten zurückgegebenen Kandidaten nehmen und sie neu anordnen, sodass die relevantesten Dokumente oben stehen. Das verbessert die Qualität dessen, was Sie in einen nachgelagerten Antwortgenerator einspeisen, und es hilft auch, wenn Sie Suchergebnisse direkt einem Benutzer präsentieren. Die Tier mit niedriger Latenz ist auf Hochdurchsatz-Retrieval ausgerichtet, sodass sie zu Pipelines passt, die viele Abfragen ausgeben und sich keinen langsamen Reranking-Schritt bei jeder einzelnen leisten können.
Sie rufen es über die OpenAI-kompatible API von api14 mit der Modell-ID "cohere/rerank-5-fast" auf. Da der Endpunkt dem OpenAI-Format folgt, können Sie bestehende OpenAI-Client-Bibliotheken auf api14 richten und diese ID als Modell übergeben. Das Modell listet keine unterstützten Parameter auf, sodass Anfragen auf der Modell-ID zusammen mit Ihrer Abfrage und den Kandidatendokumenten beruhen und nicht auf Tuning-Optionen.
Da Rerank 5 Fast nur von Ihnen bereitgestellte Dokumente neu anordnet, ist es nicht geeignet, wenn Sie Textgenerierung, Zusammenfassung oder Reasoning über einen Prompt benötigen. Diese Aufgaben erfordern ein generatives Modell, wobei Reranking vorher angewendet wird, wenn die Retrieval-Qualität wichtig ist.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/rerank", { body: {
"model": "cohere/rerank-5-fast",
"query": "What is the capital of France?",
"documents": [
"Paris is the capital of France.",
"Berlin is in Germany."
],
"top_n": 1
} });
console.log(result.results);
In dieser Community gibt es noch keine Themen. Eröffnen Sie das erste zu Cohere: Rerank 5 Fast.