Wir verwenden Cookies. Cookies und Browserspeicher halten Sie angemeldet und merken sich Ihre Einstellungen. Mit Ihrer Zustimmung messen wir außerdem, wie die Website genutzt wird. Sie können jederzeit . Siehe unsere Cookie-Richtlinie.
mongodb/rerank-2.5Läuft über Ihr Guthaben zu den oben genannten Preisen. Neue Konten starten mit kostenloser Nutzung.
Einstellungen
VoyageAI by MongoDB: rerank-2.5 ist ein Reranking-Modell von VoyageAI by MongoDB. Es gehört zur Kategorie rerank, was bedeutet, dass seine Aufgabe darin besteht, eine bestehende Menge von Kandidatenergebnissen entgegenzunehmen und sie nach Relevanz neu zu ordnen, statt neuen Text von Grund auf zu generieren. Es ist ein Textmodell, und seine Ausgabe ist ein Rerank-Ergebnis.
Das Modell akzeptiert Text als Eingabe und erzeugt eine neu geordnete Ausgabe. Es hat eine Kontextlänge von 32.000 Tokens und eine maximale Ausgabe von 28.800. Da es ein Reranker ist, schreibt es keine Prosa, beantwortet keine Fragen und führt keine Konversation. Stattdessen bewertet und ordnet es Passagen relativ zu einer Query, was der Schritt ist, der typischerweise zwischen einem ersten Retrieval-Durchlauf und der endgültigen Menge von Dokumenten liegt, die an ein nachgelagertes Modell übergeben oder einem Nutzer angezeigt werden.
Diese Form macht es überall dort nützlich, wo Retrieval-Qualität zählt. Ein verbreitetes Muster ist eine zweistufige Suchpipeline: Eine schnelle Vektor- oder Keyword-Suche liefert eine breite Kandidatenliste, und rerank-2.5 ordnet diese Kandidaten neu, sodass die relevantesten Elemente oben landen. Das gilt für Retrieval Augmented Generation, wo eine bessere Reihenfolge bedeutet, dass der Generator den stärksten Kontext zuerst sieht, sowie für die Suche über Dokumentation, Support-Tickets, interne Wissensdatenbanken oder Produktkataloge. Es passt auch zu Evaluierungs- und Datenkuratierungsarbeit, wo Sie eine konsistente Relevanzreihenfolge über eine große Menge von Query- und Dokumentpaaren benötigen.
Sie rufen es über die OpenAI-kompatible API von api14 mit der Modell-ID "mongodb/rerank-2.5" auf. Da der Endpunkt dem OpenAI-Format folgt, können Sie einen bestehenden OpenAI-Client auf api14 ausrichten, indem Sie die Base-URL ändern und diese Modell-ID in Ihrer Anfrage übergeben. Das Modell listet keine unterstützten Parameter auf, es gibt also keine Sampling- oder Generierungsoptionen zum Abstimmen; Sie senden Ihre Query und Dokumente und erhalten die neu geordnete Reihenfolge zurück. Der Kontext von 32.000 Tokens ist das Budget, das Sie im Auge behalten sollten, wenn Sie entscheiden, wie viele Kandidaten Sie in einem einzelnen Aufruf übermitteln.
Wenn Ihre Aufgabe Textgenerierung, Zusammenfassung, Chat oder Tool-Nutzung ist, ist ein Reranker das falsche Werkzeug und ein generatives Modell passt besser. rerank-2.5 sollte am besten als eine Stufe in einer Pipeline behandelt werden statt als eigenständiger Assistent, und es ist am wertvollsten, wenn Sie bereits eine Kandidatenmenge haben, die eine schärfere Reihenfolge benötigt.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/rerank", { body: {
"model": "mongodb/rerank-2.5",
"query": "What is the capital of France?",
"documents": [
"Paris is the capital of France.",
"Berlin is in Germany."
],
"top_n": 1
} });
console.log(result.results);
In dieser Community gibt es noch keine Themen. Eröffnen Sie das erste zu VoyageAI by MongoDB: rerank-2.5.