Wir verwenden Cookies. Cookies und Browserspeicher halten Sie angemeldet und merken sich Ihre Einstellungen. Mit Ihrer Zustimmung messen wir außerdem, wie die Website genutzt wird. Sie können jederzeit . Siehe unsere Cookie-Richtlinie.
mongodb/rerank-3Läuft über Ihr Guthaben zu den oben genannten Preisen. Neue Konten starten mit kostenloser Nutzung.
Einstellungen
VoyageAI by MongoDB: rerank-3 ist ein Reranking-Modell von VoyageAI by MongoDB. Es gehört zur Kategorie Rerank und ist als direkter Upgrade für rerank-2.5 positioniert, was bedeutet, dass Teams, die das frühere Modell bereits nutzen, auf rerank-3 umsteigen können, ohne ihre Integration überarbeiten zu müssen. Das Modell ist auf Retrieval-Qualität statt auf Generierung ausgelegt, daher gehört es in den Teil einer Pipeline, der entscheidet, wie Suchergebnisse oder Kandidatenpassagen geordnet werden, bevor sie einen Nutzer oder ein nachgelagertes Modell erreichen.
Das Modell nimmt Text als Eingabe und erzeugt eine Reranking-Ausgabe. Es unterstützt eine Kontextlänge von 32.000 Tokens bei einer maximalen Ausgabe von 28.800, was genug Raum bietet, um lange Kandidatenpassagen zusammen mit einer Anfrage zu bewerten statt nur kurze Ausschnitte. Da die Eingabemodalität Text und die Ausgabemodalität Rerank ist, erzeugt das Modell keine Prosa oder Chat-Antworten; es gibt eine Reihenfolge der ihm übergebenen Passagen zurück. Dadurch ist es eine Bewertungs- und Sortierkomponente und keine konversationelle.
Praktische Anwendungsfälle ergeben sich direkt aus dieser Form. Eine Retrieval-Pipeline kann mit einer schnellen Erststufen-Suche eine breite Menge von Kandidaten abrufen und dann die Anfrage und diese Kandidaten an rerank-3 übergeben, um eine bessere endgültige Reihenfolge zu erzeugen. Das ist nützlich bei der Suche über Dokumentation, interne Wissensdatenbanken, Support-Inhalte oder jeden Korpus, bei dem die Top-Ergebnisse wichtiger sind als reiner Recall. Es passt auch zu Retrieval-Augmented-Generation-Setups, bei denen die Qualität der in einen Prompt eingefügten Passagen die darauffolgende Antwort beeinflusst. Die lange Kontext- und Ausgabegrenze machen es geeignet für Sammlungen mit umfangreichen Dokumenten, da das Modell bei der Zuweisung der Position mehr von jedem Kandidaten berücksichtigen kann.
Sie rufen das Modell über die OpenAI-kompatible API von api14 mit der Modell-ID "mongodb/rerank-3" auf. Da die Schnittstelle dem OpenAI-Format folgt, können Sie einen vorhandenen OpenAI-Client auf api14 richten und diese Modell-ID in Ihrer Anfrage auswählen. Das Modell listet keine unterstützten Parameter über die Modell-ID selbst hinaus auf, daher sollten Sie nicht erwarten, Sampling- oder Generierungseinstellungen wie temperature oder top_p anzupassen; diese gehören zu generativen Modellen, nicht zu einem Reranker. Senden Sie die Anfrage und die Kandidatentexte und lesen Sie die Reranking-Ausgabe zurück.
Es ist erwähnenswert, dass rerank-3 ein Reranker ist, daher ist es nicht die richtige Wahl, wenn Sie Textgenerierung, Chat, Zusammenfassung oder Embeddings benötigen. Wenn Ihre Aufgabe darin besteht, eine Antwort zu erzeugen statt Kandidaten zu ordnen, passt ein generatives Modell besser. Wenn Ihre Aufgabe darin besteht, die anfänglichen Vektorrepräsentationen zu erstellen, die ein Reranker dann neu ordnet, ist ein Embedding-Modell die geeignete Komponente. Innerhalb der Reranking-Arbeit ist rerank-3 der direkte Nachfolger von rerank-2.5, und der Anbieter meldet Verbesserungen gegenüber diesem Modell von 0,80 % NDCG@10 im Durchschnitt über Domänenbewertungen und 3,35 % bei Bewertungen langer Dokumente.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/rerank", { body: {
"model": "mongodb/rerank-3",
"query": "What is the capital of France?",
"documents": [
"Paris is the capital of France.",
"Berlin is in Germany."
],
"top_n": 1
} });
console.log(result.results);
In dieser Community gibt es noch keine Themen. Eröffnen Sie das erste zu VoyageAI by MongoDB: rerank-3.