Wir verwenden Cookies. Cookies und Browserspeicher halten Sie angemeldet und merken sich Ihre Einstellungen. Mit Ihrer Zustimmung messen wir außerdem, wie die Website genutzt wird. Sie können jederzeit . Siehe unsere Cookie-Richtlinie.
mongodb/rerank-3-liteLäuft über Ihr Guthaben zu den oben genannten Preisen. Neue Konten starten mit kostenloser Nutzung.
Einstellungen
VoyageAI by MongoDB: rerank-3-lite ist ein Reranking-Modell von VoyageAI by MongoDB. Es gehört zur Kategorie Rerank, und seine Aufgabe besteht darin, eine Menge von Kandidatendokumenten entgegenzunehmen und sie nach ihrer Relevanz für eine Anfrage neu zu ordnen, anstatt neuen Text zu erzeugen. Es ist als direkter Upgrade für rerank-2.5-lite positioniert, was bedeutet, dass Teams, die dieses Modell bereits verwenden, zu diesem wechseln können, ohne ihre Integration zu ändern.
Das Modell akzeptiert Text als Eingabe und erzeugt ein Reranking als Ausgabe. Es hat eine Kontextlänge von 32.000 Tokens und eine maximale Ausgabe von 28.800. Da sein Zweck die Bewertung und Reihenfolge und nicht die Generierung ist, ist das Nützliche, was es zurückgibt, eine Relevanzreihenfolge über die von Ihnen bereitgestellten Passagen, und es ist darauf ausgelegt, Latenz gegen Qualität abzuwägen. Über Domänenbewertungen hinweg verbessert es rerank-2.5-lite um durchschnittlich 0,94% NDCG@10, mit einer weiteren Verbesserung von 1,86%. Dieser gemessene Gewinn macht es zu einem risikoarmen Ersatz, wo das frühere Lite-Modell bereits in Produktion ist.
Praktische Anwendungsfälle ergeben sich direkt aus diesen Fähigkeiten. Es passt in Retrieval-Augmented-Generation-Pipelines, wo ein Retriever der ersten Stufe eine breite Menge von Kandidaten zurückgibt und der Reranker sie eingrenzt und ordnet, bevor sie ein Sprachmodell erreichen. Es eignet sich für Suche und Site-Suche, wo die Reihenfolge der Ergebnisse wichtiger ist als die reine Übereinstimmung. Es passt auch für Frage-Antwort über Dokumentsammlungen, interne Wissensdatenbanken und Support-Inhalte sowie für jeden Workflow, der Passagen danach sortiert haben muss, wie gut sie eine bestimmte Anfrage beantworten. Das große Kontextbudget bedeutet, dass lange Kandidatenpassagen ohne aggressive Kürzung einbezogen werden können, und die Betonung der Latenz macht es sinnvoll für interaktive Anwendungen und nicht nur für Offline-Batch-Jobs.
Sie rufen es über die OpenAI-kompatible API von api14 mit der Modell-ID "mongodb/rerank-3-lite" auf. Die Liste der unterstützten Parameter ist leer, übergeben Sie also die Modell-ID mit Ihrer Eingabe und verlassen Sie sich auf die Standardwerte, anstatt Tuning-Optionen in der Anfrage zu erwarten. Da der Endpunkt der OpenAI-kompatiblen Form folgt, können bestehende Client-Bibliotheken und Codepfade mit minimalen Änderungen auf api14 und diese Modell-ID ausgerichtet werden.
Es ist erwähnenswert, dass dies ein Reranker ist, kein Generator. Wenn Ihre Aufgabe darin besteht, Antworten zu schreiben, zusammenzufassen oder ein Gespräch zu führen, ist ein Textgenerierungsmodell die richtige Wahl, und dieses Modell funktioniert am besten als eine Stufe vor einem solchen. Wenn Sie Text gegen eine Anfrage bewerten oder ordnen müssen, ist es die passende Wahl.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/rerank", { body: {
"model": "mongodb/rerank-3-lite",
"query": "What is the capital of France?",
"documents": [
"Paris is the capital of France.",
"Berlin is in Germany."
],
"top_n": 1
} });
console.log(result.results);
In dieser Community gibt es noch keine Themen. Eröffnen Sie das erste zu VoyageAI by MongoDB: rerank-3-lite.