VoyageAI by MongoDB: rerank-3-lite

VoyageAI by MongoDB: rerank-3-lite ist ein Reranking-Modell von Voyage AI, einem Anbieter, dessen Modelle nun mit MongoDB assoziiert werden. Es gehört zur Kategorie Rerank, was bedeutet, dass seine Aufgabe nicht darin besteht, Text zu generieren, sondern eine Menge von Kandidatendokumenten entgegenzunehmen und sie nach Relevanz für eine Anfrage neu zu ordnen. Es ist als direkter Upgrade auf rerank-2.5-lite positioniert, sodass Teams, die dieses Modell bereits verwenden, zu diesem wechseln können, ohne ihre Pipeline umzubauen. Laut dem Anbieter ist es sowohl auf Latenz als auch auf Qualität optimiert und verbessert rerank-2.5-lite um durchschnittlich 0,94% NDCG@10 über Domänenbewertungen hinweg und um 1,86% bei einem weiteren Maß.

Das Modell akzeptiert Text als Eingabe und erzeugt als Ausgabe ein neu geordnetes Ergebnis. Seine Kontextlänge beträgt 32.000 Token, was die Anfrage und die Kandidatenpassagen abdeckt, die Sie zusammen in einer einzigen Anfrage übermitteln. Die maximale Ausgabe wird mit 28.800 angegeben. Da es sich um einen Reranker und nicht um ein Chat- oder Completion-Modell handelt, verfasst es keine Prosa und beantwortet keine Fragen direkt; es gibt eine Reihenfolge zurück, die widerspiegelt, wie gut jeder Kandidat zur Anfrage passt.

Diese Form der Ausgabe macht es in Retrieval-Pipelines nützlich. Ein häufiges Muster besteht darin, eine schnelle Erstsuche, etwa eine Vektor- oder Stichwortsuche, auszuführen, um eine breite Menge von Kandidaten zu erhalten, diese Kandidaten dann an rerank-3-lite zu übergeben, um sie zu sortieren, bevor sie den Nutzer oder die nächste Stufe einer Anwendung erreichen. Dies gilt für die Suche über Dokumentation, Support-Artikel, Produktkataloge oder interne Wissensdatenbanken sowie für retrieval augmented generation, bei der die Qualität der obersten wenigen Passagen die endgültige Antwort stark beeinflusst. Die Betonung der Latenz macht es zu einer vernünftigen Wahl für interaktive Suche, bei der der Reranking-Schritt schnell abgeschlossen sein muss.

Sie können es über die OpenAI-kompatible API von api14 mit der Modell-ID "voyageai/rerank-3-lite" aufrufen. Da der Endpunkt dem OpenAI-kompatiblen Format folgt, können Sie vorhandene OpenAI-Client-Bibliotheken verwenden und sie auf api14 ausrichten, was den Integrationsaufwand gering hält, wenn Sie bereits einen solchen Client einsetzen. Das Modell listet keine unterstützten Parameter auf, daher gibt es keine zusätzlichen Abstimmungsoptionen, die über die Modell-ID und den Inhalt Ihrer Anfrage hinaus festgelegt werden müssen. Beachten Sie, dass das Veröffentlichungsdatum des Anbieters der 2026-09-30 ist.

Wenn Ihre Aufgabe Textgenerierung, Zusammenfassung oder Konversation ist und nicht das Ranking einer Menge von Kandidaten, passt ein Chat- oder Completion-Modell besser, da rerank-3-lite nur eine Reihenfolge ausgibt. Es lohnt sich außerdem zu prüfen, ob Ihre Kandidatenmenge und Anfrage in den Kontext von 32.000 Token passen, und andernfalls aufzuteilen oder zu kürzen.