We gebruiken cookies. Cookies en browseropslag houden je ingelogd en onthouden je voorkeuren. Met je toestemming meten we ook hoe de site wordt gebruikt. Je kunt je wanneer je wilt. Zie ons cookiebeleid.
mongodb/rerank-3-liteDraait op je saldo tegen de prijzen hierboven. Nieuwe accounts beginnen met gratis gebruik.
Instellingen
VoyageAI by MongoDB: rerank-3-lite is een reranking-model van VoyageAI by MongoDB. Het behoort tot de categorie rerank, en zijn taak is om een set kandidaat-documenten te nemen en deze te herordenen op relevantie voor een query, in plaats van nieuwe tekst te genereren. Het is gepositioneerd als een drop-in upgrade naar rerank-2.5-lite, wat betekent dat teams die dat model al gebruiken kunnen overstappen zonder de manier van integreren te wijzigen.
Het model accepteert tekst als invoer en produceert een reranking als uitvoer. Het heeft een contextlengte van 32.000 tokens en een maximale uitvoer van 28.800. Omdat het doel scoren en ordenen is in plaats van genereren, is het nuttige dat het retourneert een relevantie-ordering over de passages die je aanlevert, en het is gebouwd om latentie tegen kwaliteit af te wegen. Over domeinevaluaties verbetert het rerank-2.5-lite met gemiddeld 0,94% NDCG@10, met een verdere verbetering van 1,86%. Die gemeten winst maakt het een vervanging met laag risico waar het eerdere lite-model al in productie is.
Praktische use cases volgen direct uit die mogelijkheden. Het past in retrieval augmented generation-pipelines, waar een eerste-stage retriever een brede set kandidaten retourneert en de reranker deze vernauwt en ordent voordat ze een taalmodel bereiken. Het is geschikt voor zoeken en site search, waar de ordening van resultaten meer uitmaakt dan de ruwe match. Het past ook bij question answering over documentcollecties, interne knowledge bases en supportcontent, en elke workflow die passages gesorteerd wil hebben op hoe goed ze een specifieke query beantwoorden. Het grote contextbudget betekent dat lange kandidaat-passages kunnen worden opgenomen zonder agressieve truncatie, en de nadruk op latentie maakt het redelijk voor interactieve toepassingen in plaats van alleen offline batchtaken.
Je roept het aan via api14's OpenAI-compatible API met het model-id "mongodb/rerank-3-lite". De lijst met ondersteunde parameters is leeg, dus geef het model-id door met je invoer en vertrouw op de defaults in plaats van tuning-opties in het request te verwachten. Omdat het endpoint de OpenAI-compatible vorm volgt, kunnen bestaande clientbibliotheken en codepaden met minimale wijziging naar api14 en dit model-id worden gericht.
Het is de moeite waard op te merken dat dit een reranker is, geen generator. Als je taak is om antwoorden te schrijven, samen te vatten of een gesprek te voeren, is een tekstgeneratiemodel de juiste keuze, en dit model werkt het beste als een stage vóór zo'n model. Als je tekst wilt scoren of ordenen ten opzichte van een query, is het de passende keuze.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/rerank", { body: {
"model": "mongodb/rerank-3-lite",
"query": "What is the capital of France?",
"documents": [
"Paris is the capital of France.",
"Berlin is in Germany."
],
"top_n": 1
} });
console.log(result.results);
Deze community heeft nog geen topics. Open het eerste topic over VoyageAI by MongoDB: rerank-3-lite.