We gebruiken cookies. Cookies en browseropslag houden je ingelogd en onthouden je voorkeuren. Met je toestemming meten we ook hoe de site wordt gebruikt. Je kunt je wanneer je wilt. Zie ons cookiebeleid.
mongodb/rerank-3Draait op je saldo tegen de prijzen hierboven. Nieuwe accounts beginnen met gratis gebruik.
Instellingen
VoyageAI by MongoDB: rerank-3 is een reranking-model van VoyageAI by MongoDB. Het valt in de categorie rerank en is gepositioneerd als een drop-in upgrade van rerank-2.5, wat betekent dat teams die het eerdere model al gebruiken kunnen overstappen naar rerank-3 zonder hun integratie te herzien. Het model is gebouwd voor retrieval-kwaliteit in plaats van generatie, dus het hoort thuis in het deel van een pipeline dat bepaalt hoe zoekresultaten of kandidaat-passages moeten worden geordend voordat ze een gebruiker of een downstream-model bereiken.
Het model neemt tekst als invoer en produceert een reranking-uitvoer. Het ondersteunt een contextlengte van 32.000 tokens, met een maximale uitvoer van 28.800, wat genoeg ruimte biedt om lange kandidaat-passages samen met een query te scoren in plaats van alleen korte fragmenten. Omdat de invoermodaliteit tekst is en de uitvoermodaliteit rerank, genereert het model geen proza of chat-antwoorden; het retourneert een ordening van de passages die het krijgt. Dat maakt het een score- en sorteerelement in plaats van een conversationeel element.
Praktische use cases volgen direct uit die vorm. Een retrieval-pipeline kan een brede set kandidaten ophalen met een snelle eerste-fase-zoekopdracht en vervolgens de query en die kandidaten doorgeven aan rerank-3 om een betere definitieve ordening te produceren. Dit is nuttig bij zoeken in documentatie, interne kennisbanken, supportcontent of elk corpus waar de topresultaten belangrijker zijn dan ruwe recall. Het past ook bij retrieval-augmented generation-opstellingen, waar de kwaliteit van de passages die in een prompt worden geplaatst het antwoord beïnvloedt dat volgt. De lange context en de ruime uitvoermogelijkheid maken het geschikt voor collecties met lange documenten, omdat het model meer van elke kandidaat kan overwegen bij het toewijzen van de positie.
Je roept het model aan via de OpenAI-compatibele API van api14 met het model-id "mongodb/rerank-3". Omdat de interface het OpenAI-formaat volgt, kun je een bestaande OpenAI-client op api14 richten en dit model-id in je verzoek selecteren. Het model vermeldt geen ondersteunde parameters naast het model-id zelf, dus je moet niet verwachten dat je sampling- of generatie-instellingen zoals temperature of top_p kunt aanpassen; die horen bij generatieve modellen, niet bij een reranker. Stuur de query en de kandidaat-teksten, en lees de reranking-uitvoer terug.
Het is vermeldenswaard dat rerank-3 een reranker is, dus het is niet de juiste keuze wanneer je tekstgeneratie, chat, samenvatting of embeddings nodig hebt. Als je taak is om een antwoord te produceren in plaats van kandidaten te ordenen, past een generatief model beter. Als je taak is om de initiële vectorrepresentaties te maken die een reranker vervolgens herordent, is een embedding-model het juiste onderdeel. Binnen reranking-werk is rerank-3 de drop-in opvolger van rerank-2.5, en de provider meldt verbeteringen ten opzichte van dat model van gemiddeld 0,80% NDCG@10 over domeinevaluaties en 3,35% op evaluaties van lange documenten.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/rerank", { body: {
"model": "mongodb/rerank-3",
"query": "What is the capital of France?",
"documents": [
"Paris is the capital of France.",
"Berlin is in Germany."
],
"top_n": 1
} });
console.log(result.results);
Deze community heeft nog geen topics. Open het eerste topic over VoyageAI by MongoDB: rerank-3.