VoyageAI by MongoDB: rerank-3

VoyageAI door MongoDB: rerank-3 is een reranking-model van Voyage AI, een provider die nu deel uitmaakt van MongoDB. Het valt in de categorie rerank, en Voyage AI positioneert het als een geoptimaliseerde reranker en een drop-in upgrade naar rerank-2.5. Dit is geen chat- of tekstgeneratiemodel: het bestaat om een set kandidaat-documenten te nemen en deze op relevantie voor een query te herordenen.

Het model werkt met tekstinvoer en produceert reranking-uitvoer. Het heeft een contextlengte van 32.000 tokens, wat groot genoeg is om een query samen met een substantiële batch kandidaat-passages in één aanroep te verwerken. De maximale uitvoer is 28.800. Omdat het een reranker is, is de vorm van een antwoord een gerangschikte ordening van de documenten die je aanlevert, niet vrije tekst. Er zijn geen ondersteunde parameters vermeld voor dit model, dus aanroepers moeten niet rekenen op de sampling-instellingen (temperature, top_p en vergelijkbaar) die gelden voor generatieve modellen.

De praktische use cases volgen direct uit dat ontwerp. Een veelvoorkomend patroon is een tweefasige retrieval-pipeline: een snelle vector- of trefwoordzoekopdracht retourneert een brede set kandidaten, waarna rerank-3 ze herordent zodat de meest relevante resultaten bovenaan verschijnen. Dit verbetert de kwaliteit van zoekresultaten, retrieval-augmented generation-context, question answering over een documentcollectie, en recommendation- of matching-functies waar relevantierangschikking belangrijk is. Omdat de provider winst beschrijft op evaluaties met lange documenten, is het ook een redelijke keuze wanneer de passages die gerangschikt worden lang zijn in plaats van korte snippets.

Om het via api14 aan te roepen, gebruik je het model-id "voyageai/rerank-3" tegen het OpenAI-compatibele endpoint. Omdat api14 een OpenAI-compatibele API beschikbaar stelt, richt je je bestaande client op de gateway en geef je dat id door als het model. Aangezien het model geen ondersteunde parameters vermeldt, moet je een gewoon verzoek sturen met je query en de documenten die gerangschikt moeten worden, en vertrouwen op het eigen rangschikkingsgedrag van het model in plaats van het afstellen van decoding-instellingen.

Een beperking die het vermelden waard is, is het bereik. rerank-3 herordent alleen tekst; het genereert geen antwoorden of samenvattingen, dus als je een model nodig hebt dat tekst produceert, zou je het combineren met een generatief model. Ook, als je pipeline geen aparte retrieval-stap heeft en je alleen een eerste embedding-zoekopdracht nodig hebt, kan een toegewijd embedding-model het eenvoudigere startpunt zijn, waarbij rerank-3 later wordt toegevoegd om de ordening te verfijnen.