VoyageAI by MongoDB: rerank-3-lite

VoyageAI door MongoDB: rerank-3-lite is een reranking-model van Voyage AI, een provider waarvan de modellen nu geassocieerd worden met MongoDB. Het valt in de categorie rerank, wat betekent dat het niet als taak heeft tekst te genereren, maar een set kandidaat-documenten te nemen en deze te herordenen op relevantie voor een query. Het is gepositioneerd als een drop-in upgrade van rerank-2.5-lite, zodat teams die dat model al gebruiken kunnen overstappen zonder hun pipeline te herwerken. Volgens de provider is het geoptimaliseerd voor zowel latentie als kwaliteit, en verbetert het rerank-2.5-lite met 0,94% NDCG@10 gemiddeld over domeinevaluaties en met 1,86% op een aanvullende maatstaf.

Het model accepteert tekst als invoer en produceert een gererangschikte resultaat als uitvoer. De contextlengte is 32.000 tokens, wat de query en de kandidaat-passages dekt die je samen in een enkele aanvraag indient. De maximale uitvoer wordt vermeld als 28.800. Omdat het een reranker is en geen chat- of completion-model, schrijft het geen proza en beantwoordt het geen vragen direct; het retourneert een ordening die weergeeft hoe goed elke kandidaat overeenkomt met de query.

Die vorm van uitvoer maakt het nuttig in retrieval-pipelines. Een veelvoorkomend patroon is om een snelle eerste-fase-zoekopdracht uit te voeren, zoals een vector- of trefwoordzoekopdracht, om een brede set kandidaten op te halen, en die kandidaten vervolgens door te geven aan rerank-3-lite om ze te sorteren voordat ze de gebruiker of de volgende fase van een applicatie bereiken. Dit geldt voor zoeken in documentatie, supportartikelen, productcatalogi of interne kennisbanken, en voor retrieval augmented generation, waar de kwaliteit van de bovenste paar passages de uiteindelijke antwoord sterk beïnvloedt. De nadruk op latentie maakt het een redelijke keuze voor interactief zoeken, waar de reranking-stap snel moet voltooien.

Je kunt het aanroepen via de OpenAI-compatibele API van api14 met het model-id "voyageai/rerank-3-lite". Omdat het endpoint het OpenAI-compatibele formaat volgt, kun je bestaande OpenAI-clientbibliotheken gebruiken en deze op api14 richten, wat de integratiewerk klein houdt als je al zo'n client hebt. Het model vermeldt geen ondersteunde parameters, dus er zijn geen extra afstemmingsopties in te stellen naast het model-id en de inhoud van je aanvraag. Let op dat de releasedatum van de provider 2026-09-30 is.

Als je taak tekstgeneratie, samenvatting of conversatie is in plaats van het rangschikken van een set kandidaten, past een chat- of completion-model beter, aangezien rerank-3-lite alleen een ordening uitvoert. Het is ook de moeite waard om te controleren of je kandidatenset en query binnen de context van 32.000 tokens passen, en ze op te splitsen of in te korten als dat niet zo is.