VoyageAI by MongoDB: rerank-3-lite

VoyageAI av MongoDB: rerank-3-lite är en omrangordningsmodell från Voyage AI, en leverantör vars modeller nu förknippas med MongoDB. Den tillhör kategorin rerank, vilket innebär att dess uppgift inte är att generera text utan att ta en uppsättning kandidatdokument och ordna om dem efter relevans för en fråga. Den positioneras som en direkt uppgradering av rerank-2.5-lite, så team som redan använder den modellen kan byta till denna utan att göra om sin pipeline. Enligt leverantören är den optimerad för både latens och kvalitet, och förbättrar rerank-2.5-lite med 0,94 % NDCG@10 i genomsnitt över domänutvärderingar och med 1,86 % på ytterligare ett mått.

Modellen tar text som indata och producerar ett omrangordnat resultat som utdata. Dess kontextlängd är 32 000 tokens, vilket täcker frågan och de kandidatpassager du skickar tillsammans i en enda begäran. Maximal utdata anges som 28 800. Eftersom den är en omrangordnare snarare än en chatt- eller kompletteringsmodell skriver den inte prosa eller svarar på frågor direkt; den returnerar en ordning som återspeglar hur väl varje kandidat matchar frågan.

Den typen av utdata gör den användbar i hämtningspipelines. Ett vanligt mönster är att köra en snabb förstastegssökning, till exempel en vektor- eller nyckelordssökning, för att hämta en bred uppsättning kandidater, och sedan skicka dessa kandidater till rerank-3-lite för att sortera dem innan de når användaren eller nästa steg i en applikation. Detta gäller sökning i dokumentation, supportartiklar, produktkataloger eller interna kunskapsbaser, och för hämtningsförstärkt generering, där kvaliteten på de få översta passagerna starkt påverkar det slutliga svaret. Betoningen på latens gör den lämplig för interaktiv sökning, där omrangordningssteget måste slutföras snabbt.

Du kan anropa den via api14:s OpenAI-kompatibla API med modell-id:t "voyageai/rerank-3-lite". Eftersom slutpunkten följer det OpenAI-kompatibla formatet kan du använda befintliga OpenAI-klientbibliotek och peka dem mot api14, vilket håller integrationsarbetet litet om du redan har en sådan klient på plats. Modellen listar inga stödda parametrar, så det finns inga extra justeringsalternativ att ställa in utöver modell-id:t och innehållet i din begäran. Observera att leverantörens utgivningsdatum är 2026-09-30.

Om din uppgift är textgenerering, sammanfattning eller konversation snarare än att rangordna en uppsättning kandidater, passar en chatt- eller kompletteringsmodell bättre, eftersom rerank-3-lite endast matar ut en ordning. Det är också värt att kontrollera att din kandidatuppsättning och fråga ryms inom kontexten på 32 000 tokens, och dela upp eller trimma om de inte gör det.