VoyageAI by MongoDB: rerank-3-lite

VoyageAI di MongoDB: rerank-3-lite è un modello di reranking di Voyage AI, un provider i cui modelli sono ora associati a MongoDB. Si colloca nella categoria rerank, il che significa che il suo compito non è generare testo ma prendere un insieme di documenti candidati e riordinarli in base alla rilevanza rispetto a una query. È posizionato come un aggiornamento drop-in di rerank-2.5-lite, quindi i team che già utilizzano quel modello possono passare a questo senza modificare la loro pipeline. Secondo il provider, è ottimizzato sia per la latenza che per la qualità, migliorando rerank-2.5-lite dello 0,94% NDCG@10 in media sulle valutazioni di dominio e dell'1,86% su un'ulteriore metrica.

Il modello accetta testo come input e produce un risultato riordinato come output. La sua lunghezza di contesto è di 32.000 token, che copre la query e i passaggi candidati inviati insieme in una singola richiesta. L'output massimo è indicato come 28.800. Poiché è un reranker e non un modello di chat o completion, non scrive prosa né risponde direttamente a domande; restituisce un ordinamento che riflette quanto bene ciascun candidato corrisponde alla query.

Questa forma di output lo rende utile nelle pipeline di retrieval. Uno schema comune consiste nell'eseguire una ricerca rapida di primo stadio, come una ricerca vettoriale o per parole chiave, per recuperare un ampio insieme di candidati, poi passare quei candidati a rerank-3-lite per ordinarli prima che raggiungano l'utente o lo stadio successivo di un'applicazione. Questo vale per la ricerca su documentazione, articoli di supporto, cataloghi di prodotti o basi di conoscenza interne, e per la retrieval augmented generation, dove la qualità dei primi passaggi influisce fortemente sulla risposta finale. L'enfasi sulla latenza lo rende adatto per la ricerca interattiva, dove la fase di reranking deve completarsi rapidamente.

Puoi chiamarlo tramite l'API compatibile con OpenAI di api14 usando il model id "voyageai/rerank-3-lite". Poiché l'endpoint segue il formato compatibile con OpenAI, puoi usare le librerie client OpenAI esistenti e puntarle ad api14, il che mantiene ridotto il lavoro di integrazione se hai già un client di questo tipo. Il modello non elenca parametri supportati, quindi non ci sono opzioni di tuning aggiuntive da impostare oltre al model id e al contenuto della richiesta. Nota che la data di rilascio del provider è 2026-09-30.

Se il tuo compito è la generazione di testo, il riassunto o la conversazione invece dell'ordinamento di un insieme di candidati, un modello di chat o completion sarà più adatto, poiché rerank-3-lite produce solo un ordinamento. Vale anche la pena verificare che il tuo insieme di candidati e la query rientrino nel contesto di 32.000 token, e suddividere o ridurre se non lo fanno.