VoyageAI by MongoDB: rerank-3

VoyageAI di MongoDB: rerank-3 è un modello di reranking di Voyage AI, un provider ora parte di MongoDB. Si colloca nella categoria rerank, e Voyage AI lo posiziona come un reranker ottimizzato e un aggiornamento drop-in rispetto a rerank-2.5. Non è un modello di chat o di generazione di testo: esiste per prendere un insieme di documenti candidati e riordinarli in base alla rilevanza rispetto a una query.

Il modello lavora con input di testo e produce output di reranking. Ha una lunghezza di contesto di 32.000 token, sufficientemente ampia da accogliere una query insieme a un lotto sostanziale di passaggi candidati in una singola chiamata. L'output massimo è 28.800. Poiché è un reranker, la forma di una risposta è un ordinamento classificato dei documenti forniti, non prosa libera. Non sono elencati parametri supportati per questo modello, quindi i chiamanti non devono aspettarsi i controlli di campionamento (temperature, top_p e simili) che si applicano ai modelli generativi.

I casi d'uso pratici derivano direttamente da questo design. Un pattern comune è una pipeline di recupero a due fasi: una ricerca vettoriale o per parole chiave veloce restituisce un insieme ampio di candidati, poi rerank-3 li riordina in modo che i risultati più rilevanti compaiano in cima. Questo migliora la qualità dei risultati di ricerca, del contesto di generazione aumentata dal recupero, del question answering su una raccolta di documenti e delle funzionalità di raccomandazione o matching in cui conta il ranking di rilevanza. Poiché il provider descrive miglioramenti nelle valutazioni su documenti lunghi, è anche una scelta ragionevole quando i passaggi da classificare sono lunghi anziché brevi frammenti.

Per chiamarlo tramite api14, usa l'id del modello "voyageai/rerank-3" sull'endpoint compatibile con OpenAI. Poiché api14 espone un'API compatibile con OpenAI, punti il tuo client esistente al gateway e passi quell'id come model. Dato che il modello non elenca parametri supportati, dovresti inviare una richiesta semplice con la tua query e i documenti da classificare, e affidarti al comportamento di ranking del modello stesso anziché regolare le impostazioni di decodifica.

Un limite che vale la pena notare è l'ambito. rerank-3 esegue il reranking solo di testo; non genera risposte o riassunti, quindi se hai bisogno di un modello che produca testo lo abbineresti a un modello generativo. Inoltre, se la tua pipeline non ha un passaggio di recupero separato e hai solo bisogno di una ricerca di embedding di primo passaggio, un modello di embedding dedicato potrebbe essere il punto di partenza più semplice, con rerank-3 aggiunto in seguito per perfezionare l'ordinamento.