Usiamo i cookie. Cookie e memoria del browser ti mantengono connesso e ricordano le tue preferenze. Con il tuo consenso misuriamo anche come viene usato il sito. Puoi in qualsiasi momento. Consulta la nostra cookie policy.
mongodb/rerank-2.5-liteUsa il tuo saldo ai prezzi indicati sopra. I nuovi account partono con utilizzo gratuito.
Impostazioni
VoyageAI by MongoDB: rerank-2.5-lite è un modello di reranking di VoyageAI by MongoDB. Si colloca nella categoria rerank, il che significa che il suo compito è prendere un insieme di documenti candidati e riordinarli in base alla rilevanza rispetto a una query, anziché generare nuovo testo. È stato rilasciato dal provider il 2026-07-27.
Il modello accetta testo come input e produce un output di rerank, quindi gli si invia una query insieme ai documenti che si desidera valutare e restituisce questi ultimi in un ordine più utile. Ha una lunghezza di contesto di 32000 token e un output massimo di 28800. Poiché lavora solo su testo, qualsiasi passaggio candidato che si desidera classificare deve essere fornito come testo. Il provider lo descrive come un reranker ottimizzato sia per la latenza sia per la qualità, e riporta un miglioramento del 7.16% nell'accuratezza del retrieval rispetto a Cohere Rerank v3.5 su 93 dataset, oltre a superare Cohere Rerank v3.5.
L'idoneità pratica deriva da questo. Se si esegue già una fase di retrieval, che sia ricerca vettoriale, ricerca per parole chiave o un ibrido delle due, questo modello può essere collocato dopo di essa e riordinare i migliori candidati prima che raggiungano l'applicazione o il modello linguistico. Questo è utile quando la prima fase restituisce risultati plausibili ma ordinati in modo imperfetto, cosa comune nella ricerca su documentazione, ticket di supporto, cataloghi di prodotti o basi di conoscenza interne. È utile anche nelle pipeline di retrieval augmented generation, dove la qualità dei passaggi posizionati vicino all'inizio del prompt ha un effetto diretto sulla risposta, e nel lavoro di valutazione in cui si desidera un ordinamento di rilevanza coerente su un insieme fisso di candidati. L'enfasi sulla latenza lo rende una scelta ragionevole quando il reranking avviene sul percorso della richiesta anziché in un job batch.
Lo si chiama tramite l'API compatibile con OpenAI di api14 usando il model id "mongodb/rerank-2.5-lite". Poiché l'endpoint segue il formato OpenAI, è possibile puntare un client OpenAI esistente su api14 cambiando il base URL e fornendo la propria chiave api14, quindi passare il model id nella richiesta. Per questo modello non sono supportati parametri di richiesta aggiuntivi, quindi è opportuno limitare le chiamate ai campi standard accettati dall'endpoint anziché affidarsi a opzioni specifiche del provider come impostazioni personalizzate di troncamento o istruzioni.
Tenere presente la lunghezza del contesto quando si assemblano gli input: la query e i documenti inviati condividono il budget di 32000 token, quindi insiemi di candidati molto grandi devono essere ridotti o suddivisi prima dell'invio. Se il compito è generare testo anziché ordinarlo, uno strumento più adatto è invece un modello chat o completion, e se occorre classificare immagini o altri input non testuali, questo modello non copre tale caso.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/rerank", { body: {
"model": "mongodb/rerank-2.5-lite",
"query": "What is the capital of France?",
"documents": [
"Paris is the capital of France.",
"Berlin is in Germany."
],
"top_n": 1
} });
console.log(result.results);
Questa community non ha ancora discussioni. Apri la prima su VoyageAI by MongoDB: rerank-2.5-lite.