Usiamo i cookie. Cookie e memoria del browser ti mantengono connesso e ricordano le tue preferenze. Con il tuo consenso misuriamo anche come viene usato il sito. Puoi in qualsiasi momento. Consulta la nostra cookie policy.
mongodb/rerank-2.5Usa il tuo saldo ai prezzi indicati sopra. I nuovi account partono con utilizzo gratuito.
Impostazioni
VoyageAI di MongoDB: rerank-2.5 è un modello di reranking di VoyageAI di MongoDB. Appartiene alla categoria rerank, il che significa che il suo compito è prendere un insieme esistente di risultati candidati e riordinarli per rilevanza, anziché generare nuovo testo da zero. È un modello testuale e il suo output è un risultato di rerank.
Il modello accetta testo come input e produce un output riordinato. Ha una lunghezza di contesto di 32.000 token e un output massimo di 28.800. Poiché è un reranker, non scrive prosa, non risponde a domande e non sostiene una conversazione. Invece, assegna un punteggio e ordina i passaggi rispetto a una query, che è il passaggio che tipicamente si colloca tra una prima fase di recupero e l'insieme finale di documenti consegnato a un modello a valle o mostrato a un utente.
Questa forma lo rende utile ovunque conti la qualità del recupero. Un pattern comune è una pipeline di ricerca a due stadi: una ricerca veloce vettoriale o per parole chiave restituisce un ampio elenco di candidati, e rerank-2.5 riordina quei candidati in modo che gli elementi più rilevanti finiscano in cima. Questo vale per la generazione aumentata dal recupero, dove un ordinamento migliore significa che il generatore vede prima il contesto più forte, e per la ricerca su documentazione, ticket di supporto, basi di conoscenza interne o cataloghi di prodotti. Si adatta anche al lavoro di valutazione e curatela dei dati, dove serve un ordinamento di rilevanza coerente su un ampio insieme di coppie query e documento.
Lo chiami tramite l'API compatibile con OpenAI di api14 usando l'id del modello "mongodb/rerank-2.5". Poiché l'endpoint segue il formato OpenAI, puoi puntare un client OpenAI esistente su api14 cambiando l'URL di base e passando quell'id del modello nella tua richiesta. Il modello non elenca parametri supportati, quindi non ci sono opzioni di campionamento o generazione da regolare; invii la tua query e i documenti e ricevi indietro l'ordinamento riorganizzato. Il contesto di 32.000 token è il budget da tenere a mente quando decidi quanti candidati inviare in una singola chiamata.
Se il tuo compito è generazione di testo, riassunto, chat o uso di strumenti, un reranker è lo strumento sbagliato e un modello generativo si adatterà meglio. rerank-2.5 è meglio trattarlo come una fase in una pipeline anziché come un assistente autonomo, ed è più prezioso quando hai già un insieme di candidati che necessita di un ordinamento più preciso.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/rerank", { body: {
"model": "mongodb/rerank-2.5",
"query": "What is the capital of France?",
"documents": [
"Paris is the capital of France.",
"Berlin is in Germany."
],
"top_n": 1
} });
console.log(result.results);
Questa community non ha ancora discussioni. Apri la prima su VoyageAI by MongoDB: rerank-2.5.