Vi använder cookies. Cookies och webbläsarlagring håller dig inloggad och kommer ihåg dina preferenser. Med ditt tillstånd mäter vi också hur webbplatsen används. Du kan när som helst. Läs vår cookiepolicy.
mongodb/rerank-2.5Körs på ditt saldo till priserna ovan. Nya konton börjar med gratis användning.
Inställningar
VoyageAI by MongoDB: rerank-2.5 är en omrankningsmodell från VoyageAI by MongoDB. Den tillhör kategorin rerank, vilket innebär att dess uppgift är att ta en befintlig uppsättning kandidatresultat och ordna om dem efter relevans, snarare än att generera ny text från grunden. Det är en textmodell, och dess utdata är ett omrankningsresultat.
Modellen tar text som indata och producerar omrankade utdata. Den har en kontextlängd på 32 000 tokens och ett maximalt utdata på 28 800. Eftersom den är en omrankare skriver den inte prosa, svarar inte på frågor och håller inte en konversation. I stället poängsätter och ordnar den stycken i förhållande till en fråga, vilket är steget som vanligtvis ligger mellan en inledande hämtningsomgång och den slutliga uppsättningen dokument som lämnas till en nedströmsmodell eller visas för en användare.
Den formen gör den användbar där hämtningskvalitet spelar roll. Ett vanligt mönster är en sökpipeline i två steg: en snabb vektor- eller nyckelordssökning returnerar en bred kandidatlista, och rerank-2.5 ordnar om dessa kandidater så att de mest relevanta objekten hamnar högst upp. Detta gäller för hämtningsförstärkt generering, där bättre ordning innebär att generatorn ser det starkaste sammanhanget först, och för sökning i dokumentation, supportärenden, interna kunskapsbaser eller produktkataloger. Det passar också för utvärderings- och datakureringsarbete, där du behöver en konsekvent relevansordning över en stor uppsättning fråge- och dokumentpar.
Du anropar den via api14:s OpenAI-kompatibla API med modell-id:t "mongodb/rerank-2.5". Eftersom slutpunkten följer OpenAI-formatet kan du peka en befintlig OpenAI-klient mot api14 genom att ändra bas-URL:en och skicka det modell-id:t i din begäran. Modellen listar inga parametrar som stöds, så det finns inga urvals- eller genereringsalternativ att justera; du skickar din fråga och dina dokument och får tillbaka den omrankade ordningen. Kontexten på 32 000 tokens är budgeten att ha i åtanke när du bestämmer hur många kandidater som ska skickas i ett enda anrop.
Om din uppgift är textgenerering, sammanfattning, chatt eller verktygsanvändning är en omrankare fel verktyg och en generativ modell passar bättre. rerank-2.5 bör bäst behandlas som ett steg i en pipeline snarare än som en fristående assistent, och den är mest värdefull när du redan har en kandidatuppsättning som behöver skarpare ordning.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/rerank", { body: {
"model": "mongodb/rerank-2.5",
"query": "What is the capital of France?",
"documents": [
"Paris is the capital of France.",
"Berlin is in Germany."
],
"top_n": 1
} });
console.log(result.results);
Den här communityn har inga trådar ännu. Starta den första om VoyageAI by MongoDB: rerank-2.5.