Vi använder cookies. Cookies och webbläsarlagring håller dig inloggad och kommer ihåg dina preferenser. Med ditt tillstånd mäter vi också hur webbplatsen används. Du kan när som helst. Läs vår cookiepolicy.
mongodb/rerank-3Körs på ditt saldo till priserna ovan. Nya konton börjar med gratis användning.
Inställningar
VoyageAI by MongoDB: rerank-3 är en omrankningsmodell från VoyageAI by MongoDB. Den tillhör kategorin rerank och positioneras som en drop-in-uppgradering till rerank-2.5, vilket innebär att team som redan använder den tidigare modellen kan gå över till rerank-3 utan att göra om sin integration. Modellen är byggd för återhämtningskvalitet snarare än generering, så den hör hemma i den del av en pipeline som avgör hur sökresultat eller kandidatpassager ska ordnas innan de når en användare eller en nedströmsmodell.
Modellen tar text som indata och producerar en omrankningsutdata. Den stöder en kontextlängd på 32 000 tokens, med en maximal utdata på 28 800, vilket är tillräckligt med utrymme för att poängsätta långa kandidatpassager tillsammans med en fråga snarare än bara korta utdrag. Eftersom indatamodaliteten är text och utdatamodaliteten är rerank genererar modellen inte prosa eller chattrepliker; den returnerar en ordning på de passager den får. Det gör den till en poängsättnings- och sorteringskomponent snarare än en konversationskomponent.
Praktiska användningsfall följer direkt av den formen. En återhämtningspipeline kan hämta en bred uppsättning kandidater med en snabb förstastegssökning och sedan skicka frågan och dessa kandidater till rerank-3 för att producera en bättre slutlig ordning. Detta är användbart vid sökning i dokumentation, interna kunskapsbaser, supportinnehåll eller vilken korpus som helst där de främsta resultaten betyder mer än rå återkallning. Det passar också uppsättningar för återhämtningsförstärkt generering, där kvaliteten på de passager som placeras i en prompt påverkar svaret som följer. Den långa kontexten och den långa utdata-tilldelningen gör den lämplig för samlingar som innehåller långa dokument, eftersom modellen kan överväga mer av varje kandidat när den tilldelar dess position.
Du anropar modellen via api14:s OpenAI-kompatibla API med modell-id:t "mongodb/rerank-3". Eftersom gränssnittet följer OpenAI-formatet kan du peka en befintlig OpenAI-klient mot api14 och välja detta modell-id i din begäran. Modellen listar inga stödda parametrar utöver själva modell-id:t, så du bör inte förvänta dig att kunna justera samplings- eller genereringsinställningar som temperature eller top_p; de tillhör generativa modeller, inte en omrankare. Skicka frågan och kandidaternas texter, och läs tillbaka omrankningsutdata.
Det är värt att notera att rerank-3 är en omrankare, så den är inte rätt val när du behöver textgenerering, chatt, sammanfattning eller inbäddningar. Om din uppgift är att producera ett svar snarare än att ordna kandidater passar en generativ modell bättre. Om din uppgift är att skapa de initiala vektorrepresentationerna som en omrankare sedan ordnar om, är en inbäddningsmodell den lämpliga komponenten. Inom omrankningsarbete är rerank-3 den drop-in-efterträdaren till rerank-2.5, och leverantören rapporterar förbättringar över den modellen med 0,80 % NDCG@10 i genomsnitt över domänutvärderingar och 3,35 % på utvärderingar av långa dokument.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/rerank", { body: {
"model": "mongodb/rerank-3",
"query": "What is the capital of France?",
"documents": [
"Paris is the capital of France.",
"Berlin is in Germany."
],
"top_n": 1
} });
console.log(result.results);
Den här communityn har inga trådar ännu. Starta den första om VoyageAI by MongoDB: rerank-3.