VoyageAI by MongoDB: voyage-4-large

VoyageAI by MongoDB: voyage-4-large är en inbäddningsmodell från Voyage AI, en leverantör vars modeller distribueras under namnet VoyageAI by MongoDB. Den tillhör kategorin inbäddningar, vilket innebär att den är byggd för att omvandla text till vektorer snarare än att generera chattsvar. Om du väljer en modell för en pipeline för hämtning eller likhet är detta den typ av modell som du utvärderar utifrån inbäddningskvalitet snarare än utifrån konversationsförmåga.

Modellen accepterar text som sin enda indatamodalitet och returnerar inbäddningar som sin enda utdata. Den har en kontextlängd på 32 000 token, så en enskild begäran kan omfatta ett ganska långt dokument eller en grupp kortare stycken. Leverantören beskriver den som en toppmodern allmän och flerspråkig inbäddning optimerad för hämtningskvalitet. Den använder Matryoshka-inlärning och kvantiseringsmedveten träning, och den stöder inbäddningar vid 2048, 1024, 512 och 256 dimensioner. Den maximala utdatan anges som 28 800, vilket är taket på inbäddningsutdatasidan av en begäran.

Dessa egenskaper pekar mot en specifik uppsättning användningsfall. Semantisk sökning och hämtning över en dokumentsamling är den mest direkta tillämpningen, eftersom modellen är finjusterad för hämtningskvalitet och kan bädda in långa stycken inom kontexten på 32 000 token. Flerspråkiga korpusar är också ett rimligt mål, med tanke på den flerspråkiga träningen. Eftersom inbäddningarna kan trunkeras till 2048, 1024, 512 eller 256 dimensioner kan du byta vektorstorlek mot lagringsutrymme och sökhastighet beroende på hur mycket precision ditt index behöver. Klustring, deduplicering och likhetsbedömning över text är andra naturliga tillämpningar, liksom att bygga ett vektorindex som matar en separat genereringsmodell.

Du anropar modellen via api14:s OpenAI-kompatibla API med modell-id:t "voyageai/voyage-4-large". Eftersom slutpunkten följer OpenAI-formatet kan du peka en befintlig OpenAI-klient mot api14 och skicka inbäddningsbegäranden utan att skriva om din integration. Modellens lista över stödda parametrar är tom, så det finns inga extra begärandeparametrar att konfigurera utöver vad standardanropet för inbäddning kräver. Betrakta modell-id:t som det enda modellspecifika värdet du behöver ange.

En praktisk begränsning att ha i åtanke är att denna modell endast hanterar textindata och endast producerar inbäddningar. Den kan inte generera text, svara på frågor eller följa instruktioner, så alla applikationer som behöver ett skriftligt svar kräver en separat genereringsmodell vid sidan av. Kontexten på 32 000 token är generös för inbäddningsarbete men fortfarande ändlig, så mycket stora dokument måste delas upp i bitar före inbäddning. Om din uppgift är generering snarare än hämtning är en chatt- eller kompletteringsmodell ett bättre val.