VoyageAI by MongoDB: voyage-4-lite

voyage-4-lite är en inbäddningsmodell från Voyage AI, företaget bakom familjen Voyage av hämtningsmodeller, nu en del av MongoDB. Den tillhör kategorin inbäddningar snarare än kategorin chatt, vilket innebär att den inte genererar text. Istället omvandlar den text till vektorer som du lagrar och jämför. Den positioneras som en lättviktig modell för allmänna ändamål, byggd för låg latens och kostnad snarare än maximal noggrannhet på de svåraste hämtningsproblemen.

Modellen tar text som indata och returnerar inbäddningar som utdata. Dess kontextlängd är 32 000 tokens, och den maximala utdatan är 28 800, så långa dokument kan bäddas in utan att delas upp i många små bitar. Voyage AI tränade den med Matryoshka-inlärning och kvantiseringsmedveten träning, vilket är det som gör att en enda modell kan producera inbäddningar vid 2048, 1024, 512 och 256 dimensioner. Du väljer den dimension som passar din lagrings- och latensbudget, och kortare vektorer förblir användbara istället för att kollapsa.

Dessa egenskaper pekar mot en ganska specifik uppsättning användningsområden. Semantisk sökning över en dokumentsamling, där du bäddar in bitar en gång och frågar dem med en inbäddad fråga, är kärnfallet. Samma vektorer stöder hämtningsförstärkt generering, deduplicering och detektering av nästan dubbletter, klustring och ämnesgruppering, samt klassificering eller dirigering när du jämför en indata mot märkta exempel. Eftersom modellen hanterar 32 000 tokens av kontext kan du bädda in hela sidor eller långa stycken direkt, vilket passar kodssökning, triage av supportärenden och interna kunskapsbaser. Alternativen med lägre dimension spelar roll när du lagrar miljontals vektorer och vill hålla indexet litet.

Du anropar den via api14:s OpenAI-kompatibla API med modell-id:t "voyageai/voyage-4-lite". Eftersom slutpunkten följer OpenAI:s inbäddningsform fungerar befintliga klienter och bibliotek med endast bas-URL och modell-id ändrade. Modellen exponerar inga ytterligare parametrar som stöds, så förfrågningar förlitar sig på standardfälten som inbäddningsslutpunkten accepterar, såsom indatatexten och modell-id:t. Det finns ingen sampling, temperatur eller verktygskonfiguration att ställa in, eftersom inget av det gäller för en inbäddningsmodell.

Om din uppgift är textgenerering, sammanfattning eller resonemang är detta fel modell och en chattmodell passar bättre. voyage-4-lite beskrivs också som lättviktig och för allmänna ändamål, så om du behöver den starkaste hämtningskvaliteten på specialiserade eller mycket tekniska korpusar är en större Voyage-inbäddningsmodell det mer sannolika valet.