VoyageAI by MongoDB: voyage-4

voyage-4 är en allmänt användbar inbäddningsmodell från Voyage AI, företaget bakom Voyage-inbäddningsfamiljen som nu är en del av MongoDB. Den listas på api14 under modell-id:t voyageai/voyage-4 och ligger i kategorin embeddings, så den är byggd för att omvandla text till vektorer snarare än att generera chatt svar. Om du väljer en inbäddningsmodell för ett hämtnings- eller söksystem är detta den typ av modell du skulle utvärdera tillsammans med andra allmänt användbara inbäddningsalternativ.

Modellen tar text som indata och returnerar inbäddningar som utdata. Den beskrivs som allmänt användbar och flerspråkig, och den är optimerad för hämtning och sökning samt andra AI-tillämpningar. Den stöder inbäddningar vid 2048, 1024, 512 och 256 dimensioner, tillsammans med flera kvantiseringsalternativ, vilket låter dig byta vektorstorlek mot lagrings- och söktegenskaper beroende på ditt index. Kontextlängden är 32000 token, och maximal utdata är 28800, så långa dokument kan bäddas in utan att delas upp i många små bitar.

Dessa förmågor pekar mot en ganska specifik uppsättning användningsområden. Hämtning och sökning är de primära: indexera en dokumentsamling, bädda in frågor och jämföra dem med vektorlikhet. Eftersom modellen är flerspråkig passar den också samlingar och frågor som blandar språk, och eftersom den stöder flera utdatadimensioner och kvantiseringsalternativ kan den betjäna både ett högtroget index och ett mindre, mer kompakt sådant. Vanliga tillämpningar inkluderar hämtningsförstärkta genereringspipelines, semantisk sökning över intern dokumentation, deduplicering eller klustring av text, och rekommendations- eller klassificeringssystem som arbetar med inbäddningar snarare än genererad text.

Du anropar den via api14:s OpenAI-kompatibla API med modell-id:t voyageai/voyage-4, skickar text och tar emot inbäddningar i svaret. Modellens lista över stödda parametrar är tom, så du bör inte förvänta dig att kunna skicka samplingkontroller som temperature eller top_p; begäran är i huvudsak indatatexten plus modell-id:t. Val av dimension och kvantisering är en del av modellens inbäddningsbeteende snarare än begärandeparametrar som exponeras här, så kontrollera aktuell API-referens för hur dessa väljs innan du bygger runt en specifik vektorstorlek.

En sak att ha i åtanke är att detta är en inbäddningsmodell, inte en chatt- eller kompletteringsmodell. Om din uppgift är att generera text, sammanfatta eller föra en konversation är en textgenereringsmodell rätt val, och voyage-4 skulle bara vara användbar som en stödjande komponent i en hämtningspipeline. Den tar också bara text, så indata i andra modaliteter ligger utanför omfånget. Inom dessa gränser är den en rimlig kandidat för sök- och hämtningsarbete där du vill ha kontroll över inbäddningsdimensioner.