VoyageAI by MongoDB: voyage-4

voyage-4 is een algemeen embeddingmodel van Voyage AI, het bedrijf achter de Voyage embedding-familie die nu deel uitmaakt van MongoDB. Het staat vermeld op api14 onder de model-id voyageai/voyage-4 en valt in de categorie embeddings, dus het is gebouwd om tekst om te zetten in vectoren in plaats van chatreacties te genereren. Als je een embeddingmodel kiest voor een retrieval- of zoeksysteem, is dit het soort model dat je zou evalueren naast andere algemene embeddingopties.

Het model accepteert tekst als invoer en retourneert embeddings als uitvoer. Het wordt beschreven als algemeen en meertalig, en het is geoptimaliseerd voor retrieval en zoeken evenals andere AI-toepassingen. Het ondersteunt embeddings met 2048, 1024, 512 en 256 dimensies, samen met meerdere kwantisatie-opties, waarmee je vectorgrootte kunt afwegen tegen opslag- en zoekkenmerken, afhankelijk van je index. De contextlengte is 32000 tokens en de maximale uitvoer is 28800, dus lange documenten kunnen worden ge-embed zonder ze in veel kleine stukjes te splitsen.

Die mogelijkheden wijzen op een tamelijk specifieke set toepassingen. Retrieval en zoeken zijn de belangrijkste: een documentverzameling indexeren, queries embedden en ze vergelijken op vectorgelijkenis. Omdat het model meertalig is, past het ook bij verzamelingen en queries die talen mengen, en omdat het meerdere uitvoerdimensies en kwantisatie-opties ondersteunt, kan het zowel een index met hoge getrouwheid als een kleinere, compactere index bedienen. Veelvoorkomende toepassingen zijn retrieval augmented generation-pipelines, semantisch zoeken over interne documentatie, deduplicatie of clustering van tekst, en aanbevelings- of classificatiesystemen die op embeddings werken in plaats van op gegenereerde tekst.

Je roept het aan via de OpenAI-compatibele API van api14 met de model-id voyageai/voyage-4, waarbij je tekst verzendt en embeddings in het antwoord ontvangt. De lijst met ondersteunde parameters van het model is leeg, dus je moet niet verwachten dat je sampling-instellingen zoals temperature of top_p kunt doorgeven; het verzoek is in wezen de invoertekst plus de model-id. Keuzes voor dimensie en kwantisatie maken deel uit van het embeddinggedrag van het model in plaats van hier beschikbaar gestelde verzoekparameters, dus controleer de actuele API-referentie voor hoe die worden geselecteerd voordat je om een specifieke vectorgrootte heen bouwt.

Een ding om in gedachten te houden is dat dit een embeddingmodel is, geen chat- of completionmodel. Als je taak tekstgeneratie, samenvatten of een gesprek voeren is, dan is een tekstgeneratiemodel de juiste keuze, en voyage-4 zou alleen nuttig zijn als ondersteunende component in een retrieval-pipeline. Het accepteert ook alleen tekst, dus invoer in andere modaliteiten valt buiten bereik. Binnen die grenzen is het een redelijke kandidaat voor zoek- en retrievalwerk waarbij je controle wilt over embeddingdimensies.