VoyageAI by MongoDB: voyage-4

voyage-4 ist ein Allzweck-Einbettungsmodell von Voyage AI, dem Unternehmen hinter der Voyage-Einbettungsfamilie, die heute Teil von MongoDB ist. Es ist auf api14 unter der Modell-ID voyageai/voyage-4 gelistet und gehört zur Kategorie der Einbettungen, wurde also darauf ausgelegt, Text in Vektoren umzuwandeln, statt Chat-Antworten zu erzeugen. Wenn Sie ein Einbettungsmodell für ein Retrieval- oder Suchsystem auswählen, ist dies die Art von Modell, die Sie neben anderen Allzweck-Einbettungsoptionen bewerten würden.

Das Modell akzeptiert Text als Eingabe und gibt Einbettungen als Ausgabe zurück. Es wird als Allzweck- und mehrsprachig beschrieben und ist für Retrieval und Suche sowie andere KI-Anwendungen optimiert. Es unterstützt Einbettungen mit 2048, 1024, 512 und 256 Dimensionen sowie mehrere Quantisierungsoptionen, wodurch Sie Vektorgröße gegen Speicher- und Sucheigenschaften abwägen können, je nach Ihrem Index. Die Kontextlänge beträgt 32000 Token, und die maximale Ausgabe beträgt 28800, sodass lange Dokumente eingebettet werden können, ohne sie in viele kleine Stücke aufzuteilen.

Diese Fähigkeiten deuten auf eine ziemlich spezifische Gruppe von Anwendungen hin. Retrieval und Suche sind die primären: eine Dokumentsammlung indexieren, Abfragen einbetten und sie über Vektorähnlichkeit vergleichen. Weil das Modell mehrsprachig ist, passt es auch zu Sammlungen und Abfragen, die Sprachen mischen, und weil es mehrere Ausgabedimensionen und Quantisierungsoptionen unterstützt, kann es sowohl einen hochpräzisen Index als auch einen kleineren, kompakteren bedienen. Häufige Anwendungen umfassen Retrieval-Augmented-Generation-Pipelines, semantische Suche über interne Dokumentation, Deduplizierung oder Clustering von Text sowie Empfehlungs- oder Klassifikationssysteme, die auf Einbettungen statt auf generiertem Text arbeiten.

Sie rufen es über die OpenAI-kompatible API von api14 mit der Modell-ID voyageai/voyage-4 auf, senden Text und erhalten Einbettungen in der Antwort. Die Liste der unterstützten Parameter des Modells ist leer, daher sollten Sie nicht erwarten, Sampling-Steuerungen wie temperature oder top_p zu übergeben; die Anfrage besteht im Wesentlichen aus dem Eingabetext plus der Modell-ID. Dimension- und Quantisierungsentscheidungen sind Teil des Einbettungsverhaltens des Modells und nicht hier offengelegte Anfrageparameter, prüfen Sie also die aktuelle API-Referenz dazu, wie diese ausgewählt werden, bevor Sie auf eine bestimmte Vektorgröße aufbauen.

Eines sollten Sie beachten: Dies ist ein Einbettungsmodell, kein Chat- oder Completion-Modell. Wenn Ihre Aufgabe das Generieren von Text, Zusammenfassen oder Führen eines Gesprächs ist, ist ein Textgenerierungsmodell die richtige Wahl, und voyage-4 wäre nur als unterstützende Komponente in einer Retrieval-Pipeline nützlich. Es akzeptiert außerdem nur Text, daher liegen Eingaben in anderen Modalitäten außerhalb des Geltungsbereichs. Innerhalb dieser Grenzen ist es ein vernünftiger Kandidat für Such- und Retrieval-Arbeit, bei der Sie Kontrolle über die Einbettungsdimensionen wünschen.