VoyageAI by MongoDB: voyage-4-large

VoyageAI by MongoDB : voyage-4-large est un modèle d'embedding de Voyage AI, un fournisseur dont les modèles sont distribués sous le nom VoyageAI by MongoDB. Il appartient à la catégorie des embeddings, ce qui signifie qu'il est conçu pour transformer du texte en vecteurs plutôt que pour générer des réponses de chat. Si vous choisissez un modèle pour un pipeline de retrieval ou de similarité, c'est le type de modèle que vous évaluez sur la qualité d'embedding plutôt que sur la capacité conversationnelle.

Le modèle accepte le texte comme seule modalité d'entrée et renvoie des embeddings comme seule sortie. Il dispose d'une longueur de contexte de 32 000 tokens, de sorte qu'une seule requête peut couvrir un document assez long ou un lot de passages plus courts. Le fournisseur le décrit comme un embedding généraliste et multilingue de pointe, optimisé pour la qualité de retrieval. Il utilise l'apprentissage Matryoshka et l'entraînement sensible à la quantification, et il prend en charge des embeddings à 2048, 1024, 512 et 256 dimensions. La sortie maximale est indiquée comme 28 800, ce qui correspond au plafond du côté sortie d'embedding d'une requête.

Ces capacités renvoient à un ensemble précis de cas d'usage. La recherche sémantique et le retrieval sur une collection de documents constituent l'adéquation la plus directe, puisque le modèle est ajusté pour la qualité de retrieval et peut encoder de longs passages dans le contexte de 32 000 tokens. Les corpus multilingues sont également une cible raisonnable, compte tenu de l'entraînement multilingue. Comme les embeddings peuvent être tronqués à 2048, 1024, 512 ou 256 dimensions, vous pouvez arbitrer entre taille du vecteur, stockage et vitesse de recherche selon le niveau de précision dont votre index a besoin. Le clustering, la déduplication et le calcul de similarité sur du texte sont d'autres applications naturelles, tout comme la construction d'un index vectoriel qui alimente un modèle de génération distinct.

Vous appelez le modèle via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle "voyageai/voyage-4-large". Comme le point de terminaison suit le format OpenAI, vous pouvez pointer un client OpenAI existant vers api14 et envoyer des requêtes d'embedding sans réécrire votre intégration. La liste des paramètres pris en charge par le modèle est vide, il n'y a donc aucun paramètre de requête supplémentaire à configurer au-delà de ce qu'exige l'appel d'embedding standard. Considérez l'identifiant de modèle comme la seule valeur propre au modèle que vous devez définir.

Une contrainte pratique à garder à l'esprit est que ce modèle ne traite que les entrées textuelles et ne produit que des embeddings. Il ne peut pas générer de texte, répondre à des questions ou suivre des instructions, donc toute application qui nécessite une réponse écrite requiert un modèle de génération distinct en parallèle. Le contexte de 32 000 tokens est généreux pour le travail d'embedding mais reste fini, donc les documents très volumineux doivent être découpés en chunks avant l'embedding. Si votre tâche est de la génération plutôt que du retrieval, un modèle de chat ou de complétion est plus adapté.