VoyageAI by MongoDB : voyage-4-large est un modèle d'embedding polyvalent et multilingue de VoyageAI by MongoDB. Il appartient à la catégorie des embeddings, donc son rôle est de transformer du texte en représentations vectorielles plutôt que de générer des réponses de chat. Il est conçu pour la qualité de récupération, ce qui en fait un choix naturel pour les systèmes de recherche et de récupération où la qualité de la représentation vectorielle affecte directement ce qui est récupéré.
Le modèle accepte du texte en entrée et renvoie des embeddings en sortie. Il a une longueur de contexte de 32 000 tokens et une sortie maximale de 28 800. Sa conception est rendue possible par l'apprentissage Matryoshka et l'entraînement conscient de la quantification, et il prend en charge les embeddings. Parce qu'il est multilingue et polyvalent, il peut être appliqué à du texte dans plusieurs langues sans passer à un modèle distinct.
Les cas d'usage pratiques découlent de ces propriétés. La récupération est le principal : indexer des documents, des passages ou des enregistrements et embedder les requêtes afin qu'une couche de recherche puisse classer les résultats par similarité sémantique. Les corpus multilingues sont bien adaptés, puisque le même modèle peut embedder du contenu et des requêtes dans plusieurs langues. L'apprentissage Matryoshka signifie que les embeddings peuvent être utilisés à différents niveaux de troncature, ce qui est utile lorsque vous devez arbitrer entre stockage ou latence et qualité de récupération dans un index vectoriel. L'entraînement conscient de la quantification compte lorsque les embeddings sont stockés sous forme compressée, car il maintient la qualité plus proche de vecteurs en pleine précision.
Vous appelez le modèle via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle "mongodb/voyage-4-large". Comme le point de terminaison suit le format OpenAI, vous pouvez pointer un client OpenAI existant vers api14 et envoyer des requêtes d'embedding de la manière habituelle, avec l'identifiant de modèle dans le corps de la requête. Le modèle ne prend en charge aucun paramètre de requête supplémentaire, donc les requêtes restent simples : l'identifiant de modèle et le texte d'entrée sont ce qui compte. Le tableau des prix en direct de la page indique les tarifs actuels.
Une limite à garder à l'esprit est qu'il s'agit d'un modèle d'embeddings, pas d'un générateur de texte. Si vous avez besoin de complétions de chat, de raisonnement, d'appel d'outils ou de toute sortie de texte généré, un autre modèle est le bon choix. Voyage-4-large sert à produire des vecteurs, et son contexte de 32 000 tokens limite la quantité de texte pouvant entrer dans une seule requête d'embedding.