VoyageAI by MongoDB : voyage-4 est un modèle d'embedding de VoyageAI by MongoDB. Il appartient à la catégorie des embeddings, ce qui signifie que son rôle est de transformer du texte en représentations vectorielles plutôt que de générer des réponses de chat. C'est un modèle polyvalent, conçu pour traiter aussi bien le contenu multilingue que l'anglais. Si votre application dépend de la similarité sémantique, de la récupération ou de la qualité de recherche, c'est la classe de modèle que vous évalueriez.
Le modèle accepte du texte en entrée et renvoie des embeddings en sortie. Sa longueur de contexte est de 32 000 tokens, et sa sortie maximale est de 28 800. Comme la sortie est un vecteur et non de la prose, vous ne l'utiliserez pas pour la conversation, le résumé ou la génération de code. À la place, vous lui envoyez du texte et recevez la représentation numérique que les systèmes en aval utilisent pour la comparaison et le classement. La prise en charge multilingue signifie que le même modèle peut être utilisé sur du contenu dans différentes langues sans passer à un modèle d'embedding distinct pour chacune.
Les usages pratiques découlent directement de cette forme. La récupération et la recherche sont les cibles principales, donc voyage-4 convient à la recherche sémantique sur une collection de documents, aux pipelines de génération augmentée par récupération où vous devez récupérer des passages pertinents avant de les transmettre à un modèle de langage, et aux applications d'IA qui reposent sur la similarité entre les requêtes et le contenu stocké. La récupération multilingue est également une évidence, puisque les requêtes et les documents n'ont pas besoin d'être dans la même langue pour que les embeddings soient utiles. Le clustering, la déduplication et l'appariement de type recommandation sont aussi des applications raisonnables, car elles se réduisent toutes à la comparaison d'embeddings.
Vous appelez le modèle via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle "mongodb/voyage-4". Comme l'interface suit le format OpenAI, vous pouvez pointer un client OpenAI existant vers api14 et envoyer des requêtes d'embedding sans réécrire votre intégration. Le modèle ne liste aucun paramètre pris en charge au-delà des champs de requête standard, donc gardez vos requêtes simples et évitez de supposer des options de réglage qui ne font pas partie de l'interface. L'identifiant de modèle est la valeur que vous placez dans la requête pour sélectionner ce modèle spécifique.
Une chose à garder à l'esprit est la portée. C'est un modèle d'embeddings, donc si vous avez besoin de génération de texte, de raisonnement ou d'utilisation d'outils, un modèle de chat ou de complétion est le meilleur choix. Le contexte de 32 000 tokens et la sortie maximale de 28 800 décrivent la charge de travail d'embedding, pas un budget de chat. Utilisez voyage-4 lorsque la tâche est la représentation et la récupération, et tournez-vous vers un modèle génératif lorsque la tâche est de produire du texte.