VoyageAI par MongoDB : voyage-code-4 est un modèle d'embedding de code de Voyage AI, une société de MongoDB. Il appartient à la catégorie des embeddings, donc son rôle est de transformer l'entrée en vecteurs plutôt que de générer des réponses de chat. Il est conçu pour les agents de codage et la recherche de code, ce qui le place dans la partie d'une pile où vous devez représenter le code sous forme de vecteurs pouvant être stockés, comparés et recherchés.
Le modèle accepte du texte en entrée et produit des embeddings en sortie. Il a une longueur de contexte de 32 000 tokens et une sortie maximale de 28 800, et il utilise des embeddings Matryoshka à 2048 dimensions. Les embeddings Matryoshka peuvent être tronqués à des longueurs plus courtes tout en restant utilisables, ce qui vous donne de la flexibilité sur la quantité de stockage vectoriel et de calcul que vous engagez. Comme la modalité d'entrée est le texte, le modèle fonctionne sur du code sérialisé sous forme de texte, ce qui correspond à la façon dont les fichiers source, les diffs et les extraits atteignent normalement un point de terminaison d'embedding.
Ces capacités indiquent un ensemble d'usages assez spécifique. La recherche de code est l'usage principal : indexer un dépôt pour qu'une requête de recherche, une description en langage naturel ou un fragment de code renvoie les fichiers ou fonctions les plus pertinents. Les agents de codage peuvent utiliser les mêmes embeddings pour trouver le contexte pertinent avant de modifier ou de générer du code, ce qui ancre l'agent dans la base de code réelle plutôt que de s'appuyer sur ce qui tient dans un prompt. Le contexte de 32 000 tokens signifie que des fichiers plus volumineux ou des blocs multi fichiers peuvent être intégrés en une seule requête, et la propriété Matryoshka vous permet d'arbitrer entre taille de vecteur et qualité de recherche lorsque vous concevez votre index.
Vous appelez le modèle via l'API compatible OpenAI d'api14 en utilisant l'id de modèle "mongodb/voyage-code-4". Comme l'interface suit le format OpenAI, vous pouvez pointer un client OpenAI existant vers api14 et envoyer des requêtes d'embedding sans réécrire votre intégration. Le modèle ne prend en charge aucun paramètre de requête supplémentaire, donc vous envoyez l'id de modèle et votre texte d'entrée et lisez les vecteurs renvoyés. Il n'y a pas de surface de complétion de chat ici, et aucun appel d'outil ni sortie structurée à configurer.
Gardez le périmètre à l'esprit lorsque vous le choisissez. C'est un modèle d'embedding, donc il ne répondra pas aux questions, n'écrira pas de code et ne tiendra pas une conversation ; associez-le à un modèle génératif si vous avez besoin de ces comportements. Si votre tâche est une recherche sémantique polyvalente sur de la prose plutôt que du code, un modèle d'embedding de texte peut mieux convenir, et si vous avez besoin de génération, il vous faut un modèle entièrement différent. Pour la recherche de code et le contexte des agents de codage, voyage-code-4 est conçu exactement pour cela.