Nous utilisons des cookies. Les cookies et le stockage du navigateur vous gardent connecté et mémorisent vos préférences. Avec votre accord, nous mesurons aussi l’utilisation du site. Vous pouvez à tout moment. Consultez notre politique relative aux cookies.
mongodb/rerank-3Utilise votre solde aux prix indiqués ci-dessus. Les nouveaux comptes démarrent avec une consommation gratuite.
Paramètres
VoyageAI by MongoDB : rerank-3 est un modèle de reranking de VoyageAI by MongoDB. Il se situe dans la catégorie rerank et est positionné comme une mise à niveau directe de rerank-2.5, ce qui signifie que les équipes utilisant déjà le modèle précédent peuvent passer à rerank-3 sans retravailler leur intégration. Le modèle est conçu pour la qualité de la récupération plutôt que pour la génération, il appartient donc à la partie d'un pipeline qui décide de l'ordre des résultats de recherche ou des passages candidats avant qu'ils n'atteignent un utilisateur ou un modèle en aval.
Le modèle prend du texte en entrée et produit une sortie de reranking. Il prend en charge une longueur de contexte de 32 000 tokens, avec une sortie maximale de 28 800, ce qui laisse suffisamment de place pour évaluer de longs passages candidats aux côtés d'une requête plutôt que de simples extraits courts. Comme la modalité d'entrée est le texte et que la modalité de sortie est le rerank, le modèle ne génère pas de prose ni de réponses de chat ; il renvoie un ordre des passages qui lui sont fournis. Cela en fait un composant de notation et de tri plutôt qu'un composant conversationnel.
Les cas d'usage pratiques découlent directement de cette forme. Un pipeline de récupération peut récupérer un large ensemble de candidats avec une recherche rapide de premier étage, puis transmettre la requête et ces candidats à rerank-3 pour produire un meilleur ordre final. Cela est utile pour la recherche dans la documentation, les bases de connaissances internes, le contenu de support, ou tout corpus où les meilleurs résultats comptent plus que le rappel brut. Cela convient également aux configurations de génération augmentée par récupération, où la qualité des passages placés dans un prompt affecte la réponse qui suit. Le contexte long et l'allocation de sortie longue le rendent adapté aux collections qui incluent des documents volumineux, puisque le modèle peut prendre en compte davantage de chaque candidat lors de l'attribution de sa position.
Vous appelez le modèle via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle "mongodb/rerank-3". Comme l'interface suit le format OpenAI, vous pouvez pointer un client OpenAI existant vers api14 et sélectionner cet identifiant de modèle dans votre requête. Le modèle ne liste aucun paramètre pris en charge au-delà de l'identifiant de modèle lui-même, vous ne devez donc pas vous attendre à ajuster des paramètres d'échantillonnage ou de génération tels que temperature ou top_p ; ceux-ci appartiennent aux modèles génératifs, pas à un reranker. Envoyez la requête et les textes candidats, et lisez la sortie de reranking.
Il convient de noter que rerank-3 est un reranker, ce n'est donc pas le bon choix lorsque vous avez besoin de génération de texte, de chat, de résumé ou d'embeddings. Si votre tâche consiste à produire une réponse plutôt qu'à ordonner des candidats, un modèle génératif convient mieux. Si votre tâche consiste à créer les représentations vectorielles initiales qu'un reranker réordonne ensuite, un modèle d'embedding est le composant approprié. Dans le cadre du travail de reranking, rerank-3 est le successeur direct de rerank-2.5, et le fournisseur rapporte des améliorations par rapport à ce modèle de 0,80 % NDCG@10 en moyenne sur les évaluations de domaine et de 3,35 % sur les évaluations de documents longs.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/rerank", { body: {
"model": "mongodb/rerank-3",
"query": "What is the capital of France?",
"documents": [
"Paris is the capital of France.",
"Berlin is in Germany."
],
"top_n": 1
} });
console.log(result.results);
Cette communauté n’a encore aucun sujet. Ouvrez le premier sur VoyageAI by MongoDB: rerank-3.