Nous utilisons des cookies. Les cookies et le stockage du navigateur vous gardent connecté et mémorisent vos préférences. Avec votre accord, nous mesurons aussi l’utilisation du site. Vous pouvez à tout moment. Consultez notre politique relative aux cookies.
cohere/rerank-5-fastUtilise votre solde aux prix indiqués ci-dessus. Les nouveaux comptes démarrent avec une consommation gratuite.
Paramètres
Cohere : Rerank 5 Fast est un modèle de reranking de Cohere, positionné comme le niveau à faible latence de la famille Rerank 5 de l'entreprise. Plutôt que de générer du texte, il note et réordonne des documents candidats par rapport à une requête, ce qui le place à l'étape de récupération d'un pipeline de recherche ou de RAG plutôt qu'à l'étape de génération.
Le modèle fonctionne avec une entrée texte et produit une sortie de rerank, ce qui signifie que sa réponse est un ordonnancement des documents que vous fournissez plutôt que de la prose nouvelle. Il prend en charge une longueur de contexte de 32768 tokens, et sa sortie maximale est de 29491. Comme il est conçu pour la notation et le réordonnancement, il n'accepte pas les paramètres d'échantillonnage ou de génération que vous attendriez d'un modèle de chat.
Les cas d'usage pratiques découlent directement de ce comportement. Si vous exécutez un récupérateur de premier étage tel qu'une recherche vectorielle ou une recherche par mots-clés, Rerank 5 Fast peut prendre les meilleurs candidats qu'il renvoie et les réordonner afin que les documents les plus pertinents se trouvent en tête. Cela améliore la qualité de ce que vous transmettez à un générateur de réponses en aval, et cela aide aussi lorsque vous présentez directement les résultats de recherche à un utilisateur. Le niveau à faible latence vise la récupération à haut débit, il convient donc aux pipelines qui émettent de nombreuses requêtes et ne peuvent pas se permettre une étape de reranking lente sur chacune d'elles.
Vous l'appelez via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle "cohere/rerank-5-fast". Comme le point de terminaison suit le format OpenAI, vous pouvez pointer des bibliothèques clientes OpenAI existantes vers api14 et passer cet identifiant comme modèle. Le modèle ne liste aucun paramètre pris en charge, les requêtes reposent donc sur l'identifiant de modèle ainsi que sur votre requête et vos documents candidats plutôt que sur des options de réglage.
Comme Rerank 5 Fast ne fait que réordonner les documents que vous fournissez, il ne convient pas lorsque vous avez besoin de génération de texte, de résumé ou de raisonnement sur un prompt. Ces tâches nécessitent un modèle génératif, avec un reranking appliqué au préalable si la qualité de la récupération importe.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/rerank", { body: {
"model": "cohere/rerank-5-fast",
"query": "What is the capital of France?",
"documents": [
"Paris is the capital of France.",
"Berlin is in Germany."
],
"top_n": 1
} });
console.log(result.results);
Cette communauté n’a encore aucun sujet. Ouvrez le premier sur Cohere: Rerank 5 Fast.