Cohere : Rerank 5 Pro est un modèle de reranking de Cohere, positionné comme le niveau de précision supérieure de la famille Rerank 5 de l'entreprise. Plutôt que de générer du texte, il note et réordonne des documents candidats par rapport à une requête, ce qui le place au stade de la récupération dans un pipeline de recherche ou de question-réponse. Il est conçu pour les développeurs qui disposent déjà d'un ensemble de passages candidats et qui ont besoin de les trier par pertinence avant qu'ils n'atteignent une étape en aval.
Le modèle fonctionne avec une entrée texte et produit une sortie de reranking. Il accepte jusqu'à 32 768 tokens de contexte, et sa sortie maximale est de 29 491. Comme sa sortie est un reranking et non de la prose, vous devez le considérer comme un composant de notation et d'ordonnancement plutôt que comme un modèle de chat ou de complétion. Il ne prend pas en entrée d'images ni d'audio, et il ne génère pas de réponses écrites par lui-même.
Les usages pratiques découlent directement de cette forme. Un schéma courant est une configuration de récupération en deux étapes : une recherche vectorielle ou par mots-clés rapide renvoie un large ensemble de candidats, et Rerank 5 Pro les réordonne afin que les documents les plus pertinents se trouvent en tête. Cela aide les pipelines de génération augmentée par récupération, où la qualité des passages transmis à un générateur importe plus que la taille du vivier de candidats. Il convient également à la recherche en entreprise, à la consultation de documentation et à tout flux de travail où vous devez classer un texte existant par rapport à une requête plutôt que de créer un nouveau texte. Comme le niveau de précision supérieure vise la précision, il convient aux cas où la qualité de l'ordonnancement est la priorité.
Vous appelez le modèle via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle "cohere/rerank-5-pro". La liste des paramètres pris en charge est vide, vous ne devez donc pas vous attendre à des options de requête ajustables au-delà de ce que le point de terminaison accepte par défaut. Envoyez votre requête et vos documents candidats dans la requête et récupérez les résultats rerankés. Si vous utilisez déjà un client compatible OpenAI, vous pouvez le pointer vers api14 et remplacer par cet identifiant de modèle sans changer votre approche d'intégration globale.
Un point à peser est la portée. Ce modèle ne fait que du reranking de texte, donc si votre tâche consiste à générer des réponses, à résumer ou à traiter des entrées non textuelles, un autre modèle conviendra mieux. C'est aussi une étape de reranking plutôt qu'un système de récupération autonome, vous avez donc toujours besoin de quelque chose en amont pour produire les documents candidats. Dans ces limites, c'est un outil ciblé pour améliorer l'ordre dans lequel le texte atteint le reste de votre pipeline.