Cohere : Embed 5 Fast est un modèle d'embedding multimodal de Cohere, positionné comme le niveau à faible latence et économique de la famille Embed 5 de l'entreprise. Il est conçu pour les développeurs qui doivent transformer du contenu en représentations vectorielles à grande échelle, où le débit et la réactivité comptent autant que la qualité de l'embedding. Le modèle appartient à la catégorie des embeddings plutôt qu'à celle du chat, il ne génère donc pas de texte conversationnel ; son rôle est de produire des vecteurs que les systèmes en aval peuvent rechercher, comparer ou classer.
Le modèle accepte en entrée du texte, des images, et du contenu texte et image entrelacé, et renvoie des embeddings comme seule sortie. Cette prise en charge d'entrées multimodales signifie qu'un seul modèle peut encoder un paragraphe, une photo de produit, ou une page de document qui mélange les deux, ce qui simplifie les pipelines de retrieval par rapport à la maintenance d'encodeurs texte et image séparés. Il offre une longueur de contexte de 128 000 tokens, avec une sortie maximale de 115 200, ce qui lui donne la marge nécessaire pour traiter de longs documents et de gros volumes de données image et texte sans découpage agressif. Avec environ 1B de paramètres, c'est un modèle compact par conception, ce qui est cohérent avec son positionnement rapide et économique.
Ces capacités renvoient à un ensemble de cas d'usage assez spécifique. La recherche sémantique sur des médias mixtes est l'application la plus directe : indexer du texte et des images dans un même espace vectoriel afin qu'une requête puisse retrouver l'un ou l'autre. Les pipelines de génération augmentée par retrieval peuvent l'utiliser pour encoder des bases de connaissances qui contiennent des figures, des captures d'écran ou des pages scannées aux côtés de texte courant. Les systèmes de recommandation et de similarité bénéficient de cet espace partagé, puisque les éléments peuvent être comparés indépendamment du fait que leur contenu soit textuel ou visuel. La classification, le clustering, la déduplication et la détection d'anomalies sur de grands corpus sont également des applications naturelles, en particulier lorsque le volume de données fait de la latence et du coût par embedding une préoccupation pratique.
Vous appelez le modèle via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle "cohere/embed-5-fast". Comme le endpoint suit la convention des embeddings d'OpenAI, les clients et SDK existants qui ciblent déjà cette interface peuvent pointer vers api14 avec un minimum de changements, généralement juste en remplaçant l'URL de base et l'identifiant de modèle. Le modèle ne déclare aucun paramètre de requête pris en charge au-delà de la forme standard d'une requête d'embedding, vous ne devez donc pas vous attendre à disposer de réglages tels que des dimensions personnalisées ou des options spécifiques au fournisseur ; envoyez votre entrée et lisez les vecteurs renvoyés.
Étant donné qu'il s'agit du niveau rapide de la famille Embed 5, c'est le choix par défaut pertinent lorsque vous faites de l'embedding à grande échelle et que la latence ou le débit est la contrainte. Si votre charge de travail est purement textuelle et ne nécessite pas de traitement d'images, un modèle d'embedding texte uniquement peut être plus adapté. Si vous avez besoin d'un modèle qui génère du texte plutôt que des vecteurs, ce n'est pas le bon choix, puisque sa modalité de sortie est uniquement l'embedding.