BAAI: bge-base-en-v1.5

BAAI: bge-base-en-v1.5 est un modèle d'embedding de BAAI, la Beijing Academy of Artificial Intelligence. Il appartient à la catégorie des embeddings, ce qui signifie qu'il n'est pas conçu pour générer des réponses de chat ou compléter du texte. Il transforme plutôt le texte en vecteurs numériques. C'est un modèle en langue anglaise, et le v1.5 dans son nom indique qu'il s'agit de la version 1.5 de la famille bge-base-en. Si votre application a besoin d'un assistant de chat général, ce n'est pas ce type de modèle. Si votre application a besoin de comparer, rechercher ou faire correspondre du texte par le sens, c'est le type de modèle à évaluer.

Le modèle accepte du texte en entrée et produit des embeddings en sortie. Concrètement, il convertit des phrases et des paragraphes en anglais en vecteurs denses de 768 dimensions, censés porter une signification sémantique. La longueur de contexte est de 512 tokens, et la sortie maximale est de 460. En pratique, 512 tokens signifie que vous devez envoyer des phrases ou des paragraphes uniques plutôt que de longs documents, car un contenu plus long devra être découpé avant l'embedding. Le fournisseur décrit le modèle comme produisant des embeddings sémantiques efficaces et de haute qualité, optimisés pour la récupération, la recherche sémantique et les workflows de correspondance de documents. Les vecteurs sont denses, donc suffisamment compacts pour être stockés et comparés à grande échelle.

Ces caractéristiques indiquent un ensemble assez spécifique de cas d'usage. La recherche sémantique est le plus évident : intégrez une requête et vos documents, puis classez les documents par similarité vectorielle plutôt que par recouvrement de mots-clés. Les pipelines de récupération peuvent utiliser le même comportement pour récupérer des passages pertinents pour une question. La correspondance de documents convient également, par exemple pour trouver des enregistrements quasi dupliqués, regrouper des tickets de support similaires ou lier des éléments connexes entre deux collections. Comme le modèle est uniquement en anglais et limité à 512 tokens, il convient aux tâches au niveau de la phrase et du paragraphe. La déduplication, le clustering et le calcul de similarité sur du texte anglais court sont tous des usages naturels, à condition de découper d'abord les entrées plus longues.

Vous appelez le modèle via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle "baai/bge-base-en-v1.5". Comme l'API suit le format OpenAI, vous pouvez pointer un client OpenAI existant vers api14, envoyer votre texte au point de terminaison embeddings et recevoir les vecteurs dans la réponse. Les paramètres pris en charge listés pour ce modèle sont vides, donc il ne prend aucune option de réglage supplémentaire au-delà de ce que votre requête inclut déjà ; il n'y a rien comme temperature ou top_p à définir, car ceux-ci appartiennent à la génération de texte plutôt qu'à l'embedding. Consultez le tableau des prix en direct sur cette page pour les tarifs actuels.

Les principales contraintes à garder en tête sont la longueur de contexte de 512 tokens, la sortie maximale de 460, l'entrée uniquement en anglais, et le fait que la sortie est constituée de vecteurs plutôt que de prose. Si vous devez intégrer de longs documents en une seule passe, gérer plusieurs langues ou générer du texte, un autre modèle sur api14 conviendra mieux. Dans son périmètre prévu, la récupération, la recherche sémantique et la correspondance de documents sur des phrases et paragraphes en anglais, ce modèle est une option directe.