Sentence Transformers: all-MiniLM-L6-v2

Sentence Transformers : all-MiniLM-L6-v2 est un modèle d'embedding de Sentence Transformers, répertorié sur api14 dans la catégorie embeddings. C'est un modèle compact d'embedding de phrases plutôt qu'un modèle de chat ou de génération de texte, donc son rôle est de transformer le texte en vecteurs qui capturent le sens. Si vous construisez de la recherche sémantique, de la déduplication ou du clustering, c'est le type de modèle vers lequel vous vous tournez plutôt qu'un modèle génératif.

Le modèle prend du texte en entrée et renvoie des embeddings en sortie. Il projette des phrases et de courts paragraphes dans un espace vectoriel dense de 384 dimensions, ce qui le rend utile pour la représentation sémantique. La fenêtre de contexte est de 512 tokens, et la sortie maximale est de 460, il est donc conçu pour des phrases et de courts passages plutôt que pour de longs documents. Il n'y a aucun support pour l'échantillonnage ou les paramètres de style de génération, car le modèle ne génère pas de texte.

Ces capacités indiquent un ensemble assez spécifique de cas d'usage. La recherche d'information et la recherche sémantique sont les plus évidents : intégrez vos documents et votre requête, puis comparez les vecteurs par similarité. Le clustering et le regroupement thématique fonctionnent bien car des vecteurs proches ont tendance à signifier des choses similaires. La même propriété aide pour la déduplication, la détection de quasi-doublons et la construction de pipelines de recommandation ou de reranking où vous avez besoin d'une étape d'embedding rapide et légère. Comme les vecteurs ne font que 384 dimensions, le stockage et la comparaison restent peu coûteux à grande échelle.

Vous l'appelez via l'API compatible OpenAI d'api14 en utilisant l'id de modèle "sentence-transformers/all-minilm-l6-v2". Comme le point de terminaison suit la forme des embeddings OpenAI, vous envoyez votre texte dans le champ input et lisez le vecteur dans la réponse. Le modèle ne liste aucun paramètre pris en charge, donc il n'y a rien de plus à régler dans le corps de la requête en dehors de l'id de modèle et de l'entrée elle-même. Traitez le contexte de 512 tokens comme une limite stricte lors de la préparation de votre entrée.

Cette limite de contexte est la principale contrainte pratique. Si votre unité de sens est plus longue qu'un court paragraphe, vous devrez la découper en morceaux avant l'embedding, et la qualité de votre découpage importera plus que tout le reste dans le pipeline. Si vous avez besoin d'un modèle qui génère du texte, répond à des questions ou suit des instructions, un modèle d'embeddings n'est pas le bon outil et vous devriez plutôt vous tourner vers un modèle de chat ou de complétion. Pour la similarité sémantique sur des phrases et de courts passages, celui-ci convient directement à la tâche.