Intfloat: E5-Large-v2

Intfloat : E5-Large-v2 est un modele d'embeddings d'Intfloat. Il appartient a la categorie des embeddings, ce qui signifie que son role est de transformer du texte en vecteurs plutot que de generer des reponses de chat. Le fournisseur le decrit comme projetant des phrases, des paragraphes et des documents anglais dans un espace vectoriel dense de 1024 dimensions, dans le but d'obtenir des embeddings semantiques de haute precision. Si votre application a besoin d'une representation du texte qui capture le sens plutot qu'une reponse redigee, c'est le type de modele vers lequel vous vous tourneriez.

Le modele accepte le texte comme unique modalite d'entree et produit des embeddings comme unique modalite de sortie. Sa longueur de contexte est de 512 tokens, donc chaque requete est limitee a une plage de texte assez courte, et la sortie maximale est de 460. Il n'y a pas d'entree image, audio ou autre non textuelle, et il n'y a pas de prose generee en sortie. Tout ce que le modele renvoie est un vecteur, que vous stockez ensuite, comparez ou injectez dans une autre etape de votre pipeline.

Ces caracteristiques pointent vers un ensemble d'usages specifiques. La recuperation est le plus evident : integrez vos documents une fois, integrez la requete au moment de la demande, et comparez les vecteurs pour trouver les passages les plus proches. La recherche semantique fonctionne de la meme maniere, en faisant correspondre le sens plutot que les mots cles exacts. Le fournisseur mentionne aussi le reranking et le calcul de similarite, donc vous pouvez utiliser les vecteurs pour reordonner les resultats candidats ou pour mesurer a quel point deux morceaux de texte sont proches. Comme les vecteurs sont denses et de 1024 dimensions, ils sont bien adaptes au stockage dans un index vectoriel et a la comparaison par cosinus ou par produit scalaire.

Vous appelez le modele via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modele "intfloat/e5-large-v2". Comme le point de terminaison suit le format OpenAI, vous pouvez pointer un client OpenAI existant vers api14 et envoyer votre texte de la maniere habituelle, puis lire l'embedding dans la reponse. Le modele ne prend en charge aucun parametre de requete supplementaire, donc il n'y a rien a configurer au-dela des champs de requete standard. Gardez chaque entree dans la longueur de contexte de 512 tokens, et attendez-vous a ce que la sortie soit l'embedding lui-meme.

La principale contrainte a anticiper est cette fenetre de 512 tokens. Les documents longs devront etre decoupes en morceaux avant l'embedding, et vous devrez decider comment combiner ou stocker ces vecteurs de morceaux. Le modele est aussi centre sur l'anglais selon la description du fournisseur, donc le texte dans d'autres langues peut ne pas s'integrer de maniere aussi fiable. Si votre tache est la generation de texte, la conversation, ou tout ce qui necessite une reponse redigee, un modele d'embeddings n'est pas le bon outil et un modele generatif conviendrait mieux.