OpenAI: Text Embedding 3 Small (batch)

OpenAI : Text Embedding 3 Small (batch) est un modèle d'embedding d'OpenAI, proposé via api14. Il appartient à la catégorie des embeddings, et son identifiant de modèle sur api14 est openai/text-embedding-3-small:batch. OpenAI décrit text-embedding-3-small comme une version améliorée et plus performante du modèle d'embedding ada. Les embeddings sont une représentation numérique du texte qui peut être utilisée pour mesurer la proximité entre deux éléments de texte.

Le modèle prend du texte comme seule entrée et renvoie des embeddings comme seule sortie. Il a une longueur de contexte de 8192 tokens, et la sortie maximale est de 7372. Aucun paramètre pris en charge n'est listé pour ce modèle, vous ne pouvez donc pas ajuster les réglages d'échantillonnage ou de génération via la requête. Le suffixe batch dans l'identifiant du modèle indique la variante batch de ce modèle d'embedding sur api14.

Comme il produit des embeddings plutôt que du texte généré, les usages pratiques découlent de la mesure de similarité entre textes. Le travail typique comprend la recherche sémantique, où vous calculez l'embedding d'une requête et d'un ensemble de documents et classez les documents par proximité ; la récupération pour un pipeline de génération augmentée par récupération, où les embeddings sélectionnent les passages pertinents à transmettre à un modèle de chat ; le clustering ou le regroupement thématique de grandes collections de textes ; la déduplication, où des éléments quasi identiques sont trouvés en comparant les vecteurs ; et la classification ou le routage, où un modèle léger consomme les embeddings. Le contexte de 8192 tokens signifie que les entrées individuelles peuvent être assez longues, donc des pages entières ou de longs passages peuvent être transformés en embeddings sans les découper au préalable.

Pour l'appeler via api14, utilisez l'API compatible OpenAI avec l'identifiant de modèle openai/text-embedding-3-small:batch. Pointez votre client OpenAI existant vers l'URL de base d'api14 et envoyez votre texte au point de terminaison des embeddings, ou utilisez la route équivalente de style chat si votre client en attend une. Comme le modèle ne liste aucun paramètre pris en charge, gardez les requêtes simples : envoyez l'identifiant du modèle et le texte d'entrée, et lisez le vecteur d'embedding dans la réponse. Il n'est pas nécessaire de définir temperature, top_p ou des options similaires, puisque ce modèle ne les accepte pas.

Une chose à garder à l'esprit est que ce modèle ne traite que du texte en entrée et ne renvoie que des embeddings. Il ne génère pas de complétions de chat ni aucune autre sortie textuelle, donc si votre tâche est la conversation, le résumé ou la génération de code, un modèle de chat ou de complétion est plus adapté. Si vous devez transformer en embeddings de très grands volumes de texte, la variante batch est le choix pertinent ici, tandis que d'autres modèles d'embedding peuvent convenir à des besoins différents en matière de précision ou de langue.