Nous utilisons des cookies. Les cookies et le stockage du navigateur vous gardent connecté et mémorisent vos préférences. Avec votre accord, nous mesurons aussi l’utilisation du site. Vous pouvez à tout moment. Consultez notre politique relative aux cookies.
amazon/titan-embed-text-v1Utilise votre solde aux prix indiqués ci-dessus. Les nouveaux comptes démarrent avec une consommation gratuite.
Paramètres
Amazon Titan Embeddings G1 - Text est un modèle d'embedding de texte d'Amazon, appartenant à la famille de modèles de fondation Titan. Il s'agit d'un modèle d'embedding de texte Titan de première génération, et sa catégorie principale est celle des embeddings. Plutôt que de générer de la prose, il convertit le texte en vecteurs numériques qui représentent le sens, ce qui en fait une brique de base pour les systèmes de recherche, de récupération et de similarité.
Le modèle accepte uniquement du texte en entrée et renvoie des embeddings en sortie. Chaque entrée peut contenir jusqu'à 8 192 tokens, ce qui permet d'encoder des documents assez volumineux ou de longs passages en une seule requête. Il renvoie des vecteurs fixes de 1 536 dimensions, de sorte que la forme de la sortie est prévisible et cohérente d'un appel à l'autre, ce qui simplifie le stockage dans une base de données vectorielle et la comparaison entre vecteurs. La sortie maximale est de 7 372.
Comme le modèle produit des embeddings plutôt que du texte, les cas d'usage découlent de la similarité et de la récupération. Vous pouvez encoder un corpus de documents et encoder les requêtes des utilisateurs au moment de la requête, puis classer les documents par similarité vectorielle pour construire une recherche sémantique sur des bases de connaissances internes, de la documentation ou des catalogues de produits. La même approche prend en charge la génération augmentée par récupération, où les passages pertinents sont récupérés et transmis à un modèle de génération de texte distinct. Les embeddings conviennent également au clustering et au regroupement thématique de grandes collections de textes, à la déduplication de contenus quasi identiques, à la classification en comparant un vecteur de document à des exemples étiquetés, et aux fonctionnalités de recommandation ou d'appariement qui reposent sur la proximité sémantique plutôt que sur le chevauchement de mots-clés. La limite d'entrée de 8 192 tokens signifie que de longs articles et rapports peuvent être encodés sans les découper en nombreux petits fragments, bien que le découpage puisse rester préférable lorsque vous avez besoin d'une récupération au niveau du passage.
Vous appelez le modèle via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle "amazon/titan-embed-text-v1". Comme l'interface suit la convention des embeddings d'OpenAI, les bibliothèques clientes et SDK OpenAI existants peuvent pointer vers l'URL de base d'api14 et envoyer des requêtes d'embedding avec cet identifiant de modèle, ce qui limite le travail d'intégration si vous disposez déjà d'un pipeline d'embeddings. Le modèle ne liste aucun paramètre de requête pris en charge au-delà des champs standard d'une requête d'embedding, donc prévoyez d'envoyer le texte d'entrée et l'identifiant de modèle, et de traiter directement les vecteurs de 1 536 dimensions renvoyés.
Demandez-vous si un modèle d'embedding est réellement adapté : ce modèle ne génère pas de texte, donc des tâches comme le résumé, les questions-réponses ou le chat nécessitent un modèle de génération de texte distinct, avec Titan Embeddings utilisé en parallèle pour la récupération. Si vous avez besoin d'une taille de vecteur différente ou d'une génération plus récente des embeddings Titan, vérifiez ce qu'api14 expose d'autre sous le fournisseur Amazon avant de vous engager sur cet identifiant de modèle.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.embeddings.create({
"model": "amazon/titan-embed-text-v1",
"input": [
"The quick brown fox",
"Lorem ipsum"
]
});
console.log(result.data.map((d) => d.embedding.length));
Cette communauté n’a encore aucun sujet. Ouvrez le premier sur Amazon: Titan Embeddings G1 - Text.