Wir verwenden Cookies. Cookies und Browserspeicher halten Sie angemeldet und merken sich Ihre Einstellungen. Mit Ihrer Zustimmung messen wir außerdem, wie die Website genutzt wird. Sie können jederzeit . Siehe unsere Cookie-Richtlinie.
amazon/titan-embed-text-v1Läuft über Ihr Guthaben zu den oben genannten Preisen. Neue Konten starten mit kostenloser Nutzung.
Einstellungen
Amazon Titan Embeddings G1 - Text ist ein Text-Embedding-Modell von Amazon und Teil der Titan-Familie von Foundation-Modellen. Es ist ein Titan-Text-Embedding-Modell der ersten Generation, und seine Hauptkategorie sind Embeddings. Statt Prosa zu erzeugen, wandelt es Text in numerische Vektoren um, die Bedeutung repräsentieren, was es zu einem Baustein für Such-, Retrieval- und Ähnlichkeitssysteme macht.
Das Modell akzeptiert nur Texteingabe und gibt Embeddings als Ausgabe zurück. Jede Eingabe kann bis zu 8.192 Token lang sein, was es ermöglicht, recht große Dokumente oder lange Passagen in einer einzigen Anfrage einzubetten. Es gibt feste Vektoren mit 1.536 Dimensionen zurück, sodass die Form der Ausgabe vorhersehbar und über Aufrufe hinweg konsistent ist, was die Speicherung in einer Vektordatenbank und den Vergleich zwischen Vektoren vereinfacht. Die maximale Ausgabe beträgt 7.372.
Da das Modell Embeddings statt Text erzeugt, ergeben sich die Anwendungsfälle aus Ähnlichkeit und Retrieval. Sie können einen Korpus von Dokumenten einbetten und Benutzeranfragen zur Anfragezeit einbetten, dann Dokumente nach Vektorähnlichkeit ranken, um semantische Suche über interne Wissensdatenbanken, Dokumentationen oder Produktkataloge aufzubauen. Derselbe Ansatz unterstützt Retrieval Augmented Generation, bei der relevante Passagen abgerufen und an ein separates Textgenerierungsmodell übergeben werden. Embeddings eignen sich auch für Clustering und Themengruppierung großer Textsammlungen, Deduplizierung nahezu identischer Inhalte, Klassifizierung durch Vergleich eines Dokumentvektors mit gelabelten Beispielen sowie Empfehlungs- oder Matching-Funktionen, die auf semantischer Nähe statt auf Keyword-Überschneidung beruhen. Das Eingabelimit von 8.192 Token bedeutet, dass lange Artikel und Berichte eingebettet werden können, ohne sie in viele kleine Chunks aufzuteilen, obwohl Chunking weiterhin vorzuziehen sein kann, wenn Sie Retrieval auf Passagenebene benötigen.
Sie rufen das Modell über die OpenAI-kompatible API von api14 mit der Modell-ID "amazon/titan-embed-text-v1" auf. Da die Schnittstelle der OpenAI-Embeddings-Konvention folgt, können vorhandene OpenAI-Clientbibliotheken und SDKs auf die Basis-URL von api14 zeigen und Embedding-Anfragen mit dieser Modell-ID senden, was den Integrationsaufwand gering hält, wenn Sie bereits eine Embeddings-Pipeline haben. Das Modell listet keine unterstützten Anfrageparameter über die standardmäßigen Embedding-Anfragefelder hinaus auf, planen Sie also damit, Eingabetext und die Modell-ID zu senden, und verarbeiten Sie die zurückgegebenen Vektoren mit 1.536 Dimensionen direkt.
Überlegen Sie, ob ein Embedding-Modell überhaupt die richtige Wahl ist: Dieses Modell erzeugt keinen Text, daher benötigen Aufgaben wie Zusammenfassung, Fragebeantwortung oder Chat ein separates Textgenerierungsmodell, wobei Titan Embeddings daneben für Retrieval verwendet wird. Wenn Sie eine andere Vektorgröße oder eine neuere Generation von Titan-Embeddings benötigen, prüfen Sie, was api14 sonst noch unter dem Amazon-Anbieter bereitstellt, bevor Sie sich auf diese Modell-ID festlegen.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.embeddings.create({
"model": "amazon/titan-embed-text-v1",
"input": [
"The quick brown fox",
"Lorem ipsum"
]
});
console.log(result.data.map((d) => d.embedding.length));
In dieser Community gibt es noch keine Themen. Eröffnen Sie das erste zu Amazon: Titan Embeddings G1 - Text.