Wir verwenden Cookies. Cookies und Browserspeicher halten Sie angemeldet und merken sich Ihre Einstellungen. Mit Ihrer Zustimmung messen wir außerdem, wie die Website genutzt wird. Sie können jederzeit . Siehe unsere Cookie-Richtlinie.
amazon/titan-embed-text-v2Läuft über Ihr Guthaben zu den oben genannten Preisen. Neue Konten starten mit kostenloser Nutzung.
Einstellungen
Amazon Titan Text Embeddings V2 ist ein Text-Embedding-Modell von Amazon, das auf api14 unter der Modell-ID amazon/titan-embed-text-v2 gelistet ist. Es gehört zur Kategorie Embeddings, seine Aufgabe ist es also, Text in Vektoren umzuwandeln, statt Prosa zu generieren oder ein Gespräch zu führen. Wenn Ihre Anwendung eine numerische Darstellung von Text benötigt, die semantische Bedeutung erfasst, ist dies die Art von Modell, zu der Sie greifen.
Das Modell nimmt Text als einzige Eingabe und gibt Embeddings als Ausgabe zurück. Es akzeptiert bis zu 8.192 Token pro Eingabe, was genug Platz für einen langen Dokumentabschnitt, einen vollständigen Artikel oder einen größeren Teil eines Wissensdatenbank-Eintrags bietet, ohne ihn vorher aufteilen zu müssen. Die zurückgegebenen Vektoren sind normalisiert und haben 1.024 Dimensionen, sodass Sie sie direkt mit Kosinus-Ähnlichkeit oder Skalarprodukt vergleichen können, ohne zusätzliche Normalisierungsschritte. Die maximale Ausgabe beträgt 7.372.
Diese Eigenschaften deuten auf einige praktische Anwendungen hin. Retrieval Augmented Generation ist die offensichtliche: Betten Sie Ihre Dokumente einmal ein, betten Sie die Benutzeranfrage zur Anfragezeit ein und rufen Sie die nächstgelegenen Abschnitte ab, um sie in ein Generierungsmodell einzuspeisen. Semantische Suche über Produktkataloge, Support-Tickets oder interne Dokumentation funktioniert genauso, und sie erfasst Paraphrasen, die eine Stichwortsuche verpassen würde. Clustering und Themenentdeckung profitieren von den festen 1.024-dimensionalen Vektoren, da Sie k-means oder ähnliche Algorithmen direkt darauf ausführen können. Deduplizierung und Erkennung nahezu identischer Inhalte passen ebenfalls natürlich dazu, ebenso wie der Aufbau einer Empfehlungsschicht, die Elemente nach Bedeutung statt nach Tags abgleicht.
Sie rufen es über die OpenAI-kompatible API von api14 mit der Modell-ID amazon/titan-embed-text-v2 auf, sodass jeder Client, der bereits das OpenAI-Embeddings-Format spricht, mit minimalen Änderungen funktioniert. Richten Sie Ihre Basis-URL auf api14, übergeben Sie Ihren api14-Schlüssel und senden Sie Ihren Text mit dieser Modell-ID an den Embeddings-Endpunkt. Das Modell unterstützt keine zusätzlichen Anforderungsparameter über das hinaus, was der Endpunkt erfordert, halten Sie Ihre Anfrage also einfach und vermeiden Sie die Übergabe von Tuning-Optionen, die nicht berücksichtigt werden. Da es sich um ein Embedding-Modell handelt, akzeptiert es keine Nachrichten im Chat-Stil und gibt keinen generierten Text zurück.
Eines sollten Sie beachten: Dieses Modell verarbeitet nur Text. Wenn Ihre Eingabe Bilder, Audio oder andere Modalitäten enthält, benötigen Sie ein anderes Modell. Ebenso gilt: Wenn Sie einen Assistenten benötigen, der Antworten schreibt, statt Text numerisch darzustellen, ist ein Embedding-Modell das falsche Werkzeug, und Sie würden dieses stattdessen mit einem Generierungsmodell kombinieren. In seinem Anwendungsbereich deckt es jedoch Retrieval-, Such- und Clustering-Aufgaben mit einem Kontextfenster ab, das für die meisten Dokumentabschnitte groß genug ist.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.embeddings.create({
"model": "amazon/titan-embed-text-v2",
"input": [
"The quick brown fox",
"Lorem ipsum"
]
});
console.log(result.data.map((d) => d.embedding.length));
In dieser Community gibt es noch keine Themen. Eröffnen Sie das erste zu Amazon: Titan Text Embeddings V2.