Używamy plików cookie. Pliki cookie i pamięć przeglądarki pozwalają utrzymać logowanie i zapamiętać Twoje preferencje. Za Twoją zgodą mierzymy też, jak korzystasz ze strony. W każdej chwili możesz . Zobacz naszą politykę cookie.
amazon/titan-embed-text-v2Korzysta z Twojego salda według powyższych cen. Nowe konta zaczynają z darmowym użyciem.
Ustawienia
Amazon Titan Text Embeddings V2 to model osadzania tekstu od Amazon, wymieniony na api14 pod identyfikatorem modelu amazon/titan-embed-text-v2. Należy do kategorii embeddings, więc jego zadaniem jest zamiana tekstu na wektory, a nie generowanie prozy czy prowadzenie rozmowy. Jeśli Twoja aplikacja potrzebuje numerycznej reprezentacji tekstu, która oddaje znaczenie semantyczne, to jest właśnie ten rodzaj modelu, po który sięgasz.
Model przyjmuje tekst jako jedyne wejście i zwraca osadzenia jako wyjście. Akceptuje do 8 192 tokenów na wejście, co daje wystarczająco dużo miejsca na długą sekcję dokumentu, pełny artykuł lub spory fragment wpisu z bazy wiedzy bez wcześniejszego dzielenia go. Zwracane wektory są znormalizowane i mają 1 024 wymiary, więc możesz porównywać je bezpośrednio za pomocą podobieństwa kosinusowego lub iloczynu skalarnego bez dodatkowych kroków normalizacji. Maksymalne wyjście to 7 372.
Te cechy wskazują na kilka praktycznych zastosowań. Generowanie wspomagane wyszukiwaniem jest tym oczywistym: osadź swoje dokumenty raz, osadź zapytanie użytkownika w momencie żądania i pobierz najbliższe fragmenty, aby przekazać je do modelu generującego. Wyszukiwanie semantyczne w katalogach produktów, zgłoszeniach do wsparcia lub dokumentacji wewnętrznej działa tak samo i radzi sobie z parafrazami, które wyszukiwanie po słowach kluczowych by pominęło. Klastrowanie i odkrywanie tematów korzystają z wektorów o stałym wymiarze 1 024, ponieważ można uruchamiać na nich bezpośrednio algorytmy takie jak k-means. Deduplikacja i wykrywanie niemal identycznych elementów również pasują naturalnie, podobnie jak budowa warstwy rekomendacji, która dopasowuje elementy według znaczenia, a nie według tagów.
Wywołujesz go przez API zgodne z OpenAI w api14, używając identyfikatora modelu amazon/titan-embed-text-v2, więc każdy klient, który już obsługuje format osadzeń OpenAI, będzie działał przy minimalnych zmianach. Ustaw swój bazowy URL na api14, przekaż swój klucz api14 i wyślij tekst do punktu końcowego embeddings z tym identyfikatorem modelu. Model nie obsługuje żadnych dodatkowych parametrów żądania poza tym, czego wymaga punkt końcowy, więc utrzymuj żądanie proste i unikaj przekazywania opcji dostrajania, które nie zostaną uwzględnione. Ponieważ jest to model osadzania, nie przyjmuje wiadomości w stylu czatu ani nie zwraca wygenerowanego tekstu.
Jedna rzecz do zapamiętania: ten model obsługuje wyłącznie tekst. Jeśli Twoje wejście zawiera obrazy, dźwięk lub inne modalności, będziesz potrzebować innego modelu. Podobnie, jeśli potrzebujesz asystenta, który pisze odpowiedzi, a nie reprezentuje tekst numerycznie, model osadzania jest niewłaściwym narzędziem i zamiast tego połączyłbyś go z modelem generującym. W swoim zakresie obejmuje jednak zadania wyszukiwania, przeszukiwania i klastrowania z oknem kontekstu wystarczająco dużym dla większości fragmentów dokumentów.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.embeddings.create({
"model": "amazon/titan-embed-text-v2",
"input": [
"The quick brown fox",
"Lorem ipsum"
]
});
console.log(result.data.map((d) => d.embedding.length));
Ta społeczność nie ma jeszcze wątków. Załóż pierwszy wątek o Amazon: Titan Text Embeddings V2.