Używamy plików cookie. Pliki cookie i pamięć przeglądarki pozwalają utrzymać logowanie i zapamiętać Twoje preferencje. Za Twoją zgodą mierzymy też, jak korzystasz ze strony. W każdej chwili możesz . Zobacz naszą politykę cookie.
amazon/titan-embed-text-v1Korzysta z Twojego salda według powyższych cen. Nowe konta zaczynają z darmowym użyciem.
Ustawienia
Amazon Titan Embeddings G1 - Text to model embeddingu tekstu od Amazon, czesc rodziny modeli podstawowych Titan. To pierwsza generacja modelu embeddingu tekstu Titan, a jego glowna kategoria to embeddingi. Zamiast generowac proze, przeksztalca tekst w wektory liczbowe reprezentujace znaczenie, co czyni go elementem skladowym systemow wyszukiwania, wyszukiwania informacji i podobienstwa.
Model przyjmuje wylacznie dane wejsciowe tekstowe i zwraca embeddingi jako dane wyjsciowe. Kazde dane wejsciowe moga miec do 8192 tokenow dlugosci, co pozwala na osadzenie dosc duzych dokumentow lub dlugich fragmentow w pojedynczym zadaniu. Zwraca stale wektory o 1536 wymiarach, wiec ksztalt danych wyjsciowych jest przewidywalny i spojny miedzy wywolaniami, co upraszcza przechowywanie w bazie danych wektorow i porownywanie wektorow. Maksymalne dane wyjsciowe to 7372.
Poniewaz model tworzy embeddingi, a nie tekst, przypadki uzycia wynikaja z podobienstwa i wyszukiwania informacji. Mozesz osadzic korpus dokumentow i osadzic zapytania uzytkownika w momencie zadania, a nastepnie uszeregowac dokumenty wedlug podobienstwa wektorowego, aby zbudowac wyszukiwanie semantyczne w wewnetrznych bazach wiedzy, dokumentacji lub katalogach produktow. To samo podejscie obsluguje generowanie wspomagane wyszukiwaniem, gdzie istotne fragmenty sa pobierane i przekazywane do oddzielnego modelu generowania tekstu. Embeddingi pasuja rowniez do grupowania i klastrowania tematycznego duzych zbiorow tekstu, deduplikacji niemal identycznych tresci, klasyfikacji poprzez porownanie wektora dokumentu z oznaczonymi przykladami oraz funkcji rekomendacji lub dopasowania, ktore opieraja sie na bliskosci semantycznej, a nie na nakladaniu sie slow kluczowych. Limit danych wejsciowych wynoszacy 8192 tokeny oznacza, ze dlugie artykuly i raporty mozna osadzac bez dzielenia ich na wiele malych fragmentow, choc dzielenie na fragmenty moze byc nadal preferowane, gdy potrzebne jest wyszukiwanie na poziomie fragmentow.
Model wywolujesz przez API zgodne z OpenAI w api14, uzywajac identyfikatora modelu "amazon/titan-embed-text-v1". Poniewaz interfejs jest zgodny z konwencja embeddingow OpenAI, istniejace biblioteki klienckie i zestawy SDK OpenAI moga wskazywac na bazowy URL api14 i wysylac zadania embeddingu z tym identyfikatorem modelu, co ogranicza prace integracyjne, jesli masz juz potok embeddingow. Model nie wymienia zadnych obslugiwanych parametrow zadania poza standardowymi polami zadania embeddingu, wiec planuj wysylanie tekstu wejsciowego i identyfikatora modelu oraz obsluge zwracanych wektorow o 1536 wymiarach bezposrednio.
Rozwaz, czy model embeddingu jest w ogole odpowiednim wyborem: ten model nie generuje tekstu, wiec zadania takie jak streszczanie, odpowiadanie na pytania lub czat wymagaja oddzielnego modelu generowania tekstu, a Titan Embeddings jest uzywany obok niego do wyszukiwania informacji. Jesli potrzebujesz innego rozmiaru wektora lub nowszej generacji embeddingow Titan, sprawdz, co jeszcze api14 udostepnia w ramach dostawcy Amazon, zanim zdecydujesz sie na ten identyfikator modelu.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.embeddings.create({
"model": "amazon/titan-embed-text-v1",
"input": [
"The quick brown fox",
"Lorem ipsum"
]
});
console.log(result.data.map((d) => d.embedding.length));
Ta społeczność nie ma jeszcze wątków. Załóż pierwszy wątek o Amazon: Titan Embeddings G1 - Text.