Używamy plików cookie. Pliki cookie i pamięć przeglądarki pozwalają utrzymać logowanie i zapamiętać Twoje preferencje. Za Twoją zgodą mierzymy też, jak korzystasz ze strony. W każdej chwili możesz . Zobacz naszą politykę cookie.
cohere/embed-5-fastKorzysta z Twojego salda według powyższych cen. Nowe konta zaczynają z darmowym użyciem.
Ustawienia
Cohere: Embed 5 Fast to multimodalny model embeddingowy od Cohere, pozycjonowany jako warstwa o niższym opóźnieniu i niższym koszcie w rodzinie Embed 5 tej firmy. Jest stworzony dla deweloperów, którzy potrzebują przekształcać treści w reprezentacje wektorowe na dużą skalę, gdzie przepustowość i responsywność mają znaczenie tak samo jak jakość embeddingów. Model należy do kategorii embeddingów, a nie do kategorii czatu, więc nie generuje tekstu konwersacyjnego; jego zadaniem jest tworzenie wektorów, które systemy downstream mogą przeszukiwać, porównywać lub klasyfikować.
Model przyjmuje jako dane wejściowe tekst, obrazy oraz przeplatane treści tekstowe i obrazowe, a jako jedyne dane wyjściowe zwraca embeddingi. To wsparcie dla multimodalnych danych wejściowych oznacza, że pojedynczy model może tworzyć embeddingi akapitu, zdjęcia produktu lub strony dokumentu mieszającej oba typy, co upraszcza potoki wyszukiwania w porównaniu z utrzymywaniem oddzielnych enkoderów tekstu i obrazów. Oferuje długość kontekstu wynoszącą 128 000 tokenów, z maksymalnym wyjściem 115 200, co daje mu przestrzeń do obsługi długich dokumentów i dużych ładunków obrazowo-tekstowych bez agresywnego dzielenia na fragmenty. Przy około 1 mld parametrów jest z założenia modelem kompaktowym, co jest spójne z jego szybkim, efektywnym kosztowo pozycjonowaniem.
Te możliwości wskazują na dość konkretny zestaw przypadków użycia. Wyszukiwanie semantyczne w mediach mieszanych jest najbardziej bezpośrednim zastosowaniem: indeksowanie tekstu i obrazów w jednej przestrzeni wektorowej, aby zapytanie mogło wyszukać jedno lub drugie. Potoki generowania wspomaganego wyszukiwaniem mogą go używać do tworzenia embeddingów baz wiedzy zawierających ryciny, zrzuty ekranu lub zeskanowane strony obok tekstu ciągłego. Systemy rekomendacji i podobieństwa korzystają ze wspólnej przestrzeni, ponieważ elementy można porównywać niezależnie od tego, czy ich treść jest tekstowa, czy wizualna. Klasyfikacja, grupowanie, deduplikacja i wykrywanie anomalii w dużych korpusach to również naturalne zastosowania, szczególnie tam, gdzie objętość danych sprawia, że opóźnienie i koszt na embedding są praktycznym problemem.
Model wywołujesz przez API zgodne z OpenAI w api14, używając identyfikatora modelu "cohere/embed-5-fast". Ponieważ endpoint jest zgodny z konwencją embeddingów OpenAI, istniejące klienty i SDK, które już obsługują ten interfejs, mogą wskazywać na api14 przy minimalnych zmianach, zazwyczaj wystarczy podmienić bazowy URL i identyfikator modelu. Model nie deklaruje żadnych obsługiwanych parametrów żądania poza standardową strukturą żądania embeddingu, więc nie należy oczekiwać dostępności opcji dostrajania, takich jak niestandardowe wymiary czy opcje specyficzne dla dostawcy; wyślij dane wejściowe i odczytaj zwrócone wektory.
Biorąc pod uwagę, że jest to szybka warstwa rodziny Embed 5, jest to rozsądny domyślny wybór, gdy tworzysz embeddingi masowo, a ograniczeniem jest opóźnienie lub przepustowość. Jeśli Twoje obciążenie jest wyłącznie tekstowe i nie wymaga obsługi obrazów, prostszym rozwiązaniem może być model embeddingowy tylko dla tekstu. Jeśli potrzebujesz modelu, który generuje tekst, a nie wektory, to nie jest właściwy wybór, ponieważ jego modalność wyjściowa to wyłącznie embeddingi.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.embeddings.create({
"model": "cohere/embed-5-fast",
"input": [
"The quick brown fox",
"Lorem ipsum"
]
});
console.log(result.data.map((d) => d.embedding.length));
Ta społeczność nie ma jeszcze wątków. Załóż pierwszy wątek o Cohere: Embed 5 Fast.