VoyageAI by MongoDB: voyage-4

voyage-4 to model osadzeń ogólnego przeznaczenia od Voyage AI, firmy stojącej za rodziną osadzeń Voyage, która jest teraz częścią MongoDB. Jest wymieniony na api14 pod identyfikatorem modelu voyageai/voyage-4 i znajduje się w kategorii osadzeń, więc służy do zamiany tekstu na wektory, a nie do generowania odpowiedzi czatu. Jeśli wybierasz model osadzeń do systemu wyszukiwania lub wyszukiwania informacji, to właśnie ten rodzaj modelu warto ocenić obok innych opcji osadzeń ogólnego przeznaczenia.

Model przyjmuje tekst jako dane wejściowe i zwraca osadzenia jako dane wyjściowe. Jest opisany jako ogólnego przeznaczenia i wielojęzyczny, zoptymalizowany pod kątem wyszukiwania informacji i wyszukiwania, a także innych zastosowań AI. Obsługuje osadzenia o wymiarach 2048, 1024, 512 i 256, wraz z wieloma opcjami kwantyzacji, co pozwala wymieniać rozmiar wektora na charakterystykę przechowywania i wyszukiwania w zależności od indeksu. Długość kontekstu wynosi 32000 tokenów, a maksymalne dane wyjściowe to 28800, więc długie dokumenty można osadzać bez dzielenia ich na wiele małych fragmentów.

Te możliwości wskazują na dość konkretny zestaw zastosowań. Wyszukiwanie informacji i wyszukiwanie to podstawowe z nich: indeksowanie kolekcji dokumentów, osadzanie zapytań i porównywanie ich przez podobieństwo wektorowe. Ponieważ model jest wielojęzyczny, pasuje również do kolekcji i zapytań mieszających języki, a ponieważ obsługuje kilka wymiarów wyjściowych i opcji kwantyzacji, może obsłużyć zarówno indeks o wysokiej wierności, jak i mniejszy, bardziej kompaktowy. Typowe zastosowania obejmują potoki generowania wspomaganego wyszukiwaniem, wyszukiwanie semantyczne w dokumentacji wewnętrznej, deduplikację lub grupowanie tekstu oraz systemy rekomendacji lub klasyfikacji działające na osadzeniach, a nie na generowanym tekście.

Wywołujesz go przez API zgodne z OpenAI w api14, używając identyfikatora modelu voyageai/voyage-4, wysyłając tekst i otrzymując osadzenia w odpowiedzi. Lista obsługiwanych parametrów modelu jest pusta, więc nie należy oczekiwać przekazywania ustawień próbkowania, takich jak temperature czy top_p; żądanie to zasadniczo tekst wejściowy plus identyfikator modelu. Wybory wymiarów i kwantyzacji są częścią zachowania osadzania modelu, a nie parametrami żądania ujawnionymi tutaj, więc sprawdź aktualne odniesienie API, jak są one wybierane, zanim zbudujesz rozwiązanie wokół konkretnego rozmiaru wektora.

Jedna rzecz do zapamiętania: to model osadzeń, a nie model czatu ani uzupełniania. Jeśli twoim zadaniem jest generowanie tekstu, streszczanie lub prowadzenie rozmowy, właściwym wyborem jest model generowania tekstu, a voyage-4 byłby przydatny tylko jako komponent pomocniczy w potoku wyszukiwania informacji. Przyjmuje też wyłącznie tekst, więc dane wejściowe w innych modalnościach są poza zakresem. W tych granicach jest rozsądnym kandydatem do pracy związanej z wyszukiwaniem i wyszukiwaniem informacji, gdzie chcesz mieć kontrolę nad wymiarami osadzeń.