Intfloat: Multilingual-E5-Large

Intfloat: Multilingual-E5-Large to model embedding od Intfloat, wymieniony na api14 w kategorii embeddings. Przyjmuje tekst jako dane wejściowe i zwraca embeddingi jako dane wyjściowe, więc nie jest to model czatu ani generowania tekstu. Jego zadaniem jest zamiana języka na wektory, które można przechowywać, porównywać i przeszukiwać. Dostawca opisuje go jako kodujący zdania, akapity i dokumenty w ponad 90 językach do 1024-wymiarowej gęstej przestrzeni wektorowej, z embeddingami semantycznymi dostrojonymi do wielojęzycznego wyszukiwania i podobieństwa między językami.

Okno kontekstu wynosi 512 tokenów, a maksymalne wyjście to 460. Ponieważ dane wejściowe to tekst, a dane wyjściowe to wektor, a nie wygenerowane słowa, nie ma zachowania próbkowania do dostrojenia: model nie akceptuje obsługiwanych parametrów, więc żądania zawierają twoje dane wejściowe i nic więcej w zakresie ustawień generowania. Limit 512 tokenów oznacza, że każde wywołanie powinno być ograniczone do zdania, krótkiego akapitu lub fragmentu o podobnym rozmiarze, a nie do długiego dokumentu przekazanego w całości.

Praktyczne zastosowania wynikają z tego kształtu. Wielojęzyczne wyszukiwanie jest głównym z nich: indeksuj dokumenty w jednym lub kilku językach i przeszukuj je zapytaniami w innym. Podobieństwo między językami pozwala porównywać lub grupować tekst napisany w różnych językach w tej samej przestrzeni wektorowej. Powiązane zadania obejmują wyszukiwanie semantyczne w korpusie mieszanym językowo, deduplikację niemal identycznych fragmentów, routing lub klasyfikację na podstawie tego, jak blisko dany fragment tekstu znajduje się wobec przykładów referencyjnych, oraz budowanie warstw wyszukiwania, które zasilają osobny model generowania.

Wywołujesz go przez OpenAI-compatible API api14, używając identyfikatora modelu "intfloat/multilingual-e5-large". Ponieważ endpoint jest zgodny z kształtem OpenAI embeddings, istniejące biblioteki klienckie i kod, które już wskazują na OpenAI-compatible base URL, powinny działać po zmianie tylko identyfikatora modelu. Wyślij tekst jako input i odczytaj wektor z odpowiedzi. Żadne dodatkowe parametry żądania nie są obsługiwane, więc utrzymuj żądanie minimalne i pozwól modelowi zwrócić embedding.

Kontekst 512 tokenów to główne ograniczenie, które trzeba uwzględnić w planowaniu. Długie dokumenty trzeba podzielić na fragmenty przed embeddingiem, a każdy pipeline, który zakłada większe okno lub oczekuje zwróconego wygenerowanego tekstu, będzie wymagał innego modelu. Jeśli twoim zadaniem jest generowanie, streszczanie lub rozmowa, a nie reprezentacja, lepszym wyborem będzie model instruct lub chat na api14; ten model służy do zamiany tekstu na wektory.