OpenAI: Text Embedding 3 Small (batch)

OpenAI: Text Embedding 3 Small (batch) to model osadzania od OpenAI, oferowany przez api14. Należy do kategorii embeddings, a jego identyfikator modelu w api14 to openai/text-embedding-3-small:batch. OpenAI opisuje text-embedding-3-small jako ulepszoną, wydajniejszą wersję modelu osadzania ada. Osadzania to numeryczna reprezentacja tekstu, która może być używana do mierzenia powiązania między dwoma fragmentami tekstu.

Model przyjmuje tekst jako jedyne dane wejściowe i zwraca osadzania jako jedyne dane wyjściowe. Ma długość kontekstu wynoszącą 8192 tokeny, a maksymalne dane wyjściowe to 7372. Dla tego modelu nie wymieniono żadnych obsługiwanych parametrów, więc nie można dostroić ustawień próbkowania ani generowania poprzez żądanie. Sufiks batch w identyfikatorze modelu wskazuje wariant wsadowy tego modelu osadzania w api14.

Ponieważ generuje osadzania, a nie wygenerowany tekst, praktyczne zastosowania wynikają z mierzenia podobieństwa między tekstami. Typowa praca obejmuje wyszukiwanie semantyczne, gdzie osadza się zapytanie i zestaw dokumentów, a następnie szereguje dokumenty według bliskości; wyszukiwanie dla potoku generowania wspomaganego wyszukiwaniem, gdzie osadzania wybierają istotne fragmenty do przekazania modelowi czatu; grupowanie lub klastrowanie tematyczne dużych zbiorów tekstu; deduplikację, gdzie prawie identyczne elementy są znajdowane przez porównywanie wektorów; oraz klasyfikację lub routing, gdzie lekki model wykorzystuje osadzania. Kontekst 8192 tokenów oznacza, że pojedyncze dane wejściowe mogą być dość długie, więc całe strony lub długie fragmenty można osadzać bez wcześniejszego dzielenia ich.

Aby wywołać go przez api14, użyj API zgodnego z OpenAI z identyfikatorem modelu openai/text-embedding-3-small:batch. Skieruj istniejącego klienta OpenAI na bazowy adres URL api14 i wyślij tekst do punktu końcowego embeddings, albo użyj równoważnej trasy w stylu czatu, jeśli twój klient jej oczekuje. Ponieważ model nie wymienia żadnych obsługiwanych parametrów, utrzymuj żądania proste: wyślij identyfikator modelu i tekst wejściowy, a następnie odczytaj wektor osadzania z odpowiedzi. Nie ma potrzeby ustawiania temperature, top_p ani podobnych opcji, ponieważ ten model ich nie akceptuje.

Jedna rzecz do zapamiętania: ten model obsługuje tylko dane wejściowe tekstowe i zwraca tylko osadzania. Nie generuje uzupełnień czatu ani żadnych innych danych wyjściowych tekstowych, więc jeśli twoim zadaniem jest konwersacja, streszczanie lub generowanie kodu, lepszym wyborem będzie model czatu lub uzupełnień. Jeśli potrzebujesz osadzać bardzo duże ilości tekstu, wariant wsadowy jest tutaj właściwym wyborem, podczas gdy inne modele osadzania mogą pasować do innych potrzeb dotyczących dokładności lub języka.