OpenAI: Text Embedding 3 Small

OpenAI: Text Embedding 3 Small to model embeddingowy od OpenAI, wymieniony na api14 pod identyfikatorem modelu openai/text-embedding-3-small. Należy do kategorii embeddings, a OpenAI opisuje go jako ulepszoną, wydajniejszą wersję modelu embeddingowego ada. Zamiast generować odpowiedzi czatu, tworzy embeddingi, czyli numeryczne reprezentacje tekstu używane do pomiaru, jak bardzo dwa fragmenty tekstu są ze sobą powiązane.

Model przyjmuje tekst jako jedyny modalność wejściową i zwraca embeddingi jako jedyną modalność wyjściową, więc pasuje do potoków, w których konwertuje się ciągi znaków na wektory, a nie do systemów konwersacyjnych. Ma długość kontekstu wynoszącą 8192 tokeny, co wyznacza górny limit ilości tekstu, jaką może objąć pojedyncze żądanie, zanim konieczne będzie jego podzielenie. Szczegóły podają również maksymalne wyjście 7372, co jest użyteczną wartością, o której warto pamiętać, decydując, jak dzielić dłuższe dokumenty.

Praktyczne zastosowania wynikają bezpośrednio z tego kształtu. Ponieważ embeddingi pozwalają mierzyć powiązanie między tekstami, model nadaje się do wyszukiwania semantycznego, gdzie osadza się zapytanie i korpus, a następnie szereguje dokumenty według podobieństwa. Generowanie wspomagane wyszukiwaniem to kolejne częste zastosowanie, ponieważ warstwa wyszukiwania zbudowana na embeddingach może dostarczać istotne fragmenty do osobnego modelu generującego. Ta sama właściwość wspiera grupowanie i tematyczne klastrowanie dużych zbiorów tekstów, deduplikację niemal identycznych treści, klasyfikację, gdy trenuje się lekki klasyfikator na wektorach, oraz funkcje rekomendacji lub podobieństwa, które porównują elementy na podstawie ich opisów tekstowych. Kontekst 8192 tokenów oznacza, że każde wejście może być pokaźnym fragmentem, nie tylko pojedynczym zdaniem, co pomaga, gdy osadza się całe sekcje, a nie pojedyncze linie.

Model wywołuje się przez API zgodne z OpenAI w api14, używając identyfikatora modelu openai/text-embedding-3-small. Ponieważ interfejs jest zgodny z formatem OpenAI, istniejące biblioteki klienckie OpenAI i kod kierowany na endpoint embeddings można skierować na api14 przy minimalnych zmianach. Lista obsługiwanych parametrów modelu jest pusta, więc nie ma udokumentowanych dodatkowych parametrów żądania poza standardową strukturą żądania dla wywołania embeddings: podaje się identyfikator modelu i tekst wejściowy, a otrzymuje się wyjście wektorowe. Wszelkie dostrajanie, takie jak sposób dzielenia tekstu czy porównywania otrzymanych wektorów, odbywa się w własnym potoku, a nie przez parametry modelu.

Ponieważ obsługuje wyłącznie tekst na wejściu i embeddingi na wyjściu, ten model nie jest właściwym wyborem, gdy potrzebny jest generowany tekst, wywołania narzędzi lub jakiekolwiek zachowanie konwersacyjne; te przypadki obejmuje model czatu lub uzupełniania. Jest to również model embeddingowy ze stałym oknem kontekstu, więc bardzo długie dokumenty nadal trzeba podzielić przed osadzeniem. W tych granicach jest rozsądnym domyślnym wyborem dla zespołów, które chcą małego, aktualnego modelu embeddingowego OpenAI za endpointem zgodnym z OpenAI.