ScaleDown: Extract

ScaleDown: Extract to model tekstowy od ScaleDown, zbudowany specjalnie do ekstrakcji encji opartej na opisie. Zamiast zmuszać cię do wyboru ze stałego zestawu typów encji, pozwala opisać pola, których chcesz, zwykłym językiem angielskim. To czyni go innym rodzajem narzędzia niż ogólny model czatu: jego zadaniem jest wyciąganie ustrukturyzowanych informacji z tego, co mu podasz, kierując się twoim własnym opisem docelowych pól.

Model przyjmuje jako dane wejściowe tekst, obrazy i pliki, a zwraca tekst. Jego okno kontekstowe wynosi 1 000 000 tokenów, a maksymalne wyjście to 900 000 tokenów. To połączenie bardzo dużego okna wejściowego i wysokiego limitu wyjścia oznacza, że możesz przekazać mu długie dokumenty lub multimedia i nadal otrzymać w jednym wywołaniu obszerny wynik ekstrakcji. Lista obsługiwanych parametrów jest celowo krótka: udostępniono tylko max_tokens, co pasuje do modelu, którego zachowanie jest sterowane głównie przez dostarczony opis encji, a nie przez szeroki zestaw pokręteł próbkowania.

Praktyczne przypadki użycia wynikają bezpośrednio z tych możliwości. Jeśli masz umowy, faktury, raporty lub zeskanowane dokumenty i potrzebujesz wyciągnięcia konkretnych pól, opisujesz te pola i pozwalasz modelowi je znaleźć. Ponieważ obrazy i pliki są akceptowane obok tekstu, to samo wywołanie może objąć PDF, zrzut ekranu lub zwykły zrzut tekstu bez osobnego potoku dla każdego formatu. Kontekst miliona tokenów jest przydatny, gdy istotne szczegóły są rozproszone po długim dokumencie i wolisz nie dzielić go samodzielnie. Wysoki limit wyjścia pomaga, gdy sam wynik ekstrakcji jest długi, na przykład lista wielu encji lub struktura przypominająca tabelę.

Wywołujesz go przez API zgodne z OpenAI w api14, używając identyfikatora modelu "scaledown/extract". Jedynym obsługiwanym parametrem żądania jest max_tokens, więc utrzymuj prostą strukturę żądania i umieść opisy pól tam, gdzie oczekuje ich dostawca, pod provider.options.scaledown.entities. Ponieważ interfejs jest zgodny z OpenAI, istniejące klienty i SDK zasadniczo działają po zmianie identyfikatora modelu i punktu końcowego, a możesz ustawić max_tokens, aby ograniczyć długość odpowiedzi dla swojego obciążenia.

Wąski zakres parametrów warto odnotować, wybierając model. Jeśli twoje zadanie wymaga kreatywnego generowania, rozmowy wieloetapowej lub precyzyjnej kontroli nad zachowaniem próbkowania, lepiej pasować będzie ogólny model tekstowy. Extract jest ukierunkowany na jedno zadanie i wykonuje je, czytając twój opis pól, a nie udostępniając wiele opcji dostrajania. W zadaniach ekstrakcji, w których pola łatwiej opisać słowami niż wyrazić jako schemat, jest rozsądnym domyślnym wyborem do wypróbowania w pierwszej kolejności.