TypeSafe: Jev 1.13

TypeSafe: Jev 1.13 to ustrukturyzowany model decyzyjny od TypeSafe i pierwszy z jego modeli System One. TypeSafe pozycjonuje modele System One jako narzędzia, które podejmują szybkie, ustrukturyzowane decyzje dla oprogramowania, zwracając typowany wybór zamiast swobodnej prozy. Jev 1.13 nie jest więc ogólnym modelem czatu ani pisania: jego główną kategorią są decyzje, a decyzje to jedyna kategoria, którą obejmuje. Jeśli tworzysz oprogramowanie, które potrzebuje modelu do wyboru spośród zdefiniowanych opcji, to właśnie do tej klasy modeli TypeSafe go zbudował.

Model przyjmuje tekst jako dane wejściowe i zwraca decyzje jako dane wyjściowe. Ma okno kontekstu wynoszące 64 000 tokenów i maksymalne wyjście wynoszące 57 600 tokenów. Ponieważ wyjściem jest typowany wybór, a nie otwarty tekst, powinieneś myśleć o Jev 1.13 jako o komponencie, który wpina się w punkt decyzyjny w twoim systemie, a nie jako o modelu, który prosisz o napisanie eseju lub prowadzenie rozmowy. Strona wejściowa obejmuje wyłącznie tekst, więc wszelkie obrazy, dźwięk lub inne modalności trzeba by przekonwertować na tekst, zanim dotrą do modelu.

Praktyczne przypadki użycia wynikają bezpośrednio z tego kształtu. Jev 1.13 pasuje do logiki routingu i triage'u, gdzie żądanie lub rekord musi zostać przypisany do jednej ze znanego zestawu kategorii. Pasuje do kroków klasyfikacji i etykietowania w potoku, gdzie wyjście zasila kolejny etap kodu, a nie ludzkiego czytelnika. Pasuje do decyzji bramkujących i zatwierdzających, gdzie oprogramowanie potrzebuje spójnego wyboru spośród zdefiniowanych wyników. Pasuje też do każdego przepływu pracy, w którym chcesz, aby decyzja przyszła jako ustrukturyzowana wartość, na której możesz rozgałęziać logikę, zamiast parsować prozę i mieć nadzieję, że format się utrzyma.

Model wywołujesz przez API zgodne z OpenAI w api14, używając identyfikatora modelu "typesafe/jev-1.13". Ponieważ API jest zgodne z OpenAI, istniejące biblioteki klienckie OpenAI i zwykły kształt żądania chat completion działają bez przepisywania; zmieniasz identyfikator modelu i kierujesz klienta na api14. Zwróć uwagę, że model nie wymienia żadnych obsługiwanych parametrów, więc powinieneś wysłać zwykłe żądanie i nie polegać na tym, że opcje dostrajania, takie jak temperature lub top_p, będą respektowane. Identyfikator modelu to jedyny identyfikator, którego potrzebujesz.

Jeden limit, o którym warto pamiętać, to zakres. Jev 1.13 zwraca decyzje, więc zadania wymagające generowanej prozy, streszczania, tłumaczenia lub rozmowy wieloetapowej słabo się do niego nadają, a ogólny model generowania tekstu lepiej ci posłuży w takich przypadkach. Podobnie, jeśli twój problem decyzyjny wymaga danych wejściowych w postaci obrazu lub dźwięku, ten model ich nie przyjmuje. W swojej dziedzinie, ustrukturyzowanych wyborów na podstawie tekstu wejściowego, jest opcją stworzoną specjalnie do tego celu.