Upstage: Solar Decide

Solar Decide to ustrukturyzowany model decyzyjny od Upstage, wymieniony na api14 pod identyfikatorem modelu upstage/solar-decide. Upstage pozycjonuje go jako endpoint System One zbudowany na Solar Mini 4, a jego główna kategoria to decyzje. Nie jest to model czatu ogólnego przeznaczenia, lecz wyspecjalizowany endpoint, którego zadaniem jest przyjąć podany stan i zwrócić decyzję.

Model przyjmuje dane wejściowe tekstowe i zwraca decyzje jako dane wyjściowe. Działa poprzez przyjęcie stanu wraz z typowanymi pytaniami i zwraca wybór wraz z powiązanym wynikiem. Okno kontekstu wynosi 524288 tokenów, co jest wystarczająco duże, aby pomieścić obszerne opisy stanu, historie lub materiały pomocnicze w jednym żądaniu. Maksymalne dane wyjściowe to 471859 tokenów. Dane wejściowe są wyłącznie tekstowe, a modalność danych wyjściowych to decyzje, a nie swobodna proza.

Ponieważ model jest zbudowany wokół stanu i typowanych pytań, praktyczne przypadki użycia wynikają z tego kształtu. Nadaje się do przepływów pracy, w których masz już ustrukturyzowany kontekst i potrzebujesz konkretnej odpowiedzi: decyzje dotyczące routingu lub triażu, wybór opcji ze zdefiniowanego zestawu, klasyfikacja sytuacji do kategorii lub rozstrzyganie gałęzi w zautomatyzowanym potoku. Wszędzie tam, gdzie w przeciwnym razie napisałbyś reguły lub funkcję punktującą i chciałbyś, aby model podjął decyzję na podstawie opisanego stanu, ten endpoint jest właściwym rozwiązaniem. Jest mniej odpowiedni do generowania otwartego, streszczania lub rozmowy, ponieważ nie jest to to, co zwraca.

Wywołujesz go przez API zgodne z OpenAI w api14, używając identyfikatora modelu upstage/solar-decide, w taki sam sposób, w jaki wywołałbyś dowolny inny model w bramie. Model nie zgłasza żadnych obsługiwanych parametrów, więc nie należy polegać na tym, że opcje dostrajania, takie jak temperature lub top_p, będą akceptowane; wyślij swój stan i typowane pytania w żądaniu i odczytaj decyzję z odpowiedzi. Ponieważ interfejs jest zgodny z OpenAI, istniejące biblioteki klienckie i kod, które już celują w api14, będą działać bez przepisywania.

Głównym ograniczeniem, o którym należy pamiętać, jest zakres. Solar Decide zwraca decyzje, a nie tekst, więc jeśli Twoja aplikacja potrzebuje wyjaśnienia, streszczenia lub odpowiedzi w czacie, lepiej pasować będzie ogólny model tekstowy. Jego dane wejściowe wyłącznie tekstowe oznaczają również, że nie może przyjmować obrazów ani dźwięku. Jeśli Twoje zadanie jest rzeczywiście wyborem między opcjami na podstawie opisanego stanu, ten model jest bezpośrednim dopasowaniem; jeśli jest to cokolwiek innego, poszukaj gdzie indziej na api14.