Together: Tev1 4B Experimental

Together: Tev1 4B Experimental to eksperymentalny model decyzyjny od Together AI. Jest to nadzorowany fine-tune modelu Qwen3.5-4B, trenowany do wyboru jednej opcji ze ustrukturyzowanego stanu, pytania i listy opcji. Model należy do kategorii decyzji, a jego nazwa odzwierciedla jego status: to wydanie eksperymentalne, a nie model czatu ogólnego przeznaczenia.

Model przyjmuje tekst jako jedyne wejście i produkuje decyzje jako jedyne wyjście. Jego okno kontekstowe wynosi 32768 tokenów, co wystarcza do pomieszczenia ustrukturyzowanego stanu, pytania i listy od 2 do 24 opcji kandydujących w jednym żądaniu. Maksymalne wyjście to 8 tokenów, co pasuje do kształtu zadania: model zwraca wybór, a nie esej. Nie ma tu generowania tekstu swobodnego ani wejścia obrazowego, audio lub innego niż tekstowe.

Ponieważ wyjściem jest pojedyncza decyzja wybrana z dostarczonej listy, praktyczne przypadki użycia to takie, w których system musi wybrać jedną opcję ze znanego zbioru. Przykłady obejmują kierowanie żądania do właściwego modułu obsługi, wybór kategorii lub etykiety ze stałej taksonomii, wybór następnej akcji w przepływie pracy lub rozstrzyganie gałęzi w pętli agenta. Ustrukturyzowany stan i pytanie dają modelowi potrzebny kontekst, a lista opcji ogranicza przestrzeń odpowiedzi, więc wynik może być bezpośrednio wykorzystany przez dalszy kod bez parsowania prozy.

Model wywołujesz przez API zgodne z OpenAI w api14, używając identyfikatora modelu "togethercomputer/tev1-4b-experimental". Ponieważ interfejs podąża za kształtem uzupełnień czatu OpenAI, wysyłasz swój stan, pytanie i opcje jako wejście tekstowe w zwykłym ciele żądania i odczytujesz decyzję z odpowiedzi. Model nie obsługuje żadnych dodatkowych parametrów żądania poza standardowymi, więc nie ma temperatury, top_p ani podobnej kontroli próbkowania do dostrojenia. Przy maksymalnym wyjściu 8 tokenów odpowiedzi są krótkie z założenia.

Ten model pasuje do zadań decyzyjnych z ograniczonym zbiorem opcji, a nie do otwartej rozmowy, długiego pisania ani rozumowania opartego na narzędziach. Jeśli twoje zadanie wymaga generowanej prozy, wieloetapowego wyjaśnienia lub wejść innych niż tekst, inny model będzie lepszy. Kontekst 32768 tokenów i zakres od 2 do 24 opcji również określają kształt problemów, do których był trenowany, więc utrzymuj stan i pytanie zwięzłe, a listę opcji w tym zakresie.