Baseten: Elephant 1 (free)

Elephant 1 to model decyzyjny od Baseten, udostępniony pod identyfikatorem modelu baseten/elephant-1:free. Pochodzi z Base Labs, zespołu badawczego Baseten, i jest zbudowany na Qwen3.5-9B, bazie z 9 miliardami parametrów. Główną kategorią modelu są decyzje, co odzwierciedla to, do czego został zaprojektowany, a nie ogólną rozmowę czy generowanie treści. Data udostępnienia przez dostawcę podana dla tego modelu to 2026-10-21.

Model przyjmuje tekst jako modalność wejściową i zwraca decyzje jako modalność wyjściową. Jest zbudowany do pracy na podstawie stanu, podanego jako tekst lub JSON, wraz z typowanymi pytaniami. Te pytania mogą być typu tak/nie, wielokrotnego wyboru lub porządkowe. Okno kontekstu wynosi 16 384 tokeny, a maksymalne wyjście to 14 745 tokenów. Obsługiwane parametry nie są wymienione dla tego modelu, więc nie należy zakładać, że kontrolki próbkowania, takie jak temperature czy top_p, są dostępne przy jego wywołaniu.

Ponieważ wyjściem jest decyzja, a nie swobodna proza, praktyczne zastosowania wynikają z zadawania ustrukturyzowanych pytań o dostarczony stan. Możesz przekazać stan w formacie JSON i zadać pytanie typu tak/nie, aby uzyskać osąd binarny, albo przedstawić zestaw opcji i poprosić model o wybór spośród nich. Pytania porządkowe pozwalają umieścić wynik na skali, a nie wybrać pojedynczą etykietę. Pasuje to do przepływów pracy takich jak routing czy triage, gdzie żądanie lub rekord musi zostać sklasyfikowany przed dalszym przetwarzaniem, oraz do kroków weryfikacji, gdzie stan musi zostać sprawdzony względem warunku. Pasuje również do każdego potoku, w którym chcesz uzyskać zwięzłą, typowaną odpowiedź, na której może działać dalszy kod, zamiast tekstu, który trzeba parsować.

Model wywołujesz przez API zgodne z OpenAI w api14, używając identyfikatora modelu "baseten/elephant-1:free". Ponieważ API jest zgodne z OpenAI, wysyłasz żądania w zwykłej formie chat completions, ze stanem i typowanymi pytaniami w treści wiadomości, a decyzję odczytujesz z odpowiedzi. Model przyjmuje tekst wejściowy i zwraca decyzje, więc skup prompt na stanie i pytaniu, na które chcesz uzyskać odpowiedź. Ponieważ nie wymieniono żadnych obsługiwanych parametrów, wysyłaj identyfikator modelu i swoje wiadomości oraz unikaj polegania na dodatkowych parametrach żądania w celu zmiany zachowania.

Miej na uwadze limit kontekstu: 16 384 tokeny obejmują stan oraz twoje pytania, więc bardzo duże dokumenty będą wymagały przycięcia lub podzielenia przed wysłaniem. Limit wyjścia wynoszący 14 745 tokenów jest hojny jak na decyzję, ale sama odpowiedź jest decyzją, a nie wyjaśnieniem, więc jeśli potrzebujesz długiego rozumowania, streszczania lub generowania otwartego, lepiej może pasować ogólny model tekstowy. Elephant 1 to właściwy wybór, gdy zadanie polega na odpowiadaniu na typowane pytania dotyczące danego stanu i chcesz otrzymać wynik jako decyzję.