Baseten: Elephant 1 (free)

Elephant 1 är en beslutsmodell från Baseten, släppt under modell-id:t baseten/elephant-1:free. Den kommer från Base Labs, Basetens forskningsteam, och är byggd på Qwen3.5-9B, en bas med 9B parametrar. Modellens huvudkategori är beslut, vilket återspeglar vad den är designad att göra snarare än allmän chatt eller innehållsgenerering. Leverantörens releasedatum som anges för denna modell är 2026-10-21.

Modellen tar text som sin indatamodalitet och producerar beslut som sin utdatamodalitet. Den är byggd för att arbeta utifrån ett tillstånd, givet som text eller JSON, tillsammans med typade frågor. Dessa frågor kan vara ja/nej, flervalsfrågor eller ordinala. Kontextfönstret är 16 384 tokens, och maximal utdata är 14 745 tokens. Inga parametrar som stöds listas för denna modell, så du bör inte anta att samplingskontroller som temperature eller top_p är tillgängliga när du anropar den.

Eftersom utdata är ett beslut snarare än fri prosa, följer de praktiska användningsområdena av att ställa strukturerade frågor om ett tillhandahållet tillstånd. Du kan skicka ett JSON-tillstånd och ställa en ja/nej-fråga för att få en binär bedömning, eller presentera en uppsättning alternativ och be modellen välja bland dem. Ordinala frågor låter dig placera ett utfall på en skala snarare än att välja en enda etikett. Detta passar arbetsflöden som routing eller triage, där en begäran eller post behöver klassificeras innan vidare bearbetning, och screeningsteg där ett tillstånd måste kontrolleras mot ett villkor. Det passar också alla pipelines där du vill ha ett kompakt, typat svar som nedströmskod kan agera på, istället för text som måste parsas.

Du anropar modellen via api14:s OpenAI-kompatibla API med modell-id:t "baseten/elephant-1:free". Eftersom API:et är OpenAI-kompatibelt skickar du förfrågningar i den vanliga chat completions-formen, med tillståndet och dina typade frågor i meddelandeinnehållet, och du läser beslutet från svaret. Modellen accepterar textinmatning och returnerar beslut, så håll prompten fokuserad på tillståndet och frågan du vill ha besvarad. Eftersom inga parametrar som stöds listas, skicka modell-id:t och dina meddelanden och undvik att förlita dig på extra förfrågningsparametrar för att ändra beteende.

Håll kontextgränsen i åtanke: 16 384 tokens täcker tillståndet plus dina frågor, så mycket stora dokument behöver trimmas eller delas upp innan du skickar dem. Utdatagränsen på 14 745 tokens är generös för ett beslut, men själva svaret är ett beslut snarare än en förklaring, så om du behöver långformigt resonemang, sammanfattning eller öppen generering kan en allmän textmodell passa bättre. Elephant 1 är rätt val när uppgiften är att besvara typade frågor om ett givet tillstånd och du vill ha resultatet som ett beslut.