Vi använder cookies. Cookies och webbläsarlagring håller dig inloggad och kommer ihåg dina preferenser. Med ditt tillstånd mäter vi också hur webbplatsen används. Du kan när som helst. Läs vår cookiepolicy.
baseten/elephant-1Körs på ditt saldo till priserna ovan. Nya konton börjar med gratis användning.
Inställningar
Baseten: Elephant 1 är en beslutsmodell från Baseten, utvecklad av Base Labs, företagets forskningsteam. Den är byggd på Qwen3.5-9B och har 9B parametrar. Istället för att generera fritt formulerad konversation är modellen utformad för att returnera beslut, vilket placerar den i kategorin decisions på api14. Om du bygger ett system som behöver en modell som fattar ett beslut snarare än producerar prosa, är detta den typ av modell att utvärdera.
Modellen tar emot textinmatning och producerar beslut som utdata. Dess kontextfönster är 16 384 tokens, och maximal utdata är 14 745 tokens. Indata kan ha formen av ett tillstånd, angivet som text eller JSON, tillsammans med typade frågor. De frågetyper som stöds är ja/nej, flerval och ordinal. Eftersom utdatamodaliteten är beslut bör du förvänta dig strukturerade svar på de frågor du ställer snarare än berättande text, och utforma din parsning och nedströmslogik kring det.
De praktiska användningsfallen följer direkt av den utformningen. Ett tillstånd plus en ja/nej-fråga passar för godkännandegrindar, behörighetskontroller och policygranskning, där en pipeline behöver en tydlig dom om en post eller begäran. Flervalsfrågor passar för routing- och klassificeringsuppgifter, till exempel att skicka ett inkommande ärende till rätt kö eller välja en kategori för ett dokument. Ordinalfrågor är användbara när svaret ligger på en skala, till exempel för att gradera allvarlighetsgrad eller prioritet utifrån ett angivet tillstånd. Att ange tillståndet som JSON passar arbetsflöden där indata redan kommer från ett API eller en databas och du vill skicka det vidare utan att forma om det till prosa. I varje fall läser modellen tillståndet och besvarar den typade frågan, vilket håller utdata snäv och enklare att validera än fri text.
Du anropar modellen via api14:s OpenAI-kompatibla API med modell-id:t "baseten/elephant-1". Eftersom gränssnittet följer OpenAI-formatet fungerar befintliga OpenAI-klientbibliotek och begärandemönster som de är, med modell-id:t utbytt. Modellen listar inga stödda begärandeparametrar utöver vad API:et accepterar som standard, så håll begäranden till standardfälten och undvik att förlita dig på valfria justeringsparametrar som temperature eller top_p; kontrollera den aktuella parameterlistan på sidan innan du bygger runt någon av dem. Kontextfönstret på 16 384 tokens begränsar hur mycket tillstånd och hur många frågor du kan skicka i en enskild begäran, så håll indata inom den budgeten.
Modellen är text in och beslut ut, så den passar inte för arbete som kräver prosa, sammanfattningar eller annan genererad text; en allmän textgenereringsmodell är det bättre valet där. Avsaknaden av stödda parametrar innebär också att du inte kan styra samplingsbeteendet via begäran, vilket spelar roll om du behöver varierad eller kreativ utdata. För beslutsuppgifter över ett avgränsat tillstånd, med typade frågor och en kontext som ryms inom 16 384 tokens, är Elephant 1 ett fokuserat alternativ att testa mot dina egna arbetsbelastningar.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/decisions", { body: {
"model": "baseten/elephant-1",
"state": "Customer: I was charged twice for my order and want my money back.",
"questions": {
"team": {
"type": "choice",
"instructions": "Which team should handle this message?",
"criteria": {
"billing": "Payments, refunds, invoices",
"support": "Product questions and bugs",
"sales": "Pricing and new purchases"
}
},
"urgent": {
"type": "noul",
"instructions": "Does this need a reply today?",
"criteria": {
"true": "Money, outage or legal risk",
"false": "Can wait"
}
}
}
} });
console.log(result.answers);
Den här communityn har inga trådar ännu. Starta den första om Baseten: Elephant 1.