We gebruiken cookies. Cookies en browseropslag houden je ingelogd en onthouden je voorkeuren. Met je toestemming meten we ook hoe de site wordt gebruikt. Je kunt je wanneer je wilt. Zie ons cookiebeleid.
baseten/elephant-1Draait op je saldo tegen de prijzen hierboven. Nieuwe accounts beginnen met gratis gebruik.
Instellingen
Baseten: Elephant 1 is een beslissingsmodel van Baseten, ontwikkeld door Base Labs, het onderzoeksteam van het bedrijf. Het is gebouwd op Qwen3.5-9B en heeft 9B parameters. In plaats van vrije conversatie te genereren, is het model ontworpen om beslissingen terug te geven, wat het in de categorie decisions plaatst op api14. Als je een systeem bouwt dat een model nodig heeft dat een keuze maakt in plaats van proza te produceren, is dit het soort model om te evalueren.
Het model accepteert tekstinvoer en produceert beslissingen als uitvoer. Het contextvenster is 16.384 tokens en de maximale uitvoer is 14.745 tokens. Invoer kan de vorm aannemen van een state, geleverd als tekst of JSON, samen met getypeerde vragen. De ondersteunde vraagtypen zijn yes/no, multiple choice en ordinal. Omdat de uitvoermodaliteit decisions is, moet je gestructureerde antwoorden verwachten op de vragen die je stelt in plaats van verhalende tekst, en je parsing en downstream-logica daarop ontwerpen.
De praktische use cases volgen direct uit dat ontwerp. Een state plus een yes/no-vraag past bij goedkeuringspoorten, geschiktheidscontroles en beleidsscreening, waar een pipeline een duidelijk oordeel nodig heeft over een record of verzoek. Multiple choice-vragen passen bij routerings- en classificatietaken, zoals een inkomend ticket naar de juiste wachtrij sturen of een categorie voor een document kiezen. Ordinal-vragen zijn nuttig wanneer het antwoord op een schaal ligt, bijvoorbeeld het beoordelen van ernst of prioriteit op basis van een aangeleverde state. De state als JSON aanleveren past bij workflows waarin de invoer al uit een API of database komt en je die wilt doorgeven zonder deze om te vormen naar proza. In elk geval leest het model de state en beantwoordt het de getypeerde vraag, wat de uitvoer beperkt houdt en eenvoudiger te valideren dan vrije tekst.
Je roept het model aan via de OpenAI-compatibele API van api14 met het model-id "baseten/elephant-1". Omdat de interface het OpenAI-formaat volgt, blijven bestaande OpenAI-clientbibliotheken en request-patronen werken, met het model-id ingevuld. Het model vermeldt geen ondersteunde request-parameters buiten wat de API standaard accepteert, dus houd requests bij de standaardvelden en vermijd het vertrouwen op optionele tuning-parameters zoals temperature of top_p; controleer de actuele parameterlijst op de pagina voordat je iets daarvan inbouwt. Het contextvenster van 16.384 tokens begrenst hoeveel state en hoeveel vragen je in één request kunt sturen, dus houd invoer binnen dat budget.
Het model is tekst in en decisions uit, dus het past niet bij werk dat proza, samenvattingen of andere gegenereerde tekst nodig heeft; een algemeen tekstgeneratiemodel is daar de betere keuze. Het ontbreken van ondersteunde parameters betekent ook dat je het sampling-gedrag niet via het request kunt sturen, wat uitmaakt als je gevarieerde of creatieve uitvoer nodig hebt. Voor beslissingstaken over een begrensde state, met getypeerde vragen en een context die binnen 16.384 tokens past, is Elephant 1 een gerichte optie om tegen je eigen workloads te testen.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/decisions", { body: {
"model": "baseten/elephant-1",
"state": "Customer: I was charged twice for my order and want my money back.",
"questions": {
"team": {
"type": "choice",
"instructions": "Which team should handle this message?",
"criteria": {
"billing": "Payments, refunds, invoices",
"support": "Product questions and bugs",
"sales": "Pricing and new purchases"
}
},
"urgent": {
"type": "noul",
"instructions": "Does this need a reply today?",
"criteria": {
"true": "Money, outage or legal risk",
"false": "Can wait"
}
}
}
} });
console.log(result.answers);
Deze community heeft nog geen topics. Open het eerste topic over Baseten: Elephant 1.