Baseten: Elephant 1 (free)

Elephant 1 is een beslissingsmodel van Baseten, uitgebracht onder de model-id baseten/elephant-1:free. Het komt van Base Labs, het onderzoeksteam van Baseten, en is gebouwd op Qwen3.5-9B, een basismodel met 9B parameters. De hoofdcategorie van het model is decisions, wat weergeeft waarvoor het is ontworpen in plaats van algemene chat of contentgeneratie. De releasedatum van de provider die voor dit model wordt vermeld, is 2026-10-21.

Het model neemt tekst als invoermodaliteit en produceert beslissingen als uitvoermodaliteit. Het is gebouwd om te werken vanuit een state, gegeven als tekst of JSON, samen met getypeerde vragen. Die vragen kunnen ja/nee, meerkeuze of ordinaal zijn. Het contextvenster is 16.384 tokens en de maximale uitvoer is 14.745 tokens. Ondersteunde parameters worden niet vermeld voor dit model, dus je moet er niet van uitgaan dat sampling-instellingen zoals temperature of top_p beschikbaar zijn wanneer je het aanroept.

Omdat de uitvoer een beslissing is en geen vrije tekst, volgen de praktische toepassingen uit het stellen van gestructureerde vragen over een aangeleverde state. Je kunt een JSON-state doorgeven en een ja/nee-vraag stellen om een binair oordeel te krijgen, of een reeks opties presenteren en het model vragen er een te kiezen. Met ordinale vragen kun je een uitkomst op een schaal plaatsen in plaats van één label te kiezen. Dit past bij workflows zoals routing of triage, waarbij een verzoek of record moet worden geclassificeerd voordat verdere verwerking plaatsvindt, en bij screeningsstappen waarbij een state tegen een voorwaarde moet worden gecontroleerd. Het past ook bij elke pipeline waarin je een compact, getypeerd antwoord wilt waar downstreamcode op kan handelen, in plaats van tekst die moet worden geparseerd.

Je roept het model aan via de OpenAI-compatibele API van api14 met de model-id "baseten/elephant-1:free". Omdat de API OpenAI-compatibel is, verstuur je verzoeken in de gebruikelijke vorm voor chat completions, met de state en je getypeerde vragen in de berichtinhoud, en lees je de beslissing uit het antwoord. Het model accepteert tekstinvoer en retourneert beslissingen, dus houd de prompt gericht op de state en de vraag die je beantwoord wilt hebben. Omdat er geen ondersteunde parameters worden vermeld, stuur je de model-id en je berichten mee en vermijd je het vertrouwen op extra verzoekparameters om gedrag te veranderen.

Houd de contextlimiet in gedachten: 16.384 tokens omvatten de state plus je vragen, dus zeer grote documenten moeten worden ingekort of opgesplitst voordat je ze verstuurt. De uitvoerlimiet van 14.745 tokens is ruim voor een beslissing, maar het antwoord zelf is een beslissing en geen uitleg, dus als je uitgebreide redeneringen, samenvattingen of open-ended generatie nodig hebt, past een algemeen tekstmodel mogelijk beter. Elephant 1 is de juiste keuze wanneer de taak is om getypeerde vragen over een gegeven state te beantwoorden en je het resultaat als een beslissing wilt.