Baseten: Mammoth 1 (free)

Baseten: Mammoth 1 (free) is een beslissingsmodel van Baseten, gepubliceerd onder het model-id baseten/mammoth-1:free. Het komt van Base Labs, het onderzoeksteam van Baseten, en is gebouwd op Qwen3.5-27B. De hoofdcategorie is decisions, en die ene categorie beschrijft waar het model voor dient: in plaats van open proza te produceren, is het ontworpen om gestructureerde vragen over een gegeven toestand te beantwoorden.

Het model neemt tekst als invoer en geeft decisions als uitvoer. De beschrijving van de provider kadert de invoer als een state, die tekst of JSON kan zijn, samen met getypeerde vragen. De ondersteunde vraagtypen zijn yes/no, multiple choice en ordinal. Het contextvenster is 16.384 tokens, en de maximale uitvoer is 14.745 tokens. Er zijn geen ondersteunde aanvraagparameters vermeld naast de basis van een OpenAI-compatibele aanroep, dus het model wordt geconfigureerd via de promptinhoud in plaats van via sampling- of toolopties.

Praktisch gebruik volgt direct uit die vorm. Je kunt een JSON-state doorgeven, zoals een record, een configuratie of een set geëxtraheerde velden, en een yes/no-vraag stellen om een binaire beslissing te krijgen. Multiple choice-vragen passen bij routing of classificatie waarbij het antwoord een van een vaste set opties moet zijn. Ordinal-vragen passen bij gevallen waarin het antwoord op een schaal ligt, zoals ernst- of prioriteitsniveaus. Omdat de state platte tekst kan zijn, kan hetzelfde model ook een passage, een supportticket of een logfragment beoordelen. Het contextvenster van 16.384 tokens bepaalt de bovengrens voor hoeveel state en hoeveel vragen je in één aanroep kunt sturen.

Om het via api14 aan te roepen, gebruik je het OpenAI-compatibele chat completions-endpoint met het model-id baseten/mammoth-1:free. Stuur je state en getypeerde vragen als de berichtinhoud, en lees de beslissing uit het antwoord. Er zijn geen extra aanvraagparameters als ondersteund vermeld, dus houd de aanvraag bij de standaardvelden en stop de beslissingslogica in de prompt zelf. Als je clientbibliotheek een parameters-object verwacht, is het leeg laten ervan de veilige keuze.

De belangrijkste beperking om in gedachten te houden is het contextvenster van 16.384 tokens, wat bescheiden is als je lange documenten samen met je vragen moet opnemen. De uitvoermodaliteit is decisions, dus dit is niet het model om te kiezen wanneer je gegenereerd proza, samenvattingen of code nodig hebt. Als je taak open einde schrijven of algemene chat is in plaats van het beantwoorden van getypeerde vragen over een state, past een ander model beter.