Baseten: Elephant 1 (free)

Elephant 1 è un modello decisionale di Baseten, rilasciato con il model id baseten/elephant-1:free. Proviene da Base Labs, il team di ricerca di Baseten, ed è costruito su Qwen3.5-9B, una base da 9B parametri. La categoria principale del modello è decisions, che riflette ciò per cui è progettato, piuttosto che chat generica o generazione di contenuti. La data di rilascio del provider indicata per questo modello è 2026-10-21.

Il modello accetta testo come modalità di input e produce decisioni come modalità di output. È costruito per lavorare a partire da uno stato, fornito come testo o JSON, insieme a domande tipizzate. Tali domande possono essere sì/no, a scelta multipla o ordinali. La context window è di 16.384 token, e l'output massimo è di 14.745 token. I parametri supportati non sono elencati per questo modello, quindi non dovresti dare per scontato che controlli di campionamento come temperature o top_p siano disponibili quando lo chiami.

Poiché l'output è una decisione e non prosa libera, gli usi pratici derivano dal porre domande strutturate su uno stato fornito. Puoi passare uno stato JSON e porre una domanda sì/no per ottenere un giudizio binario, oppure presentare un insieme di opzioni e chiedere al modello di scegliere tra esse. Le domande ordinali ti permettono di collocare un esito su una scala invece di scegliere una singola etichetta. Questo si adatta a flussi di lavoro come routing o triage, dove una richiesta o un record deve essere classificato prima di ulteriori elaborazioni, e a passaggi di screening in cui uno stato deve essere verificato rispetto a una condizione. Si adatta anche a qualsiasi pipeline in cui desideri una risposta compatta e tipizzata su cui il codice a valle possa agire, invece di testo che deve essere analizzato.

Chiami il modello tramite l'API compatibile con OpenAI di api14 usando il model id "baseten/elephant-1:free". Poiché l'API è compatibile con OpenAI, invii le richieste nella consueta forma chat completions, con lo stato e le tue domande tipizzate nel contenuto del messaggio, e leggi la decisione dalla risposta. Il modello accetta input testuale e restituisce decisioni, quindi mantieni il prompt focalizzato sullo stato e sulla domanda a cui vuoi una risposta. Poiché non sono elencati parametri supportati, invia il model id e i tuoi messaggi ed evita di fare affidamento su parametri di richiesta aggiuntivi per modificare il comportamento.

Tieni presente il limite di contesto: 16.384 token coprono lo stato più le tue domande, quindi documenti molto grandi dovranno essere ridotti o suddivisi prima di inviarli. Il limite di output di 14.745 token è generoso per una decisione, ma la risposta stessa è una decisione e non una spiegazione, quindi se hai bisogno di ragionamento esteso, riassunto o generazione aperta, un modello di testo generale potrebbe essere più adatto. Elephant 1 è la scelta giusta quando il compito è rispondere a domande tipizzate su uno stato dato e vuoi il risultato come decisione.