हम cookies इस्तेमाल करते हैं. Cookies और ब्राउज़र स्टोरेज आपको साइन इन रखते हैं और आपकी प्राथमिकताएं याद रखते हैं। आपकी अनुमति से हम यह भी मापते हैं कि साइट कैसे इस्तेमाल होती है। आप कभी भी । हमारी cookie नीति देखें।
baseten/elephant-1ऊपर दी गई कीमतों पर आपके बैलेंस से चलता है। नए अकाउंट मुफ्त उपयोग से शुरू होते हैं।
सेटिंग्स
Baseten: Elephant 1, Baseten का एक decision model है, जिसे कंपनी की research team, Base Labs ने विकसित किया है। यह Qwen3.5-9B पर बना है और इसमें 9B parameters हैं। free-form conversation generate करने के बजाय, यह model decisions लौटाने के लिए design किया गया है, जो इसे api14 पर decisions category में रखता है। अगर आप ऐसा system बना रहे हैं जिसमें model को prose produce करने के बजाय किसी choice पर commit करना हो, तो यह उस तरह का model है जिसे evaluate किया जाना चाहिए।
Model text input लेता है और output के रूप में decisions produce करता है। इसका context window 16,384 tokens है, और maximum output 14,745 tokens है। Inputs एक state के रूप में हो सकते हैं, जो text या JSON के रूप में दिया जाता है, साथ में typed questions होते हैं। Supported question types हैं yes/no, multiple choice, और ordinal। चूंकि output modality decisions है, आपको उम्मीद करनी चाहिए कि आपके द्वारा पूछे गए questions के structured answers मिलेंगे, narrative text नहीं, और अपनी parsing तथा downstream logic को उसी के अनुसार design करें।
Practical use cases सीधे उसी design से निकलते हैं। एक state के साथ yes/no question approval gates, eligibility checks और policy screening के लिए उपयुक्त है, जहां किसी pipeline को किसी record या request पर स्पष्ट verdict चाहिए। Multiple choice questions routing और classification tasks के लिए फिट होते हैं, जैसे किसी incoming ticket को सही queue में भेजना या किसी document के लिए category चुनना। Ordinal questions तब उपयोगी होते हैं जब answer किसी scale पर हो, उदाहरण के लिए दिए गए state से severity या priority grade करना। State को JSON के रूप में देना उन workflows के लिए फिट होता है जहां input पहले से किसी API या database से आता है और आप उसे prose में reshape किए बिना pass through करना चाहते हैं। हर मामले में model state पढ़ता है और typed question का answer देता है, जो output को narrow रखता है और free text की तुलना में validate करना आसान बनाता है।
आप model को api14 के OpenAI-compatible API के माध्यम से model id "baseten/elephant-1" का उपयोग करके call करते हैं। चूंकि interface OpenAI format का पालन करता है, मौजूदा OpenAI client libraries और request patterns वैसे ही काम करते हैं, बस model id बदल दिया जाता है। Model में API द्वारा default रूप से स्वीकार किए जाने के अलावा कोई supported request parameters सूचीबद्ध नहीं हैं, इसलिए requests को standard fields तक सीमित रखें और temperature या top_p जैसे optional tuning parameters पर निर्भर होने से बचें; इनमें से किसी पर भी build करने से पहले page पर live parameter list देखें। 16,384 token का context window सीमित करता है कि आप एक single request में कितना state और कितने questions भेज सकते हैं, इसलिए inputs को उसी budget के भीतर रखें।
Model text in और decisions out है, इसलिए यह उस काम के लिए फिट नहीं है जिसमें prose, summaries या अन्य generated text चाहिए; वहां general text generation model बेहतर विकल्प है। Supported parameters का न होना यह भी मतलब रखता है कि आप request के माध्यम से sampling behaviour को shape नहीं कर सकते, जो तब मायने रखता है जब आपको varied या creative output चाहिए। एक bounded state पर decision tasks के लिए, typed questions और ऐसे context के साथ जो 16,384 tokens के भीतर फिट हो, Elephant 1 आपके अपने workloads के विरुद्ध test करने के लिए एक focused option है।
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/decisions", { body: {
"model": "baseten/elephant-1",
"state": "Customer: I was charged twice for my order and want my money back.",
"questions": {
"team": {
"type": "choice",
"instructions": "Which team should handle this message?",
"criteria": {
"billing": "Payments, refunds, invoices",
"support": "Product questions and bugs",
"sales": "Pricing and new purchases"
}
},
"urgent": {
"type": "noul",
"instructions": "Does this need a reply today?",
"criteria": {
"true": "Money, outage or legal risk",
"false": "Can wait"
}
}
}
} });
console.log(result.answers);
इस कम्युनिटी में अभी कोई टॉपिक नहीं है। Baseten: Elephant 1 के बारे में पहला टॉपिक खोलें।