Kami menggunakan cookie. Cookie dan penyimpanan browser menjaga Anda tetap masuk dan mengingat preferensi Anda. Dengan izin Anda, kami juga mengukur cara situs digunakan. Anda dapat kapan saja. Lihat kebijakan cookie kami.
baseten/elephant-1Berjalan dengan saldo Anda sesuai harga di atas. Akun baru mendapat pemakaian gratis.
Pengaturan
Baseten: Elephant 1 adalah model keputusan dari Baseten, yang dikembangkan oleh Base Labs, tim riset perusahaan tersebut. Model ini dibangun di atas Qwen3.5-9B dan memiliki 9B parameter. Alih-alih menghasilkan percakapan bebas, model ini dirancang untuk mengembalikan keputusan, yang menempatkannya dalam kategori decisions di api14. Jika Anda membangun sistem yang membutuhkan model untuk menetapkan suatu pilihan alih-alih menghasilkan prosa, inilah jenis model yang perlu dievaluasi.
Model ini menerima input teks dan menghasilkan keputusan sebagai output. Jendela konteksnya adalah 16.384 token, dan output maksimumnya adalah 14.745 token. Input dapat berupa state, yang diberikan sebagai teks atau JSON, bersama dengan pertanyaan bertipe. Jenis pertanyaan yang didukung adalah yes/no, multiple choice, dan ordinal. Karena modalitas outputnya adalah keputusan, Anda sebaiknya mengharapkan jawaban terstruktur atas pertanyaan yang Anda ajukan alih-alih teks naratif, dan rancang logika parsing serta pemrosesan hilir Anda berdasarkan hal itu.
Kasus penggunaan praktisnya mengikuti langsung dari desain tersebut. State ditambah pertanyaan yes/no cocok untuk gerbang persetujuan, pemeriksaan kelayakan, dan penyaringan kebijakan, di mana sebuah pipeline membutuhkan putusan yang jelas atas suatu catatan atau permintaan. Pertanyaan multiple choice cocok untuk tugas routing dan klasifikasi, seperti mengirim tiket masuk ke antrean yang tepat atau memilih kategori untuk suatu dokumen. Pertanyaan ordinal berguna ketika jawabannya berada pada suatu skala, misalnya menilai tingkat keparahan atau prioritas dari state yang diberikan. Memberikan state sebagai JSON cocok untuk alur kerja di mana input sudah berasal dari API atau basis data dan Anda ingin meneruskannya tanpa membentuknya ulang menjadi prosa. Dalam setiap kasus, model membaca state dan menjawab pertanyaan bertipe, yang menjaga output tetap sempit dan lebih mudah divalidasi daripada teks bebas.
Anda memanggil model ini melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id "baseten/elephant-1". Karena antarmukanya mengikuti format OpenAI, pustaka klien OpenAI yang ada dan pola permintaan tetap berlaku, dengan model id yang diganti. Model ini tidak mencantumkan parameter permintaan yang didukung di luar apa yang diterima API secara default, jadi batasi permintaan pada field standar dan hindari mengandalkan parameter penyetelan opsional seperti temperature atau top_p; periksa daftar parameter langsung di halaman sebelum Anda membangun di atas salah satunya. Jendela konteks 16.384 token membatasi berapa banyak state dan berapa banyak pertanyaan yang dapat Anda kirim dalam satu permintaan, jadi jaga input tetap dalam anggaran tersebut.
Model ini menerima teks dan mengeluarkan keputusan, sehingga tidak cocok untuk pekerjaan yang membutuhkan prosa, ringkasan, atau teks yang dihasilkan lainnya; model generasi teks umum adalah pilihan yang lebih baik untuk itu. Tidak adanya parameter yang didukung juga berarti Anda tidak dapat membentuk perilaku sampling melalui permintaan, yang penting jika Anda membutuhkan output yang bervariasi atau kreatif. Untuk tugas keputusan atas state yang terbatas, dengan pertanyaan bertipe dan konteks yang muat dalam 16.384 token, Elephant 1 adalah opsi terfokus untuk diuji terhadap beban kerja Anda sendiri.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/decisions", { body: {
"model": "baseten/elephant-1",
"state": "Customer: I was charged twice for my order and want my money back.",
"questions": {
"team": {
"type": "choice",
"instructions": "Which team should handle this message?",
"criteria": {
"billing": "Payments, refunds, invoices",
"support": "Product questions and bugs",
"sales": "Pricing and new purchases"
}
},
"urgent": {
"type": "noul",
"instructions": "Does this need a reply today?",
"criteria": {
"true": "Money, outage or legal risk",
"false": "Can wait"
}
}
}
} });
console.log(result.answers);
Komunitas ini belum memiliki topik. Buka topik pertama tentang Baseten: Elephant 1.