Nace.AI: Drex v2.0

Nace.AI: Drex v2.0 adalah model keputusan dari Nace.AI, dan penerus yang lebih besar dari Drex v1.5. Model ini dibangun sebagai model mixture-of-experts 35B dengan 3B parameter aktif, dan berada dalam kategori decisions, bukan kategori chat umum. Jika Anda mengevaluasinya, kerangka pentingnya adalah bahwa model ini bukan generator teks dalam pengertian biasa: model ini dirancang untuk menerima situasi yang dijelaskan dan mengembalikan jawaban atas pertanyaan spesifik tentang situasi tersebut.

Model ini menerima input teks, termasuk JSON, dan menghasilkan keputusan sebagai output. Provider menggambarkan pola yang dimaksudkan sebagai memberikan state (teks atau JSON) kepada model ditambah pertanyaan bertipe seperti ya/tidak atau pilihan ganda, lalu menerima jawaban yang sesuai. Context window-nya adalah 131072 token, dan output maksimumnya adalah 117964 token. Karena modalitas outputnya adalah keputusan, bukan prosa bebas, Anda sebaiknya mengharapkan jawaban terstruktur atas pertanyaan yang Anda ajukan, bukan esai atau balasan chat.

Bentuk itu mengarah pada serangkaian penggunaan yang cukup spesifik. Di mana pun Anda memiliki state yang dapat diserialisasi sebagai teks atau JSON dan sekumpulan pertanyaan diskret tentangnya, Drex v2.0 adalah kandidat: keputusan triage dan routing, klasifikasi ke dalam sekumpulan opsi tetap, pemeriksaan gating ya/tidak, atau pemilihan pilihan ganda atas ruang jawaban yang telah ditentukan. Context window yang besar berarti state yang Anda masukkan bisa panjang, sehingga pertanyaan dapat didasarkan pada kumpulan input yang substansial, bukan potongan pendek. Model ini kurang cocok untuk tugas di mana Anda menginginkan prosa yang dihasilkan, peringkasan, atau percakapan terbuka, karena hal-hal itu tidak tercakup oleh modalitas outputnya.

Anda memanggilnya melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id "nace-ai/drex-v2.0". Karena API-nya kompatibel dengan OpenAI, Anda dapat mengarahkan klien OpenAI yang sudah ada ke api14 dan mengirim permintaan dalam bentuk chat completions yang biasa, dengan field model diatur ke id tersebut. Perhatikan bahwa model ini tidak mencantumkan parameter yang didukung, jadi Anda tidak boleh mengasumsikan bahwa knob penyetelan seperti temperature atau top_p diterima; kirim state input dan pertanyaan bertipe Anda, lalu andalkan default. Tabel harga langsung di halaman ini mencakup biaya sebuah permintaan.

Mengenai batasan, fakta di sini sempit. Model ini menerima teks dan mengeluarkan keputusan, jadi jika tugas Anda memerlukan input gambar atau audio, atau memerlukan teks yang dihasilkan sebagai output, model lain akan lebih cocok. Demikian pula, karena tidak ada parameter yang didukung yang dicantumkan, jika pipeline Anda bergantung pada penyesuaian perilaku sampling, periksa hal itu sebelum berkomitmen. Dalam batasan tersebut, Drex v2.0 diarahkan tepat pada tugas keputusan terstruktur atas state teks atau JSON yang panjang.