Together: Tev1 4B Experimental

Together: Tev1 4B Experimental adalah model keputusan eksperimental dari Together AI. Ini adalah supervised fine-tune dari Qwen3.5-4B, yang dilatih untuk memilih satu opsi dari state terstruktur, sebuah pertanyaan, dan daftar opsi. Model ini berada dalam kategori decisions, dan namanya mencerminkan statusnya: ini adalah rilis eksperimental, bukan model chat serbaguna.

Model ini menerima teks sebagai satu-satunya input dan menghasilkan keputusan sebagai satu-satunya output. Context window-nya adalah 32768 token, yang cukup untuk menampung state terstruktur, sebuah pertanyaan, dan daftar 2 hingga 24 opsi kandidat dalam satu permintaan. Output maksimumnya adalah 8 token, yang sesuai dengan bentuk tugasnya: model mengembalikan sebuah pilihan, bukan esai. Tidak ada generasi teks bebas di sini, dan tidak ada input gambar, audio, atau non-teks lainnya.

Karena outputnya adalah satu keputusan yang diambil dari daftar yang diberikan, kasus penggunaan praktisnya adalah saat sebuah sistem perlu memilih satu opsi dari himpunan yang diketahui. Contohnya termasuk merutekan permintaan ke handler yang benar, memilih kategori atau label dari taksonomi tetap, memilih tindakan berikutnya dalam alur kerja, atau menyelesaikan percabangan dalam loop agen. State terstruktur dan pertanyaan memberi model konteks yang dibutuhkannya, dan daftar opsi membatasi ruang jawaban, sehingga hasilnya dapat langsung dikonsumsi oleh kode hilir tanpa perlu mengurai prosa.

Anda memanggil model ini melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id "togethercomputer/tev1-4b-experimental". Karena antarmukanya mengikuti bentuk chat completions OpenAI, Anda mengirim state, pertanyaan, dan opsi sebagai input teks dalam request body yang biasa dan membaca keputusan dari respons. Model ini tidak mendukung parameter permintaan tambahan di luar yang standar, jadi tidak ada temperature, top_p, atau kontrol sampling serupa yang bisa disetel. Dengan output maksimum 8 token, responsnya singkat secara desain.

Model ini cocok untuk tugas keputusan dengan himpunan opsi yang terbatas, bukan percakapan terbuka, penulisan panjang, atau penalaran yang berat alat. Jika tugas Anda membutuhkan prosa yang dihasilkan, penjelasan multi-langkah, atau input selain teks, model lain akan lebih cocok. Konteks 32768 token dan rentang opsi 2 hingga 24 juga mendefinisikan bentuk masalah yang dilatihnya, jadi jaga state dan pertanyaan tetap ringkas serta daftar opsi tetap dalam rentang tersebut.