StepFun: Step 3.5 Flash

Langkah 3.5 Flash adalah model teks dari StepFun, terdaftar di api14 dengan id model stepfun/step-3.5-flash. StepFun menggambarkannya sebagai model fondasi open-source mereka yang paling mumpuni, dibangun di atas arsitektur sparse Mixture of Experts yang hanya mengaktifkan 11B dari 196B parameternya per token. Model ini berada di kategori teks, jadi ditujukan untuk pekerjaan bahasa, bukan gambar, audio, atau modalitas lain.

Model ini menerima teks masuk dan mengembalikan teks keluar. Model ini mendukung jendela konteks 262144 token, yang cukup besar untuk menampung dokumen panjang, percakapan panjang, atau file kode berukuran besar dalam satu permintaan, dan dapat menghasilkan hingga 65536 token pada outputnya. Di antara parameter yang didukung adalah reasoning dan include_reasoning, sehingga model dapat menampilkan mode penalaran di samping respons normalnya. Model ini juga menerima tools dan tool_choice, yang berarti model dapat diberi definisi fungsi dan diminta memanggilnya.

Kemampuan tersebut mengarah pada beberapa penggunaan praktis. Konteks panjang cocok untuk meringkas atau menanyakan materi sumber yang panjang, seperti dokumentasi teknis, kontrak, atau basis kode multi-file, tanpa harus memecahnya menjadi potongan-potongan terlebih dahulu. Parameter reasoning cocok untuk masalah yang diuntungkan oleh pengerjaan langkah demi langkah, misalnya analisis multi-langkah atau debugging. Tool calling menjadikannya kandidat untuk alur kerja bergaya agen di mana model memutuskan fungsi mana yang akan dipanggil, dan batas output 65536 token membantu ketika jawabannya sendiri panjang, seperti laporan yang dihasilkan atau refactor besar.

Anda memanggilnya melalui API yang kompatibel dengan OpenAI dari api14 menggunakan id model stepfun/step-3.5-flash, sehingga pustaka klien OpenAI yang ada dan bentuk permintaan yang ada berfungsi hanya dengan mengganti nama model. Parameter permintaan yang didukung adalah frequency_penalty, include_reasoning, max_tokens, reasoning, temperature, tool_choice, tools, top_k dan top_p. Dalam praktiknya Anda menetapkan temperature, top_p atau top_k untuk mengarahkan sampling, menggunakan max_tokens untuk membatasi respons, meneruskan tools dan tool_choice untuk pemanggilan fungsi, serta mengaktifkan reasoning atau include_reasoning ketika Anda ingin perilaku penalaran model muncul dalam respons.

Batasan utama yang perlu diingat adalah ini model khusus teks: model ini tidak menerima input gambar atau audio, jadi tugas multimodal memerlukan model lain. Jika beban kerja Anda sepenuhnya teks dan muat dalam batas konteks 262144 token serta output 65536 token, Step 3.5 Flash adalah pilihan yang wajar, terutama ketika Anda menginginkan penalaran dan tool calling dalam model yang sama.