Mistral: Voxtral Small 24B 2507

Mistral: Voxtral Small 24B 2507 adalah model dari Mistral, yang dirilis oleh penyedia pada 2025-10-30. Model ini berada di kategori teks dan dibangun sebagai penyempurnaan dari Mistral Small 3, menambahkan kemampuan input audio sekaligus mempertahankan performa teks dari model sebelumnya tersebut. Jika Anda sudah mengenal Mistral Small 3, cara yang berguna untuk memahami Voxtral Small adalah bahwa model ini mempertahankan perilaku teks dan memperluas apa yang dapat diterima model sebagai input.

Pada input dan output, model ini menerima teks, audio dan file, dan hanya menghasilkan teks. Jendela konteksnya adalah 32768 token, dan output maksimumnya adalah 26214 token. Menurut penyedia, model ini unggul dalam transkripsi ucapan, terjemahan dan pemahaman audio, yang berarti audio bukan tambahan yang ditempelkan begitu saja melainkan jalur input kelas utama bersama teks. Kombinasi konteks 32k dan batas output yang besar membuatnya praktis untuk tugas yang inputnya panjang, seperti rekaman rapat plus instruksi, dan jawabannya membutuhkan ruang yang cukup.

Kemampuan tersebut mengarah ke serangkaian kasus penggunaan yang cukup spesifik. Transkripsi ucapan adalah yang paling jelas, baik Anda mengubah rekaman menjadi catatan tertulis atau memasukkan konten lisan ke dalam pipeline teks. Terjemahan mengikuti dari pemahaman audio yang sama, misalnya mengubah ucapan dalam satu bahasa menjadi teks dalam bahasa lain. Pemahaman audio mencakup kasus yang lebih luas: merangkum panggilan, mengekstrak item tindakan dari rekaman, atau menjawab pertanyaan tentang apa yang dikatakan. Karena input teks masih didukung dan model ini mempertahankan performa teks yang kuat, Anda juga dapat mencampur modalitas dalam satu permintaan, memberikan transkrip atau dokumen bersama audio dan meminta hasil gabungan.

Anda memanggil model ini melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id "mistralai/voxtral-small-24b-2507". Parameter permintaan yang didukung adalah frequency_penalty, max_tokens, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools dan top_p. Pemanggilan tool dan output terstruktur keduanya tersedia, sehingga Anda dapat menghubungkan model ini ke dalam loop agen atau memaksa respons berbentuk JSON ketika outputnya memberi masukan ke sistem lain. Kontrol sampling (temperature, top_p, dua penalty, seed dan stop) berperilaku seperti yang Anda harapkan dari endpoint yang kompatibel dengan OpenAI.

Batasan utama yang perlu diingat adalah modalitas output: model ini mengembalikan teks, bukan audio, jadi ini bukan opsi sintesis ucapan. Jendela konteks 32768 token juga tergolong sedang, dan dokumen yang sangat panjang atau rekaman berjam-jam mungkin perlu dipotong menjadi beberapa bagian sebelum muat. Jika tugas Anda murni teks dan tidak mendapat manfaat dari input audio, model khusus teks mungkin lebih cocok. Jika Anda membutuhkan audio masuk dan teks keluar, model ini ditujukan tepat untuk itu.