Mistral: Mistral Small 3.2 24B

Mistral Small 3.2 24B adalah model bahasa yang diinstruksikan dari Mistral, dirilis oleh penyedia pada 2025-06-20 dengan model id mistralai/mistral-small-3.2-24b-instruct. Ini adalah model dengan 24B parameter, dan rilis 3.2 ini merupakan pembaruan dari versi 3.1, dioptimalkan untuk mengikuti instruksi, mengurangi pengulangan, dan meningkatkan pemanggilan fungsi. Model ini berada dalam kategori teks, dan batas pengetahuannya adalah 2023-10-31.

Model ini menerima teks dan gambar sebagai input dan menghasilkan teks sebagai output, sehingga dapat menangani prompt multimodal yang menggabungkan instruksi tertulis dengan konten visual. Model ini memiliki jendela konteks 256.000 token, yang memungkinkan dokumen panjang, percakapan yang diperpanjang, atau muatan gambar dan teks yang besar diproses dalam satu permintaan. Panjang output maksimum adalah 16.384 token. Parameter permintaan yang didukung meliputi temperature, top_p, top_k, min_p, frequency_penalty, presence_penalty, repetition_penalty, max_tokens, stop, seed, logit_bias, logprobs, top_logprobs, response_format, structured_outputs, tools, dan tool_choice.

Kemampuan tersebut mengarah pada beberapa penggunaan praktis. Konteks panjang dan input gambar cocok untuk analisis dokumen, di mana pengembang mengirim halaman yang dipindai atau tangkapan layar bersama pertanyaan tentang isinya. Pemanggilan fungsi dan dukungan alat yang ditingkatkan menjadikannya pilihan yang wajar untuk alur kerja bergaya agen yang perlu memanggil fungsi atau API eksternal. Output terstruktur dan response_format membantu ketika aplikasi membutuhkan JSON atau bentuk lain yang dapat diprediksi daripada teks bebas. Mengikuti instruksi dan mengurangi pengulangan penting untuk asisten obrolan, peringkasan, dan tugas ekstraksi di mana frasa yang konsisten itu penting. Parameter seed mendukung pengambilan sampel yang dapat direproduksi untuk pengujian.

Anda memanggil model melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id mistralai/mistral-small-3.2-24b-instruct. Karena antarmuka mengikuti format chat completions OpenAI, Anda mengirim permintaan dengan field model diatur ke id tersebut dan array messages yang berisi konten teks dan gambar Anda. Parameter permintaan yang tercantum di atas didukung, sehingga Anda dapat mengatur kontrol pengambilan sampel seperti temperature, top_p, top_k, dan min_p, menerapkan penalti, membatasi output dengan max_tokens, membatasi generasi dengan stop, response_format, atau structured_outputs, dan melampirkan tools dengan tool_choice untuk pemanggilan fungsi. Opsi log probability (logprobs dan top_logprobs) dan logit_bias juga tersedia.

Dua batasan perlu diperhatikan saat memutuskan. Batas pengetahuan adalah 2023-10-31, sehingga pertanyaan tentang peristiwa setelah tanggal itu bergantung pada informasi yang Anda berikan dalam prompt, bukan pada pengetahuan model itu sendiri. Output dibatasi pada 16.384 token, yang mungkin ketat untuk tugas yang membutuhkan dokumen yang dihasilkan sangat panjang. Jika beban kerja Anda hanya teks, atau jika Anda membutuhkan model dengan batas pengetahuan yang lebih baru, model lain mungkin lebih cocok.