Mistral: Mistral Small 3.1 24B

Mistral Small 3.1 24B Instruct adalah model generasi teks dari Mistral, yang dirilis oleh penyedia pada 17 Maret 2025. Ini adalah varian yang ditingkatkan dari Mistral Small 3 (2501) dan membawa 24 miliar parameter. Di api14 model ini berada di kategori teks, dan model id yang Anda gunakan saat memanggilnya adalah mistralai/mistral-small-3.1-24b-instruct.

Model ini menerima teks dan gambar sebagai input dan mengembalikan teks. Jendela konteksnya adalah 128.000 token, dengan output maksimum 102.400 token, sehingga dokumen panjang dan generasi panjang sama sama muat dengan nyaman dalam satu permintaan. Batas pengetahuan adalah 31 Oktober 2023. Input multimodal berarti Anda dapat memberikan gambar bersama prompt teks, yang berguna ketika suatu tugas bergantung pada informasi yang hanya ada dalam screenshot, diagram atau halaman hasil pindai.

Karena model ini menangani teks dan gambar dalam konteks yang besar, model ini cocok untuk tugas pemahaman dokumen dan gambar: meringkas laporan panjang, mengekstrak data terstruktur dari formulir hasil pindai atau screenshot, menjawab pertanyaan yang berbasis pada dokumen yang diberikan, dan alur kerja dukungan campuran teks dan gambar. Konteks 128k juga membuatnya wajar untuk pertanyaan tingkat basis kode, riwayat percakapan panjang dan analisis bergaya batch di mana Anda ingin mengirim banyak materi dalam satu panggilan. Dukungan pemanggilan tool dan function memperluas ini ke pipeline bergaya agen yang perlu mengambil data atau memicu tindakan.

Anda memanggil model ini melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id mistralai/mistral-small-3.1-24b-instruct, yang berarti SDK dan klien OpenAI yang ada dapat bekerja hanya dengan mengubah base URL dan key. Parameter permintaan yang didukungnya adalah frequency_penalty, logit_bias, logprobs, max_tokens, min_p, presence_penalty, repetition_penalty, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k, top_logprobs dan top_p. Structured outputs dan kontrol sampling berguna ketika Anda membutuhkan JSON yang dapat diprediksi atau generasi yang sangat dibatasi, sementara seed membantu reproduktibilitas selama pengujian.

Ada dua batasan yang perlu diperhatikan sebelum Anda memutuskan. Batas pengetahuan adalah 31 Oktober 2023, jadi apa pun setelah tanggal itu harus berasal dari prompt Anda atau dari tool, bukan dari pengetahuan model itu sendiri. Output hanya berupa teks, jadi jika Anda membutuhkan gambar atau audio yang dihasilkan, model ini bukan pilihan yang tepat. Untuk tugas yang sepenuhnya teks dan jauh di dalam konteks yang lebih kecil, model yang lebih ringan mungkin lebih murah dan lebih cepat, tetapi untuk input multimodal pada 128k token, model ini mencakup berbagai pekerjaan yang luas.