Mistral: Mistral Medium 3.5 (batch)

Mistral Medium 3.5 (batch) adalah model generasi teks dari Mistral AI, yang diidentifikasi di api14 sebagai mistralai/mistral-medium-3-5:batch. Ini adalah model dense 128B yang mengikuti instruksi, yang berarti semua parameternya aktif pada setiap permintaan alih-alih dirutekan melalui pengaturan mixture-of-experts. Varian batch adalah versi yang diekspos melalui endpoint ini, dan model ini berada di kategori teks di api14.

Model ini menerima input teks, gambar, dan file, serta hanya mengembalikan teks. Jendela konteksnya adalah 262,144 token, dan panjang output maksimumnya adalah 209,715 token, sehingga model dapat menerima input yang sangat besar dan menghasilkan respons panjang dalam satu panggilan. Karena gambar dan file diterima bersama teks, Anda dapat mengirim prompt campuran yang menggabungkan instruksi tertulis dengan konten visual atau dokumen, dan model akan menalar atas semuanya sebelum menghasilkan jawabannya.

Kemampuan tersebut mengarah pada beberapa penggunaan praktis. Jendela konteks yang besar cocok untuk pekerjaan atas dokumen panjang, basis kode, atau input multi-file di mana Anda biasanya perlu memecah dan menyambung hasil. Input gambar membuatnya cocok untuk tugas yang mencampur tangkapan layar, diagram, atau halaman hasil pindai dengan instruksi teks. Mistral mendeskripsikan model ini sebagai dirancang untuk alur kerja agentic, pengkodean, dan tugas kompleks, sehingga pemanggilan tool dan generasi terstruktur adalah titik awal yang wajar. Varian batch adalah pilihan alami untuk pekerjaan offline atau yang berorientasi throughput di mana Anda mengirim banyak permintaan dan mengumpulkan hasilnya, bukan untuk obrolan interaktif di mana latensi paling penting.

Anda memanggil model ini melalui API yang kompatibel dengan OpenAI dari api14 menggunakan id model mistralai/mistral-medium-3-5:batch. Endpoint ini mendukung frequency_penalty, include_reasoning, max_tokens, presence_penalty, reasoning, reasoning_effort, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, dan top_p. Dalam praktiknya, itu berarti Anda dapat mengontrol sampling dengan temperature, top_p, dan dua parameter penalti, membatasi output dengan max_tokens, menetapkan keacakan dengan seed, dan mendefinisikan urutan stop. Untuk pekerjaan terstruktur, response_format dan structured_outputs memungkinkan Anda membatasi bentuk balasan, sementara tools dan tool_choice mendukung pemanggilan fungsi, dan parameter reasoning memungkinkan Anda menyetel seberapa banyak penalaran internal yang diekspos atau dilakukan model.

Satu hal yang perlu dipertimbangkan adalah penanda batch. Jika aplikasi Anda membutuhkan respons per giliran dengan latensi rendah, model non-batch kemungkinan lebih cocok, dan hal yang sama berlaku jika Anda hanya membutuhkan input dan output teks, karena modalitas gambar dan file tidak akan terpakai. Konteks 262,144 token dan batas output 209,715 token memang lega, tetapi tetap terbatas, sehingga korpus yang sangat besar mungkin perlu dipecah ke beberapa panggilan. Dalam batas tersebut, model ini mencakup pekerjaan teks konteks panjang, prompt multimodal, pengkodean, dan alur agen yang digerakkan tool dari satu endpoint.