Mistral: Mistral Small 3.1 24B

Mistral Small 3.1 24B Instruct, Mistral tarafından geliştirilen ve sağlayıcı tarafından 17 Mart 2025 tarihinde yayımlanan bir metin üretim modelidir. Mistral Small 3 (2501) modelinin geliştirilmiş bir varyantıdır ve 24 milyar parametreye sahiptir. api14 üzerinde metin kategorisinde yer alır ve çağırırken kullandığınız model id değeri mistralai/mistral-small-3.1-24b-instruct şeklindedir.

Model girdi olarak metin ve görüntü kabul eder ve metin döndürür. Bağlam penceresi 128.000 token, maksimum çıktısı 102.400 token olduğundan uzun belgeler ve uzun üretimler tek bir istekte rahatça yer bulur. Bilgi kesim tarihi 31 Ekim 2023'tür. Çok kipli girdi, metin istemlerinin yanında görüntü de iletebileceğiniz anlamına gelir; bu, bir görev yalnızca bir ekran görüntüsünde, diyagramda veya taranmış sayfada bulunan bilgilere bağlı olduğunda kullanışlıdır.

Hem metni hem de görüntüleri geniş bir bağlam üzerinde işlediği için model belge ve görüntü anlama görevlerine uygundur: uzun raporları özetleme, taranmış formlardan veya ekran görüntülerinden yapılandırılmış veri çıkarma, sağlanan bir belgeye dayalı soruları yanıtlama ve metin ile görüntüyü birlikte içeren destek iş akışları. 128k bağlam ayrıca kod tabanı düzeyindeki sorular, uzun konuşma geçmişleri ve tek bir çağrıda çok fazla materyal göndermek istediğiniz toplu analiz tarzı işler için de makul kılar. Araç ve fonksiyon çağırma desteği bunu, veri getirmesi veya eylem tetiklemesi gereken ajan tarzı ardışık düzenlere genişletir.

Modeli api14'ün OpenAI uyumlu API'si üzerinden mistralai/mistral-small-3.1-24b-instruct model id değerini kullanarak çağırırsınız; bu, mevcut OpenAI SDK'larının ve istemcilerinin yalnızca temel URL ve anahtar değiştirilerek çalıştığı anlamına gelir. Desteklediği istek parametreleri frequency_penalty, logit_bias, logprobs, max_tokens, min_p, presence_penalty, repetition_penalty, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k, top_logprobs ve top_p şeklindedir. Yapılandırılmış çıktılar ve örnekleme kontrolleri, öngörülebilir JSON veya sıkı biçimde kısıtlanmış üretimlere ihtiyaç duyduğunuzda kullanışlıdır; seed ise test sırasında yeniden üretilebilirliğe yardımcı olur.

Karar vermeden önce dikkate değer iki sınır vardır. Bilgi kesim tarihi 31 Ekim 2023'tür, dolayısıyla bu tarihten sonraki her şey modelin kendi bilgisinden değil, isteminizden veya araçlardan gelmelidir. Çıktı yalnızca metindir, yani üretilmiş görüntü veya ses gerekiyorsa bu model doğru seçim değildir. Tamamen metin olan ve daha küçük bir bağlama rahatça sığan görevler için daha hafif bir model daha ucuz ve daha hızlı olabilir, ancak 128k token'da çok kipli girdi için bu model geniş bir çalışma yelpazesini kapsar.