Mistral: Mistral Small 3

Mistral Small 3, Mistral tarafından geliştirilen ve sağlayıcı tarafından 30 Ocak 2025 tarihinde yayımlanan bir metin üretim modelidir. Yaygın yapay zeka görevlerinde düşük gecikmeli performans için optimize edilmiş 24B parametreli bir dil modelidir ve Apache 2.0 lisansı altında yayımlanmıştır. Hem önceden eğitilmiş hem de talimatlarla ince ayarlanmış sürümleri vardır ve burada mistralai/mistral-small-24b-instruct-2501 model kimliği altında sunulan, talimatlarla ince ayarlanmış varyanttır.

Model metin girdisiyle çalışır ve metin çıktısı üretir, bu nedenle standart sohbet ve tamamlama tarzı iş yüklerine uygundur. İstem ile üretilen yanıtı birlikte kapsayan 32768 token bağlam penceresine sahiptir ve tek bir çıktıda en fazla 16384 token üretebilir. Bilgi kesim tarihi 31 Ekim 2023'tür, yani bu tarihten sonra gerçekleşen her şey modelin eğitim sırasında öğrendiklerinin dışında kalır. Orta düzey parametre sayısı ile 32k bağlamın birleşimi, modeli herhangi bir dar görevde uzman olmaktan çok genel amaçlı bir talimat modeli yapar.

Talimatlarla ince ayarlanmış olması ve düşük gecikme için optimize edilmesi nedeniyle model, yanıt hızının önemli olduğu günlük görevlere uygundur: sohbet asistanları, özetleme, yeniden yazma, sınıflandırma, çıkarım ve bağlam penceresine sığan materyal üzerinde soru yanıtlama. 16384 tokenlık çıktı üst sınırı, çok paragraflı taslaklar veya yapılandırılmış belgeler gibi daha uzun üretimlere olanak tanır; 32768 tokenlık bağlam ise örneğin birkaç belge veya uzun bir konuşma geçmişi gibi hatırı sayılır miktarda referans metni içeren istemleri destekler. Yüksek hacimli, gecikmeye duyarlı uç noktalar için güvenilir bir metin modeline ihtiyaç duyan geliştiriciler hedeflenen kullanıcı kitlesidir.

Modele api14'ün OpenAI uyumlu API'si üzerinden mistralai/mistral-small-24b-instruct-2501 model kimliğini kullanarak erişirsiniz; bu, mevcut OpenAI istemci kütüphanelerinin ve istek yapılarının yalnızca model adı değiştirilerek çalıştığı anlamına gelir. Model frequency_penalty, logit_bias, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, top_k ve top_p parametrelerini destekler. Yapılandırılmış çıktılar ve response_format, yanıtı tanımlı bir biçimde almanız gereken durumlar için kullanılabilir; seed ise örneklemeyi daha tekrarlanabilir hale getirmeye yardımcı olabilir. Örnekleme davranışı temperature, top_p, top_k ve min_p ile kontrol edilir; repetition_penalty, frequency_penalty ve presence_penalty ise modelin kendini ne kadar tekrar ettiğini şekillendirir.

Karar vermeden önce dikkate değer iki pratik kısıt vardır. 31 Ekim 2023 bilgi kesim tarihi, modelin sonraki olaylara dair yerleşik bir farkındalığı olmadığı anlamına gelir; bu nedenle güncel bilgilere bağlı uygulamaların bunu istem içinde sağlaması gerekir. Girdi ve çıktı yalnızca metindir; iş yükünüz görüntü veya ses içeriyorsa bu model doğru seçim değildir. Ayrıca 32768 tokenlık bağlam penceresiyle çok büyük girdilerin olduğu gibi iletilmesi yerine parçalara ayrılması veya geri getirme kullanılması gerekecektir.