Thinking Machines: Inkling Small

Thinking Machines: Inkling Small, Thinking Machines Lab tarafından geliştirilen açık ağırlıklı, çok kipli bir uzmanlar karışımı modelidir. Toplam 276B parametrenin 12B'si aktif parametredir ve Inkling ailesinin daha küçük, daha verimli üyesi olarak konumlandırılmıştır. Sağlayıcı sürüm tarihi 2026-07-30'dur. Ağırlıklar açık olduğu için, bir modeli incelemek, kendi sunucusunda barındırmak veya ince ayar yapmak isteyen ekipler bu seçeneğe sahiptir; altyapıyı kendileri çalıştırmak istemeyenler için api14 üzerindeki barındırılan uç nokta kullanılabilir.

Model metin, görüntü ve ses girdilerini kabul eder ve metin döndürür. Bağlam penceresi 524288 token'dır ve maksimum çıktı 262144 token'dır, bu nedenle çok büyük belgeleri, uzun kayıtları veya görüntü kümelerini bir istemle birlikte alabilir ve tek bir çağrıda yine de uzun bir yanıt üretebilir. Uzmanlar karışımı tasarımı, token başına toplam parametrelerin yalnızca bir kısmının aktif olduğu anlamına gelir; bu, bu büyüklükteki bir modelin makul gecikme ve verimle sunulabilmesinin ana nedenidir. Akıl yürütme davranışı API aracılığıyla açığa çıkarılır, böylece nihai yanıttan önce ne kadar içsel değerlendirme istediğinize karar verebilirsiniz.

Bu yetenekler oldukça belirli bir kullanım kümesine işaret eder. Uzun bağlamlı çalışma bariz uyumdur: daha küçük bir pencereye sığmayacak büyük kod tabanlarını, sözleşme kümelerini, araştırma derlemlerini veya destek talebi geçmişlerini özetlemek ya da sorgulamak. Çok kipli girdi, gömülü görüntüler içeren taranmış belgelerden yapılandırılmış veri çıkarmak, sesi yazıya döküp ardından üzerinde akıl yürütmek veya bir ekran görüntüsü ile yazılı bir özet hakkında soruları yanıtlamak gibi biçimleri karıştıran görevler için modeli kullanışlı kılar. Araç çağırma ve akıl yürütme desteği, modelin hangi işlevi çağıracağına karar vermesi ve ardından sonucunu açıklaması gereken ajan tarzı iş akışlarına uygundur.

Modeli api14'ün OpenAI uyumlu API'si üzerinden "thinkingmachines/inkling-small" model kimliğini kullanarak çağırırsınız. Desteklenen istek parametreleri frequency_penalty, include_reasoning, logit_bias, max_tokens, min_p, presence_penalty, reasoning, reasoning_effort, repetition_penalty, seed, stop, temperature, tool_choice, tools, top_k ve top_p'dir. OpenAI sohbet tamamlama yapısına göre yazılmış kodunuz zaten varsa, bu modele geçmek çoğunlukla model dizesini değiştirmekten ve akıl yürütme çıktısı istiyorsanız include_reasoning veya reasoning_effort ayarlamaktan ibarettir.

Bu bir metin çıktılı modeldir, dolayısıyla üretilmiş görüntü, ses veya video gerektiren her şey burada kapsam dışıdır. 262144 token çıktı sınırı cömerttir ancak yine de sonludur; bu, çok uzun üretim işleri için önemlidir. İş yükünüz küçük, gecikmeye duyarlı ve tamamen metinsel ise daha hafif bir modeli çalıştırmak daha ucuz olabilir ve metnin ötesinde çıktı kipleri gerekiyorsa farklı bir modele ihtiyacınız olacaktır.