Thinking Machines: Inkling Small (free)

Thinking Machines: Inkling Small (free), Thinking Machines tarafından sunulan bir metin modelidir. Thinking Machines Lab tarafından geliştirilen, açık ağırlıklı, çok kipli bir uzmanlar karışımı modelidir; toplam 276B parametrenin 12B'si etkindir. Sağlayıcı, modeli ailesinin daha küçük ve daha verimli üyesi olarak tanımlar; bu da ürün yelpazesindeki yerini gösterir: laboratuvarın sunduğu en büyük model değil, kompakt bir seçenek.

Model girdi olarak metin, görüntü ve ses kabul eder ve yalnızca metin üretir. Bu kombinasyon onu medya üreticisi olmaktan çok çok kipli bir okuyucu yapar: ona yazılı istemler, resimler veya ses verebilirsiniz ve yazılı yanıtlar alırsınız. Bağlam penceresi 1.048.576 tokendır ve maksimum çıktı 262.144 tokendır. Buradaki en dikkat çekici sayı bağlam uzunluğudur, çünkü çok uzun belgeleri, uzun transkriptleri veya geniş sohbetleri parçalara ayırmadan tek bir istekte tutabilecek kadar büyüktür.

Bu yetenekler oldukça belirli bir kullanım kümesine işaret eder. Uzun belge çalışması en belirgin olanıdır: aksi halde birçok çağrıya bölünmesi gerekecek büyük dosyaları özetlemek, onlardan yapılandırılmış veri çıkarmak veya onlar hakkında soruları yanıtlamak. Girdi olarak görüntü ve ses kabul edildiği için aynı model, ayrı bir transkripsiyon adımı olmadan görüntüleri betimleme veya görüntülerden metin çıkarma ya da kayıtlı konuşma üzerinde çalışma gibi görevleri yerine getirebilir. Akıl yürütme desteği, modelin yanıtlamadan önce adımları çalışmasını istediğiniz problemler için de kullanılabileceği anlamına gelir ve araç çağırma, harici işlevlere erişen bir ajan döngüsü içinde yer almasını sağlar.

Modele api14'ün OpenAI uyumlu API'si üzerinden "thinkingmachines/inkling-small:free" model kimliğiyle erişirsiniz. Desteklenen istek parametreleri frequency_penalty, include_reasoning, max_tokens, presence_penalty, reasoning, reasoning_effort, seed, stop, temperature, tools ve top_p'dir. Pratikte bu, olağan örnekleme kontrollerini (temperature, top_p, frequency ve presence cezaları, stop dizileri, tekrarlanabilirlik için seed), max_tokens ile çıktı uzunluğunu ve akıl yürütme ile araçla ilgili seçenekleri kapsar: akıl yürütmenin döndürülüp döndürülmeyeceğini kontrol etmek için reasoning ve include_reasoning, ne kadar çaba harcanacağını yönlendirmek için reasoning_effort ve işlev çağırma için tools.

Karar vermeden önce iki şeyi kontrol etmeye değer. Model yalnızca metin üretir, yani üretilmiş görüntü veya sese ihtiyacınız varsa uygun değildir. Bağlam penceresi çok büyük olsa da ücretsiz varyant, model kimliğinde ":free" sonekini taşır; bu, yetenekle ilgili bir ifade değil, nasıl sunulduğuna dair bir işarettir; aynı ailenin daha büyük veya daha yetenekli bir üyesine ihtiyacınız varsa api14'teki diğer Inkling modelleriyle karşılaştırın.