Thinking Machines: Inkling Small (free)

Thinking Machines: Inkling Small (free) adalah model teks dari Thinking Machines. Ini adalah model mixture-of-experts multimodal dengan bobot terbuka dari Thinking Machines Lab, dengan 12B parameter aktif dari total 276B. Penyedia mendeskripsikannya sebagai anggota keluarga yang lebih kecil dan lebih efisien, yang menunjukkan posisinya dalam jajaran: opsi kompak bukan model terbesar yang ditawarkan lab tersebut.

Model ini menerima teks, gambar dan audio sebagai masukan, dan hanya menghasilkan teks. Kombinasi itu menjadikannya pembaca multimodal bukan penghasil media: Anda dapat memberinya prompt tertulis, gambar atau audio dan mendapatkan jawaban tertulis kembali. Jendela konteksnya adalah 1.048.576 token, dan keluaran maksimumnya adalah 262.144 token. Panjang konteks adalah angka utama di sini, karena cukup besar untuk menampung dokumen yang sangat panjang, transkrip panjang atau percakapan yang diperpanjang dalam satu permintaan tanpa pemotongan.

Kemampuan tersebut mengarah ke serangkaian penggunaan yang cukup spesifik. Pekerjaan dokumen panjang adalah yang paling jelas: meringkas, mengekstrak data terstruktur dari, atau menjawab pertanyaan atas file besar yang jika tidak demikian perlu dipecah ke banyak panggilan. Karena gambar dan audio diterima sebagai masukan, model yang sama dapat menangani tugas seperti mendeskripsikan atau mengekstrak teks dari gambar, atau bekerja atas rekaman suara, tanpa langkah transkripsi terpisah. Dukungan penalaran berarti model ini juga dapat digunakan untuk masalah di mana Anda ingin model bekerja melalui langkah-langkah sebelum menjawab, dan tool calling memungkinkannya berada di dalam loop agen yang menjangkau fungsi eksternal.

Anda memanggilnya melalui API yang kompatibel dengan OpenAI dari api14 menggunakan id model "thinkingmachines/inkling-small:free". Parameter permintaan yang didukung adalah frequency_penalty, include_reasoning, max_tokens, presence_penalty, reasoning, reasoning_effort, seed, stop, temperature, tools dan top_p. Dalam praktiknya itu mencakup kontrol sampling yang biasa (temperature, top_p, penalti frequency dan presence, urutan stop, seed untuk reproduksibilitas), panjang keluaran melalui max_tokens, dan opsi terkait penalaran dan tool: reasoning dan include_reasoning untuk mengontrol apakah penalaran dikembalikan, reasoning_effort untuk mengarahkan seberapa banyak usaha yang dikeluarkan, dan tools untuk pemanggilan fungsi.

Dua hal yang perlu diperiksa sebelum Anda berkomitmen. Model ini hanya menghasilkan teks, jadi jika Anda memerlukan gambar atau audio yang dihasilkan, ini bukan pilihan yang tepat. Dan meskipun jendela konteksnya sangat besar, varian gratis membawa akhiran ":free" pada id modelnya, yang merupakan sinyal tentang bagaimana model ini ditawarkan bukan pernyataan tentang kemampuan; jika Anda memerlukan anggota yang lebih besar atau lebih mampu dari keluarga yang sama, bandingkan dengan model Inkling lainnya di api14.