Thinking Machines: Inkling Small

Thinking Machines: Inkling Small adalah model open-weight multimodal mixture-of-experts dari Thinking Machines Lab. Model ini memiliki 12B parameter aktif dari total 276B, dan diposisikan sebagai anggota keluarga Inkling yang lebih kecil dan lebih efisien. Tanggal rilis penyedia adalah 2026-07-30. Karena bobotnya terbuka, tim yang perlu memeriksa, self-host, atau fine-tune model memiliki opsi tersebut, sementara endpoint terkelola di api14 tersedia bagi mereka yang lebih memilih untuk tidak menjalankan infrastrukturnya sendiri.

Model ini menerima input teks, gambar, dan audio serta mengembalikan teks. Jendela konteksnya adalah 524288 token, dan output maksimumnya adalah 262144 token, sehingga model ini dapat menerima dokumen yang sangat besar, rekaman panjang, atau kumpulan gambar bersama sebuah prompt dan tetap menghasilkan respons panjang dalam satu panggilan. Desain mixture-of-experts berarti hanya sebagian kecil dari total parameter yang aktif per token, yang merupakan alasan utama model sebesar ini dapat dilayani dengan latensi dan throughput yang wajar. Perilaku penalaran diekspos melalui API, sehingga Anda dapat menentukan seberapa banyak pertimbangan internal yang Anda inginkan sebelum jawaban akhir.

Kemampuan tersebut mengarah pada serangkaian penggunaan yang cukup spesifik. Pekerjaan konteks panjang adalah kecocokan yang jelas: meringkas atau menanyakan basis kode besar, kumpulan kontrak, korpus riset, atau riwayat tiket dukungan yang tidak akan muat dalam jendela yang lebih kecil. Input multimodal membuatnya berguna untuk tugas yang mencampur format, seperti mengekstrak data terstruktur dari dokumen hasil pemindaian dengan gambar tertanam, mentranskripsikan lalu menalar atas audio, atau menjawab pertanyaan tentang tangkapan layar plus ringkasan tertulis. Dukungan tool calling dan penalaran cocok untuk alur kerja bergaya agen di mana model perlu memutuskan fungsi mana yang akan dipanggil dan kemudian menjelaskan hasilnya.

Anda memanggilnya melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id "thinkingmachines/inkling-small". Parameter permintaan yang didukung adalah frequency_penalty, include_reasoning, logit_bias, max_tokens, min_p, presence_penalty, reasoning, reasoning_effort, repetition_penalty, seed, stop, temperature, tool_choice, tools, top_k dan top_p. Jika Anda sudah memiliki kode yang ditulis terhadap bentuk chat completions OpenAI, beralih ke model ini sebagian besar hanyalah soal mengubah string model dan, jika Anda menginginkan output penalaran, mengatur include_reasoning atau reasoning_effort.

Ini adalah model dengan output teks, jadi apa pun yang memerlukan gambar, audio, atau video yang dihasilkan berada di luar cakupan di sini. Batas output 262144 token memang besar tetapi tetap terbatas, yang penting untuk pekerjaan generasi yang sangat panjang. Jika beban kerja Anda kecil, sensitif terhadap latensi, dan sepenuhnya tekstual, model yang lebih ringan mungkin lebih murah untuk dijalankan, dan jika Anda memerlukan modalitas output di luar teks, Anda akan memerlukan model yang berbeda.