Moondream: Moondream 3.1

Moondream: Moondream 3.1 adalah model vision-language dari Moondream, tim yang sama di balik rilis Moondream sebelumnya. Ini adalah penerus Moondream 3 Preview, dan menggunakan desain mixture-of-experts dengan 9B parameter total dan 2B parameter aktif. Kombinasi itu berarti model membawa kapasitas keseluruhan yang besar namun hanya mengaktifkan sebagian kecil darinya per permintaan, yang merupakan cara umum untuk menjaga inferensi tetap efisien tanpa mengecilkan pengetahuan model. Model ini berada di kategori text di api14, tetapi ciri utamanya adalah ia membaca gambar sekaligus teks.

Di sisi input, Moondream 3.1 menerima teks dan gambar, dan menghasilkan teks saja. Context window-nya 32.000 token, dan panjang output maksimum 4.096 token. Provider mendeskripsikan model ini mencakup visual question answering, captioning, dan OCR, di antara tugas lainnya. Itu adalah perilaku inti vision-language: menjawab pertanyaan tentang apa yang ada di gambar, menghasilkan deskripsi tertulis dari sebuah gambar, dan mengekstrak teks yang muncul di dalam gambar. Karena context window dibagi antara input gambar dan prompt teks, gambar yang lebih besar atau lebih banyak menyisakan lebih sedikit ruang untuk instruksi dan riwayat percakapan.

Kasus penggunaan praktis mengikuti langsung dari kemampuan tersebut. Visual question answering cocok untuk alat interaktif di mana pengguna mengunggah foto atau screenshot dan bertanya tentang isinya. Captioning cocok untuk pipeline yang membutuhkan alt text, deskripsi media, atau ringkasan singkat aset gambar. OCR berguna untuk menarik teks dari scan, screenshot, formulir, atau foto dokumen, dan untuk memasukkan teks itu ke langkah berikutnya. Karena model ini juga menerima teks biasa, ia dapat menangani prompt campuran di mana instruksi dan gambar datang bersamaan, yang menjaga integrasi tetap sederhana untuk alur kerja peninjauan dokumen dan gambar.

Anda memanggilnya melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id "moondream/moondream3.1-9b-a2b". Parameter permintaan yang didukung adalah include_reasoning, max_completion_tokens, max_tokens, reasoning, temperature, dan top_p. Temperature dan top_p mengontrol sampling, sedangkan parameter token membatasi panjang respons yang dihasilkan. Parameter reasoning dan include_reasoning berkaitan dengan mengekspos perilaku penalaran model, jadi periksa bagaimana klien Anda menanganinya jika Anda tidak membutuhkan output tersebut. Karena antarmukanya kompatibel dengan OpenAI, SDK yang ada dan bentuk permintaan bergaya chat umumnya berfungsi tanpa perubahan selain model id dan konten gambar di dalam pesan.

Ingatlah batasannya saat memilih model ini. Context 32.000 token dan batas output 4.096 token adalah batas keras, jadi dokumen yang sangat panjang atau percakapan gambar multi-turn yang panjang mungkin perlu dipecah atau dipangkas. Outputnya hanya teks, jadi ia tidak akan menghasilkan atau mengedit gambar. Jika tugas Anda murni teks dan tidak melibatkan gambar, model khusus teks mungkin lebih cocok; Moondream 3.1 paling bernilai ketika permintaan benar-benar berisi gambar untuk diinterpretasikan.