MoonshotAI: Kimi K2 0711

Kimi K2 0711 adalah model teks dari Moonshot AI, yang diidentifikasi di api14 sebagai moonshotai/kimi-k2. Ini adalah model bahasa Mixture-of-Experts (MoE) berskala besar dengan total 1 triliun parameter dan 32 miliar parameter aktif per forward pass, yang berarti hanya sebagian dari jaringan yang dilibatkan untuk setiap token yang dihasilkannya. Tanggal rilis penyedia adalah 2025-07-11, dan knowledge cutoff model adalah 2024-12-31, jadi apa pun setelah tanggal itu berada di luar apa yang dipelajarinya selama pelatihan.

Model ini bekerja dengan teks masuk dan teks keluar. Model ini menerima context window 131.072 token dan dapat menghasilkan hingga 98.304 token dalam satu respons, yang merupakan anggaran output besar dibandingkan sebagian besar model chat. Kombinasi itu cocok untuk beban kerja di mana inputnya panjang (dokumentasi, transkrip, basis kode) dan jawaban yang diharapkan juga panjang, seperti laporan lengkap atau refactor substansial alih-alih balasan satu baris.

Karena mendukung tool calling, Kimi K2 cocok untuk alur kerja bergaya agen di mana model memutuskan kapan harus memanggil fungsi dan argumen apa yang harus diteruskan. Penggunaan umum mencakup asisten multi langkah yang mengkueri API internal, retrieval augmented generation atas kumpulan dokumen besar, peringkasan dan penyusunan draf panjang, serta pembuatan atau peninjauan kode di mana model perlu menampung banyak konteks di sekitarnya. Batas output yang tinggi juga membuatnya wajar untuk tugas yang jika tidak demikian perlu dipecah menjadi beberapa panggilan.

Anda memanggilnya melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id "moonshotai/kimi-k2", sehingga SDK dan klien OpenAI yang ada berfungsi hanya dengan mengubah base URL dan key. Parameter permintaan yang didukungnya adalah frequency_penalty, max_tokens, presence_penalty, repetition_penalty, seed, stop, temperature, tool_choice, tools, top_k dan top_p. Adanya seed memungkinkan sampling yang lebih dapat direproduksi, dan tools plus tool_choice memungkinkan Anda menentukan skema fungsi dan mengontrol apakah model harus memanggil salah satunya.

Ingatlah batasannya saat memilihnya. Input dan output hanya teks, jadi tugas gambar atau audio memerlukan model yang berbeda, dan batas context 131.072 token serta batas output 98.304 token membatasi berapa banyak yang dapat ditangani dalam satu permintaan. Knowledge cutoff 2024-12-31 berarti peristiwa terkini tidak tercakup kecuali Anda menyediakannya di prompt atau melalui tools. Untuk permintaan singkat dan sederhana, model yang lebih kecil mungkin lebih cocok.