NVIDIA: Nemotron 3 Nano 30B A3B

NVIDIA Nemotron 3 Nano 30B A3B adalah model bahasa kecil yang dibangun oleh NVIDIA sebagai bagian dari keluarga Nemotron. Namanya mencerminkan arsitekturnya: desain mixture-of-experts dengan total sekitar 30 miliar parameter dan sekitar 3 miliar parameter aktif per token, yang menurut NVIDIA memberikan efisiensi komputasi dan akurasi yang tinggi. Ini adalah model teks yang ditujukan untuk pengembang yang membangun sistem AI agentic khusus, dan dirilis oleh penyedia pada 14 Desember 2025.

Model ini menerima input teks dan mengembalikan output teks. Jendela konteksnya adalah 262.144 token, dengan output maksimum 235.929 token, sehingga dapat menerima input yang sangat panjang dan menghasilkan penyelesaian yang panjang dalam satu permintaan. Selain generasi biasa, parameter yang didukung menunjukkan penalaran dan output terstruktur sebagai fitur utama: reasoning dan include_reasoning keduanya diterima, begitu juga response_format, structured_outputs dan tools. Kontrol sampling dan decoding mencakup temperature, top_p, top_k, repetition_penalty, frequency_penalty, presence_penalty, stop, seed dan logit_bias, plus logprobs dan top_logprobs untuk memeriksa probabilitas tingkat token.

Kemampuan tersebut mengarah pada beberapa beban kerja praktis. Jendela konteks yang besar cocok untuk pemrosesan dokumen panjang, seperti peringkasan, ekstraksi dan tanya jawab atas basis kode atau kumpulan laporan yang besar, tanpa pemotongan yang agresif. Posisi agentic, dikombinasikan dengan pemanggilan tool dan output terstruktur, cocok untuk pipeline di mana model memutuskan tool mana yang akan dipanggil dan mengembalikan hasil yang dapat dibaca mesin, misalnya pengayaan data, orkestrasi pengambilan atau otomasi multi langkah. Kontrol penalaran berguna untuk tugas di mana Anda ingin pemikiran perantara model dipisahkan dari jawaban akhirnya, seperti analisis, perencanaan atau debugging. Karena ini adalah model kecil yang berfokus pada efisiensi, model ini juga cocok untuk pekerjaan transformasi teks bervolume tinggi di mana throughput lebih penting daripada kemampuan puncak.

Anda memanggilnya melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id "nvidia/nemotron-3-nano-30b-a3b". Karena endpoint mengikuti skema OpenAI, permintaan bergaya chat completions standar berfungsi, dan Anda dapat meneruskan parameter apa pun yang tercantum di atas dalam body permintaan, termasuk tools dan tool_choice untuk pemanggilan fungsi, response_format untuk respons terstruktur, dan max_tokens untuk membatasi panjang output. Opsi streaming dan logging berperilaku sama seperti untuk model lain di gateway.

Ini adalah model teks saja. Model ini tidak menerima input gambar atau audio, sehingga tugas multimodal memerlukan model yang berbeda, dan deskripsi penyedia memposisikannya untuk sistem agentic khusus rather than sebagai model unggulan umum. Jika beban kerja membutuhkan visi, modalitas input lain, atau pengetahuan yang lebih luas dari model yang lebih besar, pertimbangkan alternatif; untuk pipeline teks dengan konteks panjang, berat penalaran atau berbasis tool, kombinasi model ini berupa jendela 262.144 token, dukungan tool dan arsitektur MoE yang efisien adalah alasan untuk memilihnya.