NVIDIA: Nemotron 3 Ultra

NVIDIA Nemotron 3 Ultra adalah model penalaran dan orkestrasi frontier terbuka dari NVIDIA. Ini adalah model mixture of experts dengan 55B parameter aktif dari total 550B, dibangun di atas arsitektur hybrid Transformer-Mamba. Model id di api14 adalah nvidia/nemotron-3-ultra-550b-a55b, dan model ini berada di kategori text, sehingga ditujukan untuk pekerjaan bahasa bukan pembuatan gambar, audio atau video.

Model ini menerima teks sebagai input dan mengembalikan teks sebagai output. Model ini memiliki context length 262144 token, yang cukup untuk menampung dokumen panjang, file kode besar atau riwayat percakapan yang diperpanjang dalam satu permintaan, dan output maksimum 182520 token, sehingga generasi panjang dimungkinkan tanpa memecah pekerjaan ke beberapa panggilan. Perilaku penalaran diekspos melalui parameter include_reasoning dan reasoning, dan reasoning_effort memungkinkan Anda mengontrol seberapa banyak pertimbangan internal yang diterapkan model sebelum menjawab. Tool calling didukung melalui tools dan tool_choice, dan structured_outputs plus response_format memungkinkan Anda membatasi bentuk teks yang dikembalikan.

Kemampuan tersebut mengarah pada beberapa penggunaan praktis. Long context plus reasoning cocok untuk analisis basis kode besar, tinjauan multi dokumen, dan tugas riset di mana model harus menampung banyak sumber sekaligus dan merekonsiliasinya. Tool calling membuatnya cukup cocok untuk alur kerja bergaya agen dan orkestrasi, di mana model memutuskan fungsi mana yang harus dipanggil dan dalam urutan apa. Structured outputs berguna ketika hasilnya harus langsung dimasukkan ke sistem lain, seperti mengekstrak field dari kontrak atau menghasilkan ringkasan yang dapat dibaca mesin. Batas output yang besar membantu untuk tugas yang menghasilkan artefak panjang, termasuk laporan terperinci atau generasi kode yang diperpanjang.

Anda memanggil model ini melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id nvidia/nemotron-3-ultra-550b-a55b. Permintaan menerima parameter sampling dan kontrol yang biasa: temperature, top_p, top_k, min_p, frequency_penalty, presence_penalty dan repetition_penalty untuk membentuk output, max_tokens untuk panjang, seed untuk reproduktifitas, stop untuk urutan berhenti, dan logit_bias untuk penyesuaian tingkat token. Untuk penggunaan tool, kirimkan tools dan tool_choice. Untuk hasil terstruktur, gunakan response_format dan structured_outputs. Penalaran dikontrol dengan reasoning, reasoning_effort dan include_reasoning. Karena antarmukanya kompatibel dengan OpenAI, klien dan SDK yang ada umumnya berfungsi hanya dengan mengubah base URL dan model id.

Satu hal yang perlu diingat adalah model ini hanya teks. Jika tugas Anda bergantung pada gambar, audio atau modalitas input lain, model ini tidak akan menanganinya, dan opsi multimodal akan lebih cocok. Batas context dan output yang sangat besar juga berarti permintaan bisa berat, jadi untuk prompt pendek dan sederhana model yang lebih kecil mungkin merespons lebih cepat dan lebih mudah dikelola. Namun dalam pekerjaan teks, kombinasi long context, kontrol penalaran, tool calling dan structured outputs mencakup berbagai kebutuhan pengembang.