NVIDIA: Nemotron 3.5 Content Safety

NVIDIA Nemotron 3.5 Content Safety adalah model guardrail multimodal ringkas dengan 4B parameter dari NVIDIA, yang di-fine-tune dari Google Gemma-3-4B. Model ini dirancang khusus untuk moderasi konten, bukan percakapan umum, dan berada dalam kategori teks di api14. Tugasnya adalah bertindak sebagai lapisan keamanan di sekitar model lain, memeriksa apa yang masuk ke dalamnya dan apa yang keluar kembali.

Model ini menerima input teks dan gambar serta mengembalikan output teks, sehingga dapat memoderasi pipeline yang hanya berbasis teks maupun pipeline vision-language. Model ini memoderasi input ke dan respons dari LLM dan VLM, yang berarti Anda dapat menempatkannya di sisi mana pun dari pemanggilan generasi. Jendela konteksnya adalah 131072 token, dan output maksimumnya adalah 117964 token. Parameter yang didukung meliputi temperature, top_p, top_k, min_p, frequency_penalty, presence_penalty, repetition_penalty, logit_bias, stop, seed, max_tokens, reasoning, dan include_reasoning.

Kasus penggunaan praktis mengikuti langsung dari desain tersebut. Anda dapat menyaring prompt pengguna sebelum mencapai model chat atau vision, mengklasifikasikan respons model sebelum ditampilkan ke pengguna akhir, dan menjalankan model yang sama pada konten teks maupun gambar dalam satu proses moderasi. Karena model ini menangani gambar sekaligus teks, model ini cocok untuk pipeline di mana pengguna mengunggah tangkapan layar, foto, atau materi visual lain bersama input tertulis. Tim yang membangun asisten, platform komunitas, atau alat internal dapat menggunakannya sebagai titik pemeriksaan kebijakan yang konsisten daripada menulis classifier terpisah untuk setiap modalitas.

Melalui api14 Anda memanggilnya dengan API yang kompatibel dengan OpenAI menggunakan model id "nvidia/nemotron-3.5-content-safety". Arahkan klien OpenAI yang sudah Anda miliki ke base URL api14, kirim permintaan chat completion dengan model id tersebut, dan sertakan konten yang ingin Anda moderasi. Parameter permintaan yang tercantum di atas didukung, sehingga Anda dapat menyetel sampling dengan temperature, top_p, top_k, atau min_p, mengontrol pengulangan dengan frequency_penalty, presence_penalty, dan repetition_penalty, membatasi output dengan max_tokens dan stop, serta menggunakan seed untuk reproduktifitas. Parameter reasoning dan include_reasoning tersedia jika Anda ingin penalaran model ditampilkan dalam respons.

Ingatlah untuk apa model ini digunakan. Ini adalah model guardrail 4B, bukan asisten serbaguna, sehingga tugas seperti penulisan panjang, penalaran kompleks, atau obrolan terbuka lebih baik dilayani oleh model teks umum. Gunakan Nemotron 3.5 Content Safety ketika tujuannya adalah klasifikasi dan penegakan kebijakan atas input teks dan gambar, dan pasangkan dengan model generasi ketika Anda membutuhkan moderasi sekaligus produksi konten dalam pipeline yang sama.