NVIDIA: Nemotron 3.5 Content Safety

NVIDIA Nemotron 3.5 Content Safety, NVIDIA का एक compact 4B-parameter multimodal guardrail model है, जिसे Google Gemma-3-4B से fine-tune किया गया है। यह सामान्य conversation के बजाय विशेष रूप से content moderation के लिए डिज़ाइन किया गया है, और api14 पर text category में आता है। इसका काम अन्य models के चारों ओर एक safety layer की तरह कार्य करना है, यह जाँचना कि उनमें क्या जाता है और उनसे क्या वापस आता है।

यह model text और image inputs स्वीकार करता है और text output लौटाता है, इसलिए यह text-only pipelines और vision-language pipelines दोनों को moderate कर सकता है। यह LLMs और VLMs के inputs और responses को moderate करता है, जिसका अर्थ है कि आप इसे generation call के किसी भी ओर रख सकते हैं। Context window 131072 tokens है, और अधिकतम output 117964 tokens है। Supported parameters में temperature, top_p, top_k, min_p, frequency_penalty, presence_penalty, repetition_penalty, logit_bias, stop, seed, max_tokens, reasoning, और include_reasoning शामिल हैं।

Practical use cases सीधे इसी design से निकलते हैं। आप user prompts को chat या vision model तक पहुँचने से पहले screen कर सकते हैं, model responses को end users को दिखाए जाने से पहले classify कर सकते हैं, और एक ही moderation pass में text और image content दोनों पर वही model चला सकते हैं। चूँकि यह text के साथ-साथ images भी संभालता है, यह उन pipelines में फिट बैठता है जहाँ users लिखित input के साथ screenshots, photos, या अन्य visual material upload करते हैं। assistants, community platforms, या internal tools बनाने वाली teams इसे प्रत्येक modality के लिए अलग classifiers लिखने के बजाय एक सुसंगत policy checkpoint के रूप में उपयोग कर सकती हैं।

api14 के माध्यम से आप इसे OpenAI-compatible API के साथ model id "nvidia/nemotron-3.5-content-safety" का उपयोग करके call करते हैं। अपने मौजूदा OpenAI client को api14 base URL पर point करें, उस model id के साथ chat completion request भेजें, और जिस content को moderate करना है उसे शामिल करें। ऊपर सूचीबद्ध request parameters supported हैं, इसलिए आप temperature, top_p, top_k, या min_p से sampling tune कर सकते हैं, frequency_penalty, presence_penalty, और repetition_penalty से repetition नियंत्रित कर सकते हैं, max_tokens और stop से output constrain कर सकते हैं, और reproducibility के लिए seed का उपयोग कर सकते हैं। यदि आप चाहते हैं कि model की reasoning response में सामने आए तो reasoning और include_reasoning parameters उपलब्ध हैं।

ध्यान रखें कि यह model किस लिए है। यह एक 4B guardrail model है, सामान्य-purpose assistant नहीं, इसलिए long-form writing, complex reasoning, या open-ended chat जैसे कार्यों के लिए general text model बेहतर है। Nemotron 3.5 Content Safety का उपयोग तब करें जब लक्ष्य text और image inputs पर classification और policy enforcement हो, और जब आपको एक ही pipeline में moderation और content production दोनों चाहिए तो इसे generation model के साथ pair करें।