NVIDIA: Nemotron 3.5 Content Safety

NVIDIA Nemotron 3.5 Content Safetyは、Google Gemma-3-4Bからファインチューニングされた、NVIDIAによるコンパクトな4Bパラメータのマルチモーダルガードレールモデルです。一般的な会話ではなくコンテンツモデレーション専用に設計されており、api14ではテキストカテゴリに属します。その役割は、他のモデルの周囲の安全レイヤーとして機能し、モデルに入力されるものと返されるものをチェックすることです。

このモデルはテキストと画像の入力を受け付け、テキスト出力を返すため、テキストのみのパイプラインとビジョン言語パイプラインの両方をモデレーションできます。LLMとVLMへの入力およびそれらからの応答をモデレーションするため、生成呼び出しのどちら側にも配置できます。コンテキストウィンドウは131072トークンで、最大出力は117964トークンです。サポートされるパラメータには、temperature、top_p、top_k、min_p、frequency_penalty、presence_penalty、repetition_penalty、logit_bias、stop、seed、max_tokens、reasoning、include_reasoningが含まれます。

実用的なユースケースは、この設計から直接導かれます。ユーザープロンプトがチャットモデルやビジョンモデルに到達する前にスクリーニングしたり、モデル応答がエンドユーザーに表示される前に分類したり、単一のモデレーションパスでテキストコンテンツと画像コンテンツの両方に対して同じモデルを実行したりできます。テキストだけでなく画像も処理するため、ユーザーが文章入力とともにスクリーンショット、写真、その他の視覚資料をアップロードするパイプラインに適しています。アシスタント、コミュニティプラットフォーム、社内ツールを構築するチームは、モダリティごとに個別の分類器を書くのではなく、一貫したポリシーチェックポイントとしてこれを使用できます。

api14を通じて、モデルID「nvidia/nemotron-3.5-content-safety」を使用し、OpenAI互換APIでこれを呼び出します。既存のOpenAIクライアントをapi14のベースURLに向け、そのモデルIDでチャット補完リクエストを送信し、モデレーションしたいコンテンツを含めます。上記のリクエストパラメータがサポートされているため、temperature、top_p、top_k、min_pでサンプリングを調整し、frequency_penalty、presence_penalty、repetition_penaltyで繰り返しを制御し、max_tokensとstopで出力を制約し、seedで再現性を確保できます。応答でモデルの推論を表面化したい場合は、reasoningパラメータとinclude_reasoningパラメータを利用できます。

このモデルが何のためのものかを覚えておいてください。これは4Bのガードレールモデルであり、汎用アシスタントではないため、長文執筆、複雑な推論、自由形式のチャットといったタスクには汎用テキストモデルの方が適しています。テキストおよび画像入力に対する分類とポリシー適用が目的の場合はNemotron 3.5 Content Safetyを使用し、同じパイプラインでモデレーションとコンテンツ生成の両方が必要な場合は生成モデルと組み合わせてください。