NVIDIA: Nemotron 3.5 Content Safety

NVIDIA Nemotron 3.5 Content Safety to kompaktowy wielomodalny model guardrail o 4B parametrach od NVIDIA, dostrojony z Google Gemma-3-4B. Jest zaprojektowany specjalnie do moderowania treści, a nie do ogólnej rozmowy, i znajduje się w kategorii tekstowej na api14. Jego zadaniem jest działanie jako warstwa bezpieczeństwa wokół innych modeli, sprawdzająca, co do nich trafia i co z nich wychodzi.

Model przyjmuje dane wejściowe tekstowe i obrazowe oraz zwraca dane wyjściowe tekstowe, więc może moderować zarówno potoki wyłącznie tekstowe, jak i potoki wizyjno-językowe. Moderuje dane wejściowe do LLM i VLM oraz odpowiedzi z nich, co oznacza, że można go umieścić po obu stronach wywołania generowania. Okno kontekstu wynosi 131072 tokenów, a maksymalne dane wyjściowe to 117964 tokenów. Obsługiwane parametry obejmują temperature, top_p, top_k, min_p, frequency_penalty, presence_penalty, repetition_penalty, logit_bias, stop, seed, max_tokens, reasoning oraz include_reasoning.

Praktyczne przypadki użycia wynikają bezpośrednio z tego projektu. Możesz filtrować monity użytkowników, zanim dotrą do modelu czatu lub modelu wizyjnego, klasyfikować odpowiedzi modelu, zanim zostaną pokazane użytkownikom końcowym, oraz uruchamiać ten sam model na treściach tekstowych i obrazowych w jednym przebiegu moderowania. Ponieważ obsługuje obrazy tak samo jak tekst, pasuje do potoków, w których użytkownicy przesyłają zrzuty ekranu, zdjęcia lub inne materiały wizualne wraz z danymi wejściowymi tekstowymi. Zespoły budujące asystentów, platformy społecznościowe lub narzędzia wewnętrzne mogą używać go jako spójnego punktu kontroli zasad, zamiast pisać osobne klasyfikatory dla każdej modalności.

Przez api14 wywołujesz go za pomocą interfejsu API zgodnego z OpenAI, używając identyfikatora modelu "nvidia/nemotron-3.5-content-safety". Skieruj istniejącego klienta OpenAI na bazowy adres URL api14, wyślij żądanie uzupełnienia czatu z tym identyfikatorem modelu i dołącz treść, którą chcesz moderować. Wymienione powyżej parametry żądania są obsługiwane, więc możesz dostroić próbkowanie za pomocą temperature, top_p, top_k lub min_p, kontrolować powtarzanie za pomocą frequency_penalty, presence_penalty i repetition_penalty, ograniczać dane wyjściowe za pomocą max_tokens i stop oraz użyć seed do powtarzalności. Parametry reasoning i include_reasoning są dostępne, jeśli chcesz, aby rozumowanie modelu zostało ujawnione w odpowiedzi.

Pamiętaj, do czego służy ten model. To model guardrail o 4B parametrach, a nie asystent ogólnego przeznaczenia, więc zadania takie jak długie pisanie, złożone rozumowanie czy otwarta rozmowa lepiej obsłuży ogólny model tekstowy. Używaj Nemotron 3.5 Content Safety, gdy celem jest klasyfikacja i egzekwowanie zasad na danych wejściowych tekstowych i obrazowych, i łącz go z modelem generującym, gdy potrzebujesz zarówno moderowania, jak i tworzenia treści w tym samym potoku.