NVIDIA: Nemotron 3 Nano 30B A3B

NVIDIA Nemotron 3 Nano 30B A3B to mały model językowy zbudowany przez NVIDIA w ramach rodziny Nemotron. Nazwa odzwierciedla jego architekturę: konstrukcję mixture-of-experts z około 30 miliardami parametrów łącznie i około 3 miliardami aktywnych na token, co NVIDIA opisuje jako zapewniające wysoką wydajność obliczeniową i dokładność. To model tekstowy skierowany do deweloperów budujących wyspecjalizowane systemy agentic AI, a dostawca udostępnił go 14 grudnia 2025.

Model przyjmuje tekst i zwraca tekst. Jego okno kontekstu wynosi 262 144 tokeny, a maksymalna długość wyjścia to 235 929 tokenów, więc może przyjmować bardzo długie dane wejściowe i generować długie uzupełnienia w pojedynczym żądaniu. Obok zwykłego generowania, obsługiwane parametry wskazują na rozumowanie i ustrukturyzowane wyjście jako podstawowe funkcje: reasoning i include_reasoning są akceptowane, podobnie jak response_format, structured_outputs i tools. Kontrolki próbkowania i dekodowania obejmują temperature, top_p, top_k, repetition_penalty, frequency_penalty, presence_penalty, stop, seed i logit_bias, a także logprobs i top_logprobs do inspekcji prawdopodobieństw na poziomie tokenów.

Te możliwości wskazują na kilka praktycznych zastosowań. Duże okno kontekstu pasuje do przetwarzania długich dokumentów, takich jak streszczanie, ekstrakcja i odpowiadanie na pytania w oparciu o pokaźne bazy kodu lub zbiory raportów, bez agresywnego dzielenia na fragmenty. Pozycjonowanie jako agentic, w połączeniu z wywoływaniem narzędzi i ustrukturyzowanymi wyjściami, pasuje do potoków, w których model decyduje, które narzędzia wywołać, i zwraca wyniki czytelne maszynowo, na przykład wzbogacanie danych, orkiestracja wyszukiwania lub automatyzacja wieloetapowa. Kontrolki rozumowania są przydatne w zadaniach, w których chcesz oddzielić myślenie pośrednie modelu od jego ostatecznej odpowiedzi, takich jak analiza, planowanie lub debugowanie. Ponieważ jest to mały model nastawiony na wydajność, pasuje również do zadań transformacji tekstu o dużym wolumenie, gdzie przepustowość liczy się bardziej niż szczytowe możliwości.

Wywołujesz go przez zgodne z OpenAI API api14, używając identyfikatora modelu "nvidia/nemotron-3-nano-30b-a3b". Ponieważ endpoint jest zgodny ze schematem OpenAI, standardowe żądania w stylu chat completions działają, a w treści żądania możesz przekazać dowolny z wymienionych powyżej parametrów, w tym tools i tool_choice do wywoływania funkcji, response_format do ustrukturyzowanych odpowiedzi oraz max_tokens do ograniczenia długości wyjścia. Opcje strumieniowania i logowania działają tak jak w przypadku innych modeli w bramie.

To model wyłącznie tekstowy. Nie przyjmuje danych wejściowych w postaci obrazu ani dźwięku, więc zadania multimodalne wymagają innego modelu, a opis dostawcy pozycjonuje go do wyspecjalizowanych systemów agentic, a nie jako ogólny flagowiec. Jeśli obciążenie wymaga wizji, innych modalności wejściowych lub szerszej wiedzy większego modelu, rozważ alternatywy; w przypadku długiego kontekstu, potoków tekstowych opartych na rozumowaniu lub sterowanych narzędziami, połączenie okna 262 144 tokenów, obsługi narzędzi i wydajnej architektury MoE jest powodem, by wybrać ten model.