NVIDIA: Nemotron 3.5 Lightning

NVIDIA: Nemotron 3.5 Lightning to otwarty model tekstowy typu mixture-of-experts od NVIDIA. Ma 3B aktywnych parametrów z 30B całkowitych, czyli konstrukcję, która utrzymuje aktywną tylko część sieci na token. Dostawca udostępnił go 2026-08-11. Należy do kategorii tekstowej, więc jest zbudowany do pracy z językiem, a nie do danych wejściowych obrazu lub dźwięku.

Model przyjmuje tekst i zwraca tekst. Jego okno kontekstu wynosi 262 144 tokeny, a maksymalne wyjście to 235 929 tokenów, więc długie dane wejściowe i długie generowania są możliwe w tych granicach. Ponieważ jest to model mixture-of-experts z małą liczbą aktywnych parametrów, NVIDIA pozycjonuje go do zadań agentowych o wysokiej przepustowości i zadań specjalistycznych. Obsługuje także wyjście rozumowania, które można kontrolować za pomocą parametrów reasoning i include_reasoning.

Te możliwości wskazują na kilka praktycznych zastosowań. Długi kontekst plus duże wyjście czyni go odpowiednim do przetwarzania długich dokumentów, takich jak umowy, logi lub materiały badawcze, oraz do tworzenia szczegółowych podsumowań lub ekstrakcji. Obsługa wywoływania narzędzi czyni go odpowiednim do pętli agentowych, w których model decyduje, którą funkcję wywołać, i przekazuje wyniki z powrotem do rozmowy. Ustrukturyzowane wyjścia i response_format pomagają, gdy potrzebujesz JSON lub innego kształtu zgodnego ze schematem dla kodu niższego poziomu. Kontrolki rozumowania pozwalają włączyć lub sprawdzić pośrednie rozumowanie, gdy zadanie tego wymaga, i wyłączyć je, gdy opóźnienie lub rozmiar wyjścia mają większe znaczenie.

Wywołujesz go przez API zgodne z OpenAI w api14, używając identyfikatora modelu "nvidia/nemotron-3.5-lightning". Obsługiwane parametry żądania to frequency_penalty, include_reasoning, logit_bias, logprobs, max_tokens, min_p, presence_penalty, reasoning, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k, top_logprobs i top_p. Próbkowanie można dostroić za pomocą temperature, top_p, top_k i min_p, a seed, stop i parametry kar dają powtarzalność i kontrolę nad powtórzeniami. Użycie narzędzi konfiguruje się za pomocą tools i tool_choice, a kształt wyjścia za pomocą response_format i structured_outputs.

Pamiętaj o ograniczeniach przy jego wyborze. Wejście jest tylko tekstowe, więc wszystko związane z obrazami lub dźwiękiem wymaga innego modelu. Okno kontekstu i maksymalne wyjście są duże, ale skończone, a żądania je przekraczające nie zmieszczą się. Jeśli Twoje obciążenie nie wymaga wywoływania narzędzi, ustrukturyzowanego wyjścia ani rozumowania, prostszy model tekstowy może wystarczyć.