NVIDIA: Nemotron 3 Nano 30B A3B

NVIDIA Nemotron 3 Nano 30B A3B è un piccolo modello linguistico costruito da NVIDIA come parte della sua famiglia Nemotron. Il nome riflette la sua architettura: un design mixture-of-experts con circa 30 miliardi di parametri in totale e circa 3 miliardi attivi per token, che NVIDIA descrive come in grado di offrire elevata efficienza computazionale e precisione. È un modello testuale pensato per sviluppatori che costruiscono sistemi di AI agentica specializzati, ed è stato rilasciato dal provider il 14 dicembre 2025.

Il modello accetta testo in input e restituisce testo in output. La sua finestra di contesto è di 262.144 token, con un output massimo di 235.929 token, quindi può accettare input molto lunghi e produrre completamenti lunghi in una singola richiesta. Oltre alla generazione semplice, i parametri supportati suggeriscono il ragionamento e l'output strutturato come funzionalità di primo livello: sia reasoning sia include_reasoning sono accettati, così come response_format, structured_outputs e tools. I controlli di campionamento e decodifica includono temperature, top_p, top_k, repetition_penalty, frequency_penalty, presence_penalty, stop, seed e logit_bias, più logprobs e top_logprobs per ispezionare le probabilità a livello di token.

Queste capacità indicano alcuni carichi di lavoro pratici. L'ampia finestra di contesto si adatta all'elaborazione di documenti lunghi, come riassunto, estrazione e risposta a domande su codebase o raccolte di report di dimensioni considerevoli, senza chunking aggressivo. Il posizionamento agentico, combinato con il tool calling e gli output strutturati, si adatta a pipeline in cui il modello decide quali strumenti invocare e restituisce risultati leggibili dalla macchina, per esempio arricchimento dati, orchestrazione del retrieval o automazione multi step. I controlli di ragionamento sono utili per attività in cui si desidera separare il pensiero intermedio del modello dalla sua risposta finale, come analisi, pianificazione o debug. Poiché è un modello piccolo e orientato all'efficienza, si adatta anche a lavori di trasformazione testuale ad alto volume dove il throughput conta più della capacità di picco.

Lo si chiama tramite l'API compatibile con OpenAI di api14 usando il model id "nvidia/nemotron-3-nano-30b-a3b". Poiché l'endpoint segue lo schema OpenAI, funzionano le richieste standard in stile chat completions, e si può passare qualsiasi parametro elencato sopra nel corpo della richiesta, inclusi tools e tool_choice per il function calling, response_format per risposte strutturate, e max_tokens per limitare la lunghezza dell'output. Le opzioni di streaming e logging si comportano come per gli altri modelli sul gateway.

È un modello solo testuale. Non accetta input di immagini o audio, quindi le attività multimodali richiedono un modello diverso, e la descrizione del provider lo posiziona per sistemi agentici specializzati più che come flagship generico. Se un carico di lavoro richiede visione, altre modalità di input o la conoscenza più ampia di un modello più grande, considera alternative; per pipeline testuali a contesto lungo, ad alto contenuto di ragionamento o guidate da strumenti, la combinazione di questo modello di una finestra da 262.144 token, supporto agli strumenti ed efficiente architettura MoE è il motivo per sceglierlo.