NVIDIA: Nemotron 3.5 Lightning

NVIDIA: Nemotron 3.5 Lightning è un modello testuale open mixture-of-experts di NVIDIA. Ha 3B parametri attivi su 30B totali, un design che mantiene attiva solo una parte della rete per token. Il provider lo ha rilasciato l'11-08-2026. Appartiene alla categoria testo, quindi è costruito per il lavoro linguistico e non per input di immagini o audio.

Il modello accetta testo e restituisce testo. La sua finestra di contesto è di 262.144 token, e l'output massimo è di 235.929 token, quindi input lunghi e generazioni lunghe sono entrambi possibili entro questi limiti. Poiché è un modello mixture-of-experts con un piccolo numero di parametri attivi, NVIDIA lo posiziona per carichi di lavoro agentici ad alto throughput e attività specializzate. Supporta anche l'output di ragionamento, che puoi controllare tramite i parametri reasoning e include_reasoning.

Queste capacità indicano alcuni usi pratici. Contesto lungo più output ampio lo rendono adatto all'elaborazione di documenti lunghi, come contratti, log o materiale di ricerca, e alla produzione di riepiloghi o estrazioni dettagliate. Il supporto al tool calling lo rende adatto a cicli agentici in cui il modello decide quale funzione invocare e reinserisce i risultati nella conversazione. Gli output strutturati e response_format aiutano quando hai bisogno di JSON o di un'altra forma conforme a uno schema per il codice a valle. I controlli di ragionamento ti permettono di abilitare o ispezionare il ragionamento intermedio quando un'attività lo richiede, e di disattivarlo quando latenza o dimensione dell'output contano di più.

Lo chiami tramite l'API compatibile con OpenAI di api14 usando l'id del modello "nvidia/nemotron-3.5-lightning". I parametri di richiesta supportati sono frequency_penalty, include_reasoning, logit_bias, logprobs, max_tokens, min_p, presence_penalty, reasoning, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k, top_logprobs e top_p. Il campionamento può essere regolato con temperature, top_p, top_k e min_p, mentre seed, stop e i parametri di penalità ti danno riproducibilità e controllo sulla ripetizione. L'uso degli strumenti è configurato con tools e tool_choice, e la forma dell'output con response_format e structured_outputs.

Tieni presenti i limiti quando lo scegli. L'input è solo testo, quindi qualsiasi cosa che coinvolga immagini o audio richiede un modello diverso. La finestra di contesto e l'output massimo sono ampi ma finiti, e le richieste che li superano non entreranno. Se il tuo carico di lavoro non necessita di tool calling, output strutturato o ragionamento, un modello testuale più semplice può essere sufficiente.