NVIDIA: Nemotron 3.5 Lightning (free)

Nemotron 3.5 Lightning è un modello open mixture-of-experts di NVIDIA. Ha 3B parametri attivi su 30B totali, il che significa che solo una frazione della rete viene eseguita per token mentre il modello completo conserva comunque una vasta base di conoscenza appresa. Rientra nella categoria testo, quindi è costruito per il lavoro sul linguaggio anziché per immagini o audio. Il tag "free" su api14 contrassegna questa variante come una che puoi provare senza un piano a pagamento.

Il modello accetta testo in input e restituisce testo in output. La sua finestra di contesto è di 1.000.000 di token, abbastanza ampia da contenere interi codebase, lunghi insiemi di documenti o trascrizioni estese di agenti in una singola richiesta. L'output massimo è di 65.536 token, quindi una singola chiamata può produrre un report lungo, un refactoring ampio o un piano multi-step senza suddividere il lavoro. Poiché è un design mixture-of-experts con un piccolo numero di parametri attivi, è posizionato per carichi di lavoro agentici ad alto throughput e attività specializzate, dove molte chiamate avvengono in parallelo e la latenza per chiamata conta.

Queste caratteristiche indicano alcuni pattern pratici. Il recupero e la summarization a contesto lungo si adattano bene: puoi passare un grande corpus e chiedere una sintesi in un colpo solo. Anche i loop degli agenti sono adatti, dato che il modello supporta il tool calling e può decidere quando invocare una funzione e come usare il risultato. Anche la classificazione, l'estrazione e il routing in batch su grandi volumi di testo hanno senso data l'orientamento al throughput. Sono supportati anche i prompt ad alto ragionamento, quindi le attività che beneficiano di una catena di pensiero visibile prima della risposta finale possono essere gestite nello stesso modello.

Lo chiami tramite l'API compatibile con OpenAI di api14 usando il model id "nvidia/nemotron-3.5-lightning:free". Punta il tuo client OpenAI esistente all'base URL di api14 e passa quell'id nel campo model. I parametri di richiesta supportati sono include_reasoning, max_tokens, reasoning, seed, temperature, tool_choice, tools e top_p. Usa tools e tool_choice per il function calling, temperature e top_p per modellare il campionamento, seed per esecuzioni riproducibili e max_tokens per limitare la risposta. I parametri reasoning e include_reasoning controllano se il contenuto di ragionamento viene richiesto e restituito.

Un aspetto da valutare è il tetto di output. A 65.536 token per risposta, generazioni molto grandi in un singolo colpo potrebbero dover essere suddivise su più chiamate anche se la finestra di input è molto più ampia. Se la tua attività dipende da modalità diverse dal testo, questo modello non la coprirà. E se ti serve la massima qualità di ragionamento possibile anziché throughput su lavoro agentico e specializzato, un modello più grande potrebbe essere la scelta migliore.