NVIDIA: Nemotron 3.5 Lightning

NVIDIA: Nemotron 3.5 Lightning är en öppen textmodell av typen mixture-of-experts från NVIDIA. Den har 3B aktiva parametrar av totalt 30B, en design som bara håller en del av nätverket aktivt per token. Leverantören släppte den 2026-08-11. Den tillhör kategorin text, så den är byggd för språkarbete snarare än bild- eller ljudinmatning.

Modellen tar emot text och returnerar text. Dess kontextfönster är 262 144 tokens, och den maximala utdata är 235 929 tokens, så både långa indata och långa genereringar är möjliga inom dessa gränser. Eftersom det är en mixture-of-experts-modell med ett litet antal aktiva parametrar positionerar NVIDIA den för agentiska arbetsbelastningar med hög genomströmning och specialiserade uppgifter. Den stöder även resonemangsutdata, vilket du kan styra via parametrarna reasoning och include_reasoning.

Dessa egenskaper pekar mot några praktiska användningsområden. Lång kontext plus stor utdata gör den lämplig för att bearbeta långa dokument, som avtal, loggar eller forskningsmaterial, och producera detaljerade sammanfattningar eller utdrag. Stöd för verktygsanrop gör den lämplig för agentloopar där modellen avgör vilken funktion som ska anropas och matar tillbaka resultat i konversationen. Strukturerade utdata och response_format hjälper när du behöver JSON eller någon annan schemakonform form för efterföljande kod. Resonemangskontrollerna låter dig aktivera eller granska mellanliggande resonemang när en uppgift kräver det, och stänga av det när latens eller utdatastorlek är viktigare.

Du anropar den via api14:s OpenAI-kompatibla API med modell-id:t "nvidia/nemotron-3.5-lightning". De stödda begärandeparametrarna är frequency_penalty, include_reasoning, logit_bias, logprobs, max_tokens, min_p, presence_penalty, reasoning, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k, top_logprobs och top_p. Sampling kan justeras med temperature, top_p, top_k och min_p, medan seed, stop och straffparametrarna ger dig reproducerbarhet och kontroll över upprepning. Verktygsanvändning konfigureras med tools och tool_choice, och utdataform med response_format och structured_outputs.

Tänk på begränsningarna när du väljer den. Indata är endast text, så allt som involverar bilder eller ljud behöver en annan modell. Kontextfönstret och den maximala utdata är stora men ändliga, och begäranden bortom dem får inte plats. Om din arbetsbelastning inte behöver verktygsanrop, strukturerade utdata eller resonemang kan en enklare textmodell räcka.