NVIDIA: Nemotron 3 Nano 30B A3B

NVIDIA Nemotron 3 Nano 30B A3B är en liten språkmodell byggd av NVIDIA som en del av dess Nemotron-familj. Namnet återspeglar dess arkitektur: en mixture-of-experts-design med ungefär 30 miljarder parametrar totalt och omkring 3 miljarder aktiva per token, vilket NVIDIA beskriver som hög beräkningseffektivitet och noggrannhet. Det är en textmodell riktad till utvecklare som bygger specialiserade agentiska AI-system, och den släpptes av leverantören den 14 december 2025.

Modellen tar in text och returnerar text. Dess kontextfönster är 262 144 tokens, med en maximal utdata på 235 929 tokens, så den kan ta emot mycket långa indata och producera långa kompletteringar i en enda begäran. Utöver vanlig generering antyder de stödda parametrarna att resonemang och strukturerad utdata är förstklassiga funktioner: både reasoning och include_reasoning accepteras, liksom response_format, structured_outputs och tools. Styrning av sampling och avkodning inkluderar temperature, top_p, top_k, repetition_penalty, frequency_penalty, presence_penalty, stop, seed och logit_bias, plus logprobs och top_logprobs för att inspektera sannolikheter på tokennivå.

Dessa funktioner pekar mot några praktiska arbetsbelastningar. Det stora kontextfönstret passar för bearbetning av långa dokument, såsom sammanfattning, extrahering och frågebesvarande över stora kodbaser eller rapportsamlingar, utan aggressiv uppdelning i bitar. Den agentiska positioneringen, kombinerad med verktygsanrop och strukturerad utdata, passar pipelines där modellen avgör vilka verktyg som ska anropas och returnerar maskinläsbara resultat, till exempel dataanrikning, orkestrering av hämtning eller automatisering i flera steg. Resonemangsstyrningen är användbar för uppgifter där du vill separera modellens mellanliggande tänkande från dess slutliga svar, såsom analys, planering eller felsökning. Eftersom det är en liten, effektivitetsfokuserad modell passar den också för texttransformeringsjobb med hög volym där genomströmning är viktigare än högsta kapacitet.

Du anropar den via api14:s OpenAI-kompatibla API med modell-id:t "nvidia/nemotron-3-nano-30b-a3b". Eftersom slutpunkten följer OpenAI-schemat fungerar vanliga begäranden av chat completions-typ, och du kan skicka någon av parametrarna ovan i begärans brödtext, inklusive tools och tool_choice för funktionsanrop, response_format för strukturerade svar och max_tokens för att begränsa utdatalängden. Strömnings- och loggningsalternativ beter sig som för andra modeller på gatewayen.

Det är en modell endast för text. Den accepterar inte bild- eller ljudindata, så multimodala uppgifter kräver en annan modell, och leverantörens beskrivning positionerar den för specialiserade agentiska system snarare än som en allmän flaggskeppsmodell. Om en arbetsbelastning behöver vision, andra indatamodaliteter eller en större modells bredare kunskap, överväg alternativ; för lång kontext, resonemangstunga eller verktygsdrivna textpipelines är den här modellens kombination av ett fönster på 262 144 tokens, verktygsstöd och effektiv MoE-arkitektur anledningen att välja den.