NVIDIA: Nemotron 3.5 Lightning (free)

O Nemotron 3.5 Lightning é um modelo de mistura de especialistas aberto da NVIDIA. Tem 3B parâmetros ativos de 30B no total, o que significa que apenas uma fração da rede é executada por token, enquanto o modelo completo ainda mantém uma base ampla de conhecimento aprendido. Está na categoria de texto, por isso é construído para trabalho de linguagem e não para imagens ou áudio. A etiqueta "free" em api14 marca esta variante como uma que pode experimentar sem um plano pago.

O modelo recebe texto e devolve texto. A sua janela de contexto é de 1.000.000 tokens, o que é suficientemente grande para conter bases de código inteiras, conjuntos de documentos longos ou transcrições de agentes extensas num único pedido. A saída máxima é de 65.536 tokens, por isso uma única chamada pode produzir um relatório longo, uma refatoração grande ou um plano com vários passos sem dividir o trabalho. Como é um design de mistura de especialistas com uma contagem pequena de parâmetros ativos, está posicionado para cargas de trabalho agênticas de alto débito e tarefas especializadas, onde muitas chamadas acontecem em paralelo e a latência por chamada importa.

Estes traços apontam para alguns padrões práticos. A recuperação e sumarização de contexto longo encaixam bem: pode passar um corpus grande e pedir uma síntese numa só vez. Os ciclos de agente são outro encaixe, uma vez que o modelo suporta chamadas de ferramentas e pode decidir quando invocar uma função e como usar o resultado. A classificação em lote, a extração e o encaminhamento sobre grandes volumes de texto também fazem sentido dada a orientação para o débito. Os prompts com muito raciocínio também são suportados, por isso tarefas que beneficiam de uma cadeia de pensamento visível antes da resposta final podem ser tratadas no mesmo modelo.

Chama-o através da API compatível com OpenAI da api14 usando o id de modelo "nvidia/nemotron-3.5-lightning:free". Aponte o seu cliente OpenAI existente para o URL base da api14 e passe esse id no campo model. Os parâmetros de pedido que suporta são include_reasoning, max_tokens, reasoning, seed, temperature, tool_choice, tools e top_p. Use tools e tool_choice para chamadas de funções, temperature e top_p para moldar a amostragem, seed para execuções reproduzíveis, e max_tokens para limitar a resposta. Os parâmetros reasoning e include_reasoning controlam se o conteúdo de raciocínio é pedido e devolvido.

Uma coisa a ponderar é o teto de saída. A 65.536 tokens por resposta, gerações únicas muito grandes podem precisar de ser divididas entre chamadas, mesmo que a janela de entrada seja muito maior. Se a sua tarefa depende de modalidades que não sejam texto, este modelo não a cobre. E se precisa da mais forte qualidade de raciocínio possível em vez de débito em trabalho agêntico e especializado, um modelo maior pode ser a melhor escolha.