NVIDIA: Nemotron 3.5 Lightning

NVIDIA: Nemotron 3.5 Lightning es un modelo de texto abierto de mezcla de expertos de NVIDIA. Tiene 3B parámetros activos de 30B en total, un diseño que mantiene solo parte de la red activa por token. El proveedor lo lanzó el 2026-08-11. Se sitúa en la categoría de texto, por lo que está diseñado para trabajo de lenguaje en lugar de entrada de imagen o audio.

El modelo acepta texto y devuelve texto. Su ventana de contexto es de 262,144 tokens, y la salida máxima es de 235,929 tokens, por lo que tanto las entradas largas como las generaciones largas son posibles dentro de esos límites. Debido a que es un modelo de mezcla de expertos con un pequeño recuento de parámetros activos, NVIDIA lo posiciona para cargas de trabajo agénticas de alto rendimiento y tareas especializadas. También admite salida de razonamiento, que puedes controlar mediante los parámetros reasoning e include_reasoning.

Esas capacidades apuntan a algunos usos prácticos. El contexto largo más la salida grande lo hacen adecuado para procesar documentos extensos, como contratos, registros o material de investigación, y producir resúmenes o extracciones detalladas. El soporte de llamadas a herramientas lo hace adecuado para bucles de agentes donde el modelo decide qué función invocar y devuelve los resultados a la conversación. Las salidas estructuradas y response_format ayudan cuando necesitas JSON u otra forma que cumpla un esquema para código posterior. Los controles de razonamiento te permiten habilitar o inspeccionar el razonamiento intermedio cuando una tarea lo necesita, y desactivarlo cuando la latencia o el tamaño de la salida importan más.

Lo llamas a través de la API compatible con OpenAI de api14 usando el id de modelo "nvidia/nemotron-3.5-lightning". Los parámetros de solicitud admitidos son frequency_penalty, include_reasoning, logit_bias, logprobs, max_tokens, min_p, presence_penalty, reasoning, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k, top_logprobs y top_p. El muestreo se puede ajustar con temperature, top_p, top_k y min_p, mientras que seed, stop y los parámetros de penalización te dan reproducibilidad y control sobre la repetición. El uso de herramientas se configura con tools y tool_choice, y la forma de salida con response_format y structured_outputs.

Ten en cuenta los límites al elegirlo. La entrada es solo texto, por lo que cualquier cosa que implique imágenes o audio necesita un modelo diferente. La ventana de contexto y la salida máxima son grandes pero finitas, y las solicitudes que las superen no cabrán. Si tu carga de trabajo no necesita llamadas a herramientas, salida estructurada o razonamiento, un modelo de texto más simple puede ser suficiente.