NVIDIA: Nemotron 3.5 Lightning (free)

Nemotron 3.5 Lightning es un modelo abierto de mezcla de expertos de NVIDIA. Tiene 3B parámetros activos de 30B en total, lo que significa que solo una fracción de la red se ejecuta por token mientras que el modelo completo aún conserva una base amplia de conocimiento aprendido. Se sitúa en la categoría de texto, por lo que está diseñado para trabajo de lenguaje en lugar de imágenes o audio. La etiqueta "free" en api14 marca esta variante como una que puedes probar sin un plan de pago.

El modelo recibe texto y devuelve texto. Su ventana de contexto es de 1,000,000 tokens, lo suficientemente grande como para contener bases de código completas, conjuntos largos de documentos o transcripciones extendidas de agentes en una sola solicitud. La salida máxima es de 65,536 tokens, por lo que una sola llamada puede producir un informe largo, una refactorización grande o un plan de varios pasos sin dividir el trabajo. Debido a que es un diseño de mezcla de expertos con un pequeño conteo de parámetros activos, está posicionado para cargas de trabajo agénticas de alto rendimiento y tareas especializadas, donde muchas llamadas ocurren en paralelo y la latencia por llamada importa.

Esos rasgos apuntan a algunos patrones prácticos. La recuperación y el resumen de contexto largo encajan bien: puedes pasar un corpus grande y pedir una síntesis en un solo disparo. Los bucles de agentes son otro encaje, ya que el modelo admite llamadas a herramientas y puede decidir cuándo invocar una función y cómo usar el resultado. La clasificación por lotes, la extracción y el enrutamiento sobre grandes volúmenes de texto también tienen sentido dada la orientación al rendimiento. Los prompts con mucho razonamiento también son compatibles, por lo que las tareas que se benefician de una cadena de pensamiento visible antes de la respuesta final pueden manejarse en el mismo modelo.

Lo llamas a través de la API compatible con OpenAI de api14 usando el id de modelo "nvidia/nemotron-3.5-lightning:free". Apunta tu cliente OpenAI existente a la URL base de api14 y pasa ese id en el campo model. Los parámetros de solicitud que admite son include_reasoning, max_tokens, reasoning, seed, temperature, tool_choice, tools y top_p. Usa tools y tool_choice para llamadas a funciones, temperature y top_p para dar forma al muestreo, seed para ejecuciones reproducibles, y max_tokens para limitar la respuesta. Los parámetros reasoning e include_reasoning controlan si se solicita y se devuelve contenido de razonamiento.

Una cosa a sopesar es el techo de salida. Con 65,536 tokens por respuesta, las generaciones muy grandes de un solo disparo pueden necesitar dividirse en varias llamadas aunque la ventana de entrada sea mucho mayor. Si tu tarea depende de modalidades distintas al texto, este modelo no lo cubrirá. Y si necesitas la mayor calidad de razonamiento posible en lugar del rendimiento en trabajo agéntico y especializado, un modelo más grande puede ser la mejor opción.