NVIDIA: Nemotron 3 Ultra

NVIDIA Nemotron 3 Ultra es un modelo abierto de razonamiento y orquestación de frontera de NVIDIA. Es un modelo de mezcla de expertos con 55B parámetros activos de 550B en total, construido sobre una arquitectura híbrida Transformer-Mamba. El id del modelo en api14 es nvidia/nemotron-3-ultra-550b-a55b, y se sitúa en la categoría de texto, por lo que está orientado a trabajo de lenguaje en lugar de generación de imágenes, audio o vídeo.

El modelo toma texto como entrada y devuelve texto como salida. Tiene una longitud de contexto de 262144 tokens, lo que es suficiente para contener documentos largos, archivos de código grandes o historiales de conversación extendidos en una sola solicitud, y una salida máxima de 182520 tokens, por lo que son posibles generaciones largas sin dividir el trabajo en varias llamadas. El comportamiento de razonamiento se expone a través de los parámetros include_reasoning y reasoning, y reasoning_effort te permite controlar cuánta deliberación interna aplica el modelo antes de responder. El llamado a herramientas es compatible a través de tools y tool_choice, y structured_outputs junto con response_format te permiten restringir la forma del texto devuelto.

Esas capacidades apuntan a algunos usos prácticos. El contexto largo junto con el razonamiento se adapta al análisis de bases de código grandes, la revisión de múltiples documentos y tareas de investigación donde el modelo tiene que mantener muchas fuentes a la vez y conciliarlas. El llamado a herramientas lo hace un ajuste razonable para flujos de trabajo estilo agente y orquestación, donde el modelo decide qué funciones invocar y en qué orden. Las salidas estructuradas son útiles cuando el resultado tiene que alimentar directamente a otro sistema, como extraer campos de contratos o producir resúmenes legibles por máquina. El gran límite de salida ayuda para tareas que producen artefactos largos, incluidos informes detallados o generación de código extendida.

Llamas al modelo a través de la API compatible con OpenAI de api14 usando el id del modelo nvidia/nemotron-3-ultra-550b-a55b. Las solicitudes aceptan los parámetros habituales de muestreo y control: temperature, top_p, top_k, min_p, frequency_penalty, presence_penalty y repetition_penalty para dar forma a la salida, max_tokens para la longitud, seed para reproducibilidad, stop para secuencias de parada, y logit_bias para ajustes a nivel de token. Para uso de herramientas, pasa tools y tool_choice. Para resultados estructurados, usa response_format y structured_outputs. El razonamiento se controla con reasoning, reasoning_effort e include_reasoning. Como la interfaz es compatible con OpenAI, los clientes y SDK existentes generalmente funcionan solo con cambiar la URL base y el id del modelo.

Una cosa a tener en cuenta es que el modelo es solo de texto. Si tu tarea depende de imágenes, audio u otras modalidades de entrada, este modelo no lo manejará, y una opción multimodal sería un mejor ajuste. Los límites de contexto y salida muy grandes también significan que las solicitudes pueden ser pesadas, así que para prompts cortos y simples un modelo más pequeño puede responder más rápido y ser más fácil de gestionar. Dentro del trabajo de texto, sin embargo, la combinación de contexto largo, controles de razonamiento, llamado a herramientas y salidas estructuradas cubre una amplia gama de necesidades de los desarrolladores.