NVIDIA: Nemotron 3 Ultra

NVIDIA Nemotron 3 Ultra est un modèle ouvert de raisonnement et d'orchestration de pointe de NVIDIA. C'est un modèle de mélange d'experts avec 55B de paramètres actifs sur 550B au total, construit sur une architecture hybride Transformer-Mamba. L'identifiant du modèle sur api14 est nvidia/nemotron-3-ultra-550b-a55b, et il se situe dans la catégorie texte, donc il est destiné au travail linguistique plutôt qu'à la génération d'images, d'audio ou de vidéo.

Le modèle prend du texte en entrée et renvoie du texte en sortie. Il a une longueur de contexte de 262144 tokens, ce qui suffit pour contenir de longs documents, de gros fichiers de code ou des historiques de conversation étendus dans une seule requête, et une sortie maximale de 182520 tokens, donc de longues générations sont possibles sans diviser le travail en plusieurs appels. Le comportement de raisonnement est exposé via les paramètres include_reasoning et reasoning, et reasoning_effort vous permet de contrôler la quantité de délibération interne que le modèle applique avant de répondre. L'appel d'outils est pris en charge via tools et tool_choice, et structured_outputs ainsi que response_format vous permettent de contraindre la forme du texte renvoyé.

Ces capacités indiquent quelques usages pratiques. Un contexte long combiné au raisonnement convient à l'analyse de grandes bases de code, à la revue de documents multiples et aux tâches de recherche où le modèle doit tenir compte de nombreuses sources à la fois et les concilier. L'appel d'outils en fait un choix raisonnable pour les flux de travail de type agent et l'orchestration, où le modèle décide quelles fonctions invoquer et dans quel ordre. Les sorties structurées sont utiles lorsque le résultat doit alimenter directement un autre système, comme l'extraction de champs à partir de contrats ou la production de résumés lisibles par machine. Le plafond de sortie élevé aide pour les tâches qui produisent de longs artefacts, notamment des rapports détaillés ou de la génération de code étendue.

Vous appelez le modèle via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle nvidia/nemotron-3-ultra-550b-a55b. Les requêtes acceptent les paramètres habituels d'échantillonnage et de contrôle : temperature, top_p, top_k, min_p, frequency_penalty, presence_penalty et repetition_penalty pour façonner la sortie, max_tokens pour la longueur, seed pour la reproductibilité, stop pour les séquences d'arrêt, et logit_bias pour les ajustements au niveau des tokens. Pour l'utilisation d'outils, passez tools et tool_choice. Pour des résultats structurés, utilisez response_format et structured_outputs. Le raisonnement est contrôlé avec reasoning, reasoning_effort et include_reasoning. Comme l'interface est compatible OpenAI, les clients et SDK existants fonctionnent généralement avec seulement l'URL de base et l'identifiant de modèle modifiés.

Une chose à garder à l'esprit est que le modèle est uniquement textuel. Si votre tâche dépend d'images, d'audio ou d'autres modalités d'entrée, ce modèle ne les gérera pas, et une option multimodale conviendrait mieux. Les limites très élevées de contexte et de sortie signifient aussi que les requêtes peuvent être lourdes, donc pour des invites courtes et simples, un modèle plus petit peut répondre plus rapidement et être plus facile à gérer. Dans le cadre du travail textuel, cependant, la combinaison d'un contexte long, de contrôles de raisonnement, d'appel d'outils et de sorties structurées couvre un large éventail de besoins des développeurs.