NVIDIA: Nemotron 3.5 Lightning

NVIDIA : Nemotron 3.5 Lightning est un modèle de texte ouvert à mélange d'experts de NVIDIA. Il compte 3B de paramètres actifs sur 30B au total, une conception qui ne garde qu'une partie du réseau active par token. Le fournisseur l'a publié le 2026-08-11. Il appartient à la catégorie texte, il est donc conçu pour le travail linguistique plutôt que pour l'entrée d'images ou d'audio.

Le modèle accepte du texte et renvoie du texte. Sa fenêtre de contexte est de 262 144 tokens, et la sortie maximale est de 235 929 tokens, donc les entrées longues et les générations longues sont toutes deux possibles dans ces limites. Comme il s'agit d'un modèle à mélange d'experts avec un petit nombre de paramètres actifs, NVIDIA le positionne pour les charges de travail agentiques à haut débit et les tâches spécialisées. Il prend également en charge la sortie de raisonnement, que vous pouvez contrôler via les paramètres reasoning et include_reasoning.

Ces capacités indiquent quelques usages pratiques. Un contexte long plus une sortie importante en font un bon choix pour traiter des documents volumineux, tels que des contrats, des journaux ou du matériel de recherche, et produire des résumés ou des extractions détaillés. La prise en charge de l'appel d'outils le rend adapté aux boucles d'agents où le modèle décide quelle fonction invoquer et renvoie les résultats dans la conversation. Les sorties structurées et response_format aident lorsque vous avez besoin de JSON ou d'une autre forme conforme à un schéma pour du code en aval. Les contrôles de raisonnement vous permettent d'activer ou d'inspecter le raisonnement intermédiaire lorsqu'une tâche le nécessite, et de le désactiver lorsque la latence ou la taille de sortie compte davantage.

Vous l'appelez via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle "nvidia/nemotron-3.5-lightning". Les paramètres de requête pris en charge sont frequency_penalty, include_reasoning, logit_bias, logprobs, max_tokens, min_p, presence_penalty, reasoning, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k, top_logprobs et top_p. L'échantillonnage peut être réglé avec temperature, top_p, top_k et min_p, tandis que seed, stop et les paramètres de pénalité vous donnent la reproductibilité et le contrôle de la répétition. L'utilisation d'outils est configurée avec tools et tool_choice, et la forme de sortie avec response_format et structured_outputs.

Gardez les limites en tête lors du choix. L'entrée est uniquement du texte, donc tout ce qui implique des images ou de l'audio nécessite un modèle différent. La fenêtre de contexte et la sortie maximale sont grandes mais finies, et les requêtes au-delà ne passeront pas. Si votre charge de travail n'a pas besoin d'appel d'outils, de sortie structurée ou de raisonnement, un modèle de texte plus simple peut suffire.