NVIDIA: Nemotron 3.5 Lightning (free)

Nemotron 3.5 Lightning est un modèle open mixture-of-experts de NVIDIA. Il possède 3B de paramètres actifs sur 30B au total, ce qui signifie qu'une fraction seulement du réseau s'exécute par token tandis que le modèle complet conserve une large base de connaissances apprises. Il appartient à la catégorie texte, il est donc conçu pour le travail linguistique plutôt que pour les images ou l'audio. Le tag "free" sur api14 indique que cette variante peut être essayée sans plan payant.

Le modèle prend du texte en entrée et renvoie du texte en sortie. Sa fenêtre de contexte est de 1 000 000 de tokens, ce qui est suffisamment grand pour contenir des bases de code entières, de longs ensembles de documents ou des transcriptions d'agents étendues en une seule requête. La sortie maximale est de 65 536 tokens, donc un seul appel peut produire un long rapport, une refactorisation importante ou un plan multi-étapes sans diviser le travail. Comme il s'agit d'une conception mixture-of-experts avec un petit nombre de paramètres actifs, il est positionné pour les charges de travail agentiques à haut débit et les tâches spécialisées, où de nombreux appels se produisent en parallèle et où la latence par appel compte.

Ces caractéristiques indiquent quelques schémas pratiques. La récupération et le résumé à long contexte conviennent bien : vous pouvez transmettre un grand corpus et demander une synthèse en une seule fois. Les boucles d'agents conviennent également, puisque le modèle prend en charge l'appel d'outils et peut décider quand invoquer une fonction et comment utiliser le résultat. La classification par lots, l'extraction et le routage sur de grands volumes de texte ont aussi du sens étant donné l'orientation vers le débit. Les prompts à forte composante de raisonnement sont également pris en charge, donc les tâches qui bénéficient d'une chaîne de pensée visible avant la réponse finale peuvent être traitées dans le même modèle.

Vous l'appelez via l'API compatible OpenAI d'api14 en utilisant l'id de modèle "nvidia/nemotron-3.5-lightning:free". Pointez votre client OpenAI existant vers l'URL de base d'api14 et passez cet id dans le champ model. Les paramètres de requête pris en charge sont include_reasoning, max_tokens, reasoning, seed, temperature, tool_choice, tools et top_p. Utilisez tools et tool_choice pour l'appel de fonctions, temperature et top_p pour façonner l'échantillonnage, seed pour des exécutions reproductibles, et max_tokens pour plafonner la réponse. Les paramètres reasoning et include_reasoning contrôlent si le contenu de raisonnement est demandé et renvoyé.

Un point à peser est le plafond de sortie. À 65 536 tokens par réponse, les générations en un seul coup très volumineuses peuvent devoir être réparties sur plusieurs appels même si la fenêtre d'entrée est bien plus grande. Si votre tâche dépend de modalités autres que le texte, ce modèle ne la couvrira pas. Et si vous avez besoin de la meilleure qualité de raisonnement possible plutôt que du débit sur des travaux agentiques et spécialisés, un modèle plus grand peut être le meilleur choix.