NVIDIA: Nemotron 3.5 ASR Streaming Multilingual 0.6B

NVIDIA : Nemotron 3.5 ASR Streaming Multilingual 0.6B est un modèle de reconnaissance vocale de NVIDIA. Il appartient à la famille Nemotron 3.5 et est distribué via api14 sous l'identifiant de modèle nvidia/nemotron-3.5-asr-streaming-multilingual-0.6b. Sa conception est centrée sur la reconnaissance automatique de la parole plutôt que sur la génération de texte générale, il est donc préférable de le comprendre comme un composant de transcription dédié plutôt que comme un modèle de conversation.

Le modèle prend de l'audio en entrée et produit une transcription en sortie. Son architecture est une conception FastConformer-RNNT conditionnée par prompt et sensible au cache, conçue pour la reconnaissance en streaming avec une faible latence. Il est multilingue, ciblant plus de 40 langues, et le comportement en streaming signifie que l'audio peut être transcrit progressivement à mesure qu'il arrive, plutôt qu'uniquement après qu'un enregistrement complet est disponible. Aucune longueur de contexte en tokens n'est publiée pour ce modèle, et la sortie maximale est indiquée comme zéro, ce qui reflète que sa sortie est un flux de transcription plutôt qu'un budget de tokens au sens habituel.

Ces caractéristiques indiquent un ensemble d'usages assez spécifique. Le sous-titrage en temps réel est l'application la plus évidente, puisque la conception en streaming est destinée à émettre du texte pendant que la parole est encore en cours. Il en va de même pour la transcription en direct de réunions, de diffusions ou de tout flux audio pour lequel attendre le fichier complet serait trop lent. Comme le modèle couvre plus de 40 langues, il convient également aux applications qui servent un public multilingue et qui ont besoin d'un seul composant de reconnaissance plutôt que d'un modèle par langue. Les interfaces vocales qui doivent convertir une entrée parlée en texte avant de la transmettre à un système en aval constituent un autre usage naturel.

Vous appelez le modèle via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle nvidia/nemotron-3.5-asr-streaming-multilingual-0.6b. Comme l'interface suit le format OpenAI, les clients et SDK existants qui ciblent déjà ce format peuvent être dirigés vers api14 sans réécriture. Le modèle accepte une entrée audio et renvoie une transcription. Aucun paramètre de requête n'est indiqué comme pris en charge pour ce modèle, vous ne devez donc pas supposer que des options telles que temperature, top_p ou des contrôles d'échantillonnage similaires sont disponibles ; envoyez l'audio et lisez la transcription renvoyée.

Il vaut la peine de vérifier qu'un modèle ASR dédié correspond à ce dont votre application a besoin. Ce modèle ne prend pas de texte en entrée et ne produit pas de complétions de texte générales, donc des tâches comme résumer une transcription, répondre à des questions à son sujet ou la traduire nécessitent un modèle de langage distinct en aval. Si votre audio n'est pas dans l'une des langues prises en charge, ou si vous avez besoin d'un modèle texte en entrée, texte en sortie, un autre modèle sur api14 conviendra mieux.