NVIDIA: Parakeet TDT 0.6B v3

NVIDIA : Parakeet TDT 0.6B v3 est un modèle de reconnaissance vocale de NVIDIA. C'est un modèle de 600 millions de paramètres construit sur l'architecture FastConformer-TDT, et il a été entraîné sur le jeu de données Granary, qui contient plus de 670 000 heures d'audio. Le modèle est positionné comme un système de transcription multilingue, et il prend en charge la détection automatique de la langue parmi les langues qu'il couvre. Si vous travaillez déjà dans l'écosystème NVIDIA, ou si vous avez simplement besoin d'un modèle de transcription compact et ciblé, c'est le genre de modèle que vous évalueriez sur la force de son architecture et de ses données d'entraînement plutôt que sur sa capacité de raisonnement générale.

Le modèle est mono-usage. Sa seule modalité d'entrée est l'audio, et sa seule modalité de sortie est la transcription. Il n'accepte pas d'invites textuelles au sens habituel du chat, et il ne génère pas de réponses conversationnelles. Comme il s'agit d'un modèle de transcription dédié plutôt que d'un modèle de langage généraliste, il n'y a pas de fenêtre de contexte mesurée en tokens ni de longueur de sortie maximale comme un modèle de chat en indiquerait une ; les limites pertinentes concernent la longueur et le format de l'audio plutôt que la taille de l'invite. Aucun paramètre de requête pris en charge n'est listé pour ce modèle sur api14, donc vous devez vous attendre à envoyer une requête de transcription simple sans options de réglage.

Les cas d'usage découlent directement de cette conception. Il convient à la transcription par lots ou à la demande d'audio enregistré, comme des enregistrements de réunions, des entretiens, des notes vocales ou des enregistrements d'appels. Comme il effectue une détection automatique de la langue sur plusieurs langues, il peut être un choix raisonnable lorsque vous ne connaissez pas la langue de l'audio à l'avance et que vous ne voulez pas acheminer chaque fichier manuellement. Il convient également aux pipelines qui ont besoin d'une étape de reconnaissance vocale compacte et dédiée plutôt que d'un grand modèle généraliste faisant de la transcription comme effet secondaire d'une invite plus large.

Vous l'appelez via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle "nvidia/parakeet-tdt-0.6b-v3". Pointez votre client OpenAI existant vers l'URL de base d'api14, envoyez votre audio comme entrée, et lisez la transcription dans la réponse. Comme aucun paramètre de requête n'est listé comme pris en charge pour ce modèle, gardez votre requête minimale et ne comptez pas sur temperature, top_p, max_tokens ou des contrôles d'échantillonnage similaires pour avoir un effet. Traitez-le comme un point de terminaison de transcription qui se trouve partager la forme de requête OpenAI.

Une limite pratique à garder à l'esprit est que ce modèle ne fait que de la transcription. Si votre tâche nécessite de résumer la transcription, de répondre à des questions à son sujet, de la traduire dans une autre langue, ou toute autre génération de texte, vous aurez besoin d'un modèle de texte séparé pour cette étape, ou d'un modèle différent qui gère à la fois l'entrée audio et la sortie générative. De même, si vous avez besoin d'un comportement de décodage configurable ou d'un contrôle fin sur la sortie, vérifiez la liste des paramètres en direct avant de construire autour, car aucun n'est listé ici. Pour de la reconnaissance vocale simple avec détection de langue, c'est un choix direct.