NVIDIA: Nemotron 3.5 ASR Streaming Multilingual 0.6B

NVIDIA: Nemotron 3.5 ASR Streaming Multilingual 0.6B ist ein Spracherkennungsmodell von NVIDIA. Es gehört zur Nemotron 3.5 Familie und wird über api14 unter der Modell ID nvidia/nemotron-3.5-asr-streaming-multilingual-0.6b bereitgestellt. Sein Design konzentriert sich auf automatische Spracherkennung statt auf allgemeine Textgenerierung, daher versteht man es am besten als dedizierte Transkriptionskomponente und nicht als Chat Modell.

Das Modell nimmt Audio als Eingabe und erzeugt eine Transkription als Ausgabe. Seine Architektur ist ein prompt-konditioniertes, cache-bewusstes FastConformer-RNNT Design, das für Streaming-Erkennung mit niedriger Latenz gebaut ist. Es ist mehrsprachig und deckt mehr als 40 Sprachen ab, und das Streaming-Verhalten bedeutet, dass Audio schrittweise transkribiert werden kann, während es eintrifft, statt erst nachdem eine vollständige Aufnahme vorliegt. Für dieses Modell wird keine Kontextlänge in Token veröffentlicht, und die maximale Ausgabe ist mit null angegeben, was widerspiegelt, dass seine Ausgabe ein Transkriptionsstrom und kein Token-Budget im üblichen Sinne ist.

Diese Eigenschaften weisen auf eine ziemlich spezifische Gruppe von Anwendungen hin. Echtzeit-Untertitelung passt am klarsten, da das Streaming-Design darauf ausgelegt ist, Text auszugeben, während die Sprache noch läuft. Dasselbe gilt für Live-Transkription für Besprechungen, Sendungen oder jeden Audio-Feed, bei dem das Warten auf die vollständige Datei zu langsam wäre. Da das Modell mehr als 40 Sprachen abdeckt, eignet es sich auch für Anwendungen, die mehrsprachige Zielgruppen bedienen und eine einzige Erkennungskomponente benötigen statt eines Modells pro Sprache. Sprachschnittstellen, die gesprochene Eingaben in Text umwandeln müssen, bevor sie an ein nachgelagertes System weitergegeben werden, sind ein weiterer natürlicher Anwendungsfall.

Sie rufen das Modell über die OpenAI-kompatible API von api14 mit der Modell ID nvidia/nemotron-3.5-asr-streaming-multilingual-0.6b auf. Da die Schnittstelle dem OpenAI-Format folgt, können vorhandene Clients und SDKs, die bereits auf diese Form ausgerichtet sind, auf api14 gezeigt werden, ohne dass eine Neufassung nötig ist. Das Modell akzeptiert Audio-Eingabe und gibt eine Transkription zurück. Es sind keine Anforderungsparameter als für dieses Modell unterstützt aufgeführt, daher sollten Sie nicht annehmen, dass Optionen wie temperature, top_p oder ähnliche Sampling-Steuerungen verfügbar sind; senden Sie das Audio und lesen Sie die Transkription zurück.

Es lohnt sich zu prüfen, ob ein dediziertes ASR-Modell das ist, was Ihre Anwendung benötigt. Dieses Modell nimmt keine Texteingabe entgegen und erzeugt keine allgemeinen Textvervollständigungen, daher erfordern Aufgaben wie das Zusammenfassen einer Transkription, das Beantworten von Fragen dazu oder das Übersetzen davon ein separates Sprachmodell nachgelagert. Wenn Ihr Audio nicht in einer der unterstützten Sprachen ist oder wenn Sie ein Text-in, Text-out Modell benötigen, passt ein anderes Modell auf api14 besser.