NVIDIA: Nemotron 3.5 ASR Streaming Multilingual 0.6B

NVIDIA: Nemotron 3.5 ASR Streaming Multilingual 0.6B es un modelo de reconocimiento de voz de NVIDIA. Pertenece a la familia Nemotron 3.5 y se distribuye a través de api14 bajo el id de modelo nvidia/nemotron-3.5-asr-streaming-multilingual-0.6b. Su diseño se centra en el reconocimiento automático de voz en lugar de la generación general de texto, por lo que se entiende mejor como un componente de transcripción dedicado y no como un modelo de chat.

El modelo toma audio como entrada y produce una transcripción como salida. Su arquitectura es un diseño FastConformer-RNNT condicionado por prompt y consciente de la caché, que está construido para el reconocimiento en streaming con baja latencia. Es multilingüe, con más de 40 idiomas objetivo, y el comportamiento de streaming significa que el audio se puede transcribir de forma incremental a medida que llega, en lugar de solo después de que esté disponible una grabación completa. No se publica ninguna longitud de contexto en tokens para este modelo, y la salida máxima se indica como cero, lo que refleja que su salida es un flujo de transcripción y no un presupuesto de tokens en el sentido habitual.

Esas características apuntan a un conjunto de usos bastante específico. El subtitulado en tiempo real es el encaje más claro, ya que el diseño de streaming está pensado para emitir texto mientras el habla aún está en curso. Lo mismo se aplica a la transcripción en vivo para reuniones, emisiones o cualquier flujo de audio en el que esperar al archivo completo sería demasiado lento. Dado que el modelo cubre más de 40 idiomas, también encaja en aplicaciones que atienden a audiencias multilingües y necesitan un único componente de reconocimiento en lugar de un modelo por idioma. Las interfaces de voz que necesitan convertir la entrada hablada en texto antes de pasarla a un sistema posterior son otro uso natural.

Se llama al modelo a través de la API compatible con OpenAI de api14 usando el id de modelo nvidia/nemotron-3.5-asr-streaming-multilingual-0.6b. Como la interfaz sigue el formato de OpenAI, los clientes y SDK existentes que ya apuntan a esa forma se pueden dirigir a api14 sin reescribir nada. El modelo acepta entrada de audio y devuelve una transcripción. No se indica que se admita ningún parámetro de solicitud para este modelo, así que no debe asumir que opciones como temperature, top_p o controles de muestreo similares estén disponibles; envíe el audio y lea la transcripción devuelta.

Vale la pena comprobar que un modelo ASR dedicado es lo que necesita su aplicación. Este modelo no acepta entrada de texto y no produce completaciones de texto generales, por lo que tareas como resumir una transcripción, responder preguntas sobre ella o traducirla requieren un modelo de lenguaje independiente después. Si su audio no está en uno de los idiomas admitidos, o si necesita un modelo de texto de entrada y texto de salida, otro modelo en api14 encajará mejor.