NVIDIA: Nemotron 3.5 ASR Streaming Multilingual 0.6B

NVIDIA: Nemotron 3.5 ASR Streaming Multilingual 0.6B는 NVIDIA의 음성 인식 모델입니다. Nemotron 3.5 제품군에 속하며 api14를 통해 모델 id nvidia/nemotron-3.5-asr-streaming-multilingual-0.6b로 배포됩니다. 이 모델의 설계는 일반적인 텍스트 생성보다는 자동 음성 인식에 중점을 두므로, 채팅 모델이라기보다는 전용 전사(transcription) 구성 요소로 이해하는 것이 가장 적합합니다.

이 모델은 오디오를 입력으로 받아 전사를 출력으로 생성합니다. 아키텍처는 프롬프트 조건화(prompt-conditioned), 캐시 인식(cache-aware) FastConformer-RNNT 설계로, 낮은 지연 시간으로 스트리밍 인식을 위해 만들어졌습니다. 다국어를 지원하며 40개 이상의 언어를 대상으로 하고, 스트리밍 동작 덕분에 완전한 녹음이 준비된 후에만이 아니라 오디오가 도착하는 대로 점진적으로 전사할 수 있습니다. 이 모델에 대해 토큰 단위의 컨텍스트 길이는 공개되지 않았고, 최대 출력은 0으로 표시되는데, 이는 출력이 일반적인 의미의 토큰 예산이 아니라 전사 스트림임을 반영합니다.

이러한 특성은 상당히 구체적인 용도 집합을 가리킵니다. 실시간 자막이 가장 명확한 적합 사례로, 스트리밍 설계는 발화가 아직 진행 중일 때 텍스트를 내보내도록 의도되었습니다. 회의, 방송 또는 전체 파일을 기다리기에는 너무 느린 모든 오디오 피드에 대한 실시간 전사에도 마찬가지로 적용됩니다. 이 모델은 40개 이상의 언어를 포괄하므로, 언어별로 하나의 모델이 아니라 단일 인식 구성 요소가 필요한 다국어 사용자층을 대상으로 하는 애플리케이션에도 적합합니다. 음성 입력을 다운스트림 시스템으로 전달하기 전에 텍스트로 변환해야 하는 음성 인터페이스도 또 다른 자연스러운 용도입니다.

모델 id nvidia/nemotron-3.5-asr-streaming-multilingual-0.6b를 사용하여 api14의 OpenAI 호환 API를 통해 이 모델을 호출합니다. 인터페이스가 OpenAI 형식을 따르므로, 이미 그 형식을 대상으로 하는 기존 클라이언트와 SDK를 재작성 없이 api14로 지정할 수 있습니다. 이 모델은 오디오 입력을 받아 전사를 반환합니다. 이 모델에 대해 지원되는 것으로 나열된 요청 파라미터가 없으므로, temperature, top_p 또는 이와 유사한 샘플링 제어 옵션이 사용 가능하다고 가정해서는 안 됩니다. 오디오를 보내고 전사를 다시 읽으십시오.

전용 ASR 모델이 애플리케이션에 필요한 것인지 확인해 볼 가치가 있습니다. 이 모델은 텍스트 입력을 받지 않고 일반적인 텍스트 완성을 생성하지 않으므로, 전사를 요약하거나, 이에 대해 질문에 답하거나, 번역하는 작업에는 다운스트림에 별도의 언어 모델이 필요합니다. 오디오가 지원되는 언어 중 하나가 아니거나 텍스트 입력, 텍스트 출력 모델이 필요하다면, api14의 다른 모델이 더 적합할 것입니다.