NVIDIA: Parakeet TDT 0.6B v3

NVIDIA: Parakeet TDT 0.6B v3 adalah model speech-to-text dari NVIDIA. Ini adalah model dengan 600 juta parameter yang dibangun di atas arsitektur FastConformer-TDT, dan dilatih pada dataset Granary, yang berisi lebih dari 670.000 jam audio. Model ini diposisikan sebagai sistem transkripsi multibahasa, dan mendukung deteksi bahasa otomatis di antara bahasa-bahasa yang dicakupnya. Jika Anda sudah bekerja di dalam ekosistem NVIDIA, atau Anda hanya perlu model transkripsi yang ringkas dan terfokus, ini adalah jenis model yang akan Anda evaluasi berdasarkan kekuatan arsitektur dan data pelatihannya, bukan berdasarkan kemampuan penalaran umum.

Model ini bersifat satu tujuan. Satu-satunya modalitas inputnya adalah audio, dan satu-satunya modalitas outputnya adalah transkripsi. Model ini tidak menerima prompt teks dalam pengertian chat biasa, dan tidak menghasilkan balasan percakapan. Karena ini adalah model transkripsi khusus, bukan model bahasa serbaguna, tidak ada context window yang diukur dalam token dan tidak ada panjang output maksimum seperti yang akan dilaporkan model chat; batasan yang relevan adalah tentang panjang dan format audio, bukan ukuran prompt. Tidak ada parameter permintaan yang didukung yang terdaftar untuk model ini di api14, jadi Anda sebaiknya mengirim permintaan transkripsi langsung tanpa opsi penyetelan.

Kasus penggunaannya mengikuti langsung dari desain tersebut. Model ini cocok untuk transkripsi batch atau on demand dari audio yang direkam, seperti rekaman rapat, wawancara, catatan suara, atau rekaman panggilan. Karena model ini melakukan deteksi bahasa otomatis di berbagai bahasa, model ini bisa menjadi pilihan yang wajar ketika Anda tidak mengetahui bahasa audio sebelumnya dan tidak ingin merutekan setiap file secara manual. Model ini juga cocok untuk pipeline yang membutuhkan langkah speech-to-text khusus yang ringkas, bukan model umum besar yang melakukan transkripsi sebagai efek samping dari prompt yang lebih luas.

Anda memanggilnya melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id "nvidia/parakeet-tdt-0.6b-v3". Arahkan klien OpenAI Anda yang sudah ada ke base URL api14, kirim audio Anda sebagai input, dan baca transkripsi dari respons. Karena tidak ada parameter permintaan yang terdaftar sebagai didukung untuk model ini, jaga permintaan Anda tetap minimal dan jangan mengandalkan temperature, top_p, max_tokens, atau kontrol sampling serupa untuk memiliki efek apa pun. Perlakukan ini sebagai endpoint transkripsi yang kebetulan memiliki bentuk permintaan yang sama dengan OpenAI.

Satu batasan praktis yang perlu diingat adalah model ini hanya melakukan transkripsi. Jika tugas Anda memerlukan peringkasan transkrip, menjawab pertanyaan tentangnya, menerjemahkannya ke bahasa lain, atau pembuatan teks lainnya, Anda akan memerlukan model teks terpisah untuk langkah itu, atau model berbeda yang menangani input audio dan output generatif sekaligus. Serupa dengan itu, jika Anda memerlukan perilaku decoding yang dapat dikonfigurasi atau kontrol yang terperinci atas output, periksa daftar parameter langsung sebelum membangun di atasnya, karena tidak ada yang terdaftar di sini. Untuk speech-to-text biasa dengan deteksi bahasa, model ini sangat cocok.