Tencent: Hy-MT2-30B-A3B

Tencent: Hy-MT2-30B-A3B adalah model teks dari Tencent, diposisikan sebagai model terjemahan unggulan dalam keluarga Hy-MT2. Ini adalah model text-in, text-out, jadi ia menerima prompt sebagai teks dan mengembalikan teks, tanpa penanganan gambar atau audio. Jika Anda membangun terjemahan atau pemrosesan teks multibahasa ke dalam aplikasi, ini adalah model dalam keluarga yang dianggap Tencent sebagai opsi teratasnya.

Model ini mendukung 33 pasangan bahasa bersama dengan lima pasangan dialek Tionghoa dan bahasa minoritas. Di luar terjemahan kalimat biasa, penyedia menjelaskan alur kerja untuk terjemahan terstruktur, berbasis delimiter, kontekstual, dan berbasis glosarium, yang berarti Anda dapat membentuk format output dan menyediakan terminologi yang harus diikuti model. Jendela konteksnya adalah 8192 token, dan output maksimumnya adalah 4096 token, sehingga satu permintaan dapat menampung bagian sumber yang cukup panjang plus instruksi sambil tetap menyisakan ruang untuk hasil terjemahan. Input dan output hanya teks.

Kemampuan tersebut mengarah ke serangkaian kasus penggunaan yang cukup spesifik. Pipeline lokalisasi adalah kecocokan yang jelas: menerjemahkan string produk, dokumentasi, atau konten dukungan lintas banyak pasangan bahasa, dengan dukungan glosarium membantu menjaga nama produk dan istilah domain tetap konsisten. Alur kerja berbasis delimiter dan terstruktur cocok untuk pekerjaan batch di mana Anda mengirim beberapa segmen dalam satu permintaan dan perlu respons dipisahkan dengan cara yang dapat diprediksi. Terjemahan kontekstual membantu ketika sebuah kalimat tidak dapat diterjemahkan dengan baik secara terpisah, seperti dialog, teks UI dengan placeholder, atau teks yang merujuk kembali ke kalimat sebelumnya. Pasangan dialek Tionghoa dan bahasa minoritas berguna untuk produk dan konten regional yang sering ditangani dengan buruk oleh model terjemahan arus utama. Karena batas outputnya 4096 token, dokumen panjang lebih baik dipecah menjadi potongan daripada dikirim utuh.

Anda memanggil model ini melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id "tencent/hy-mt2-30b-a3b". Karena antarmukanya mengikuti bentuk chat completions OpenAI, Anda dapat mengarahkan klien OpenAI yang sudah ada ke base URL api14 dan mengubah model id, tanpa perubahan struktural lainnya. Parameter permintaan yang didukung adalah max_completion_tokens, max_tokens, response_format, stop, structured_outputs, dan temperature. Gunakan temperature untuk mengontrol seberapa literal atau bervariasi terjemahannya, stop untuk mengakhiri generasi pada urutan yang dipilih, dan response_format atau structured_outputs ketika Anda memerlukan balasan dalam bentuk yang terdefinisi alih-alih teks bebas. Perhatikan bahwa max_tokens dan max_completion_tokens keduanya diterima, jadi pilih satu konvensi dan tetap konsisten.

Kendala utama yang perlu direncanakan adalah ukuran. Dengan jendela konteks 8192 token dan batas output 4096 token, model ini dibuat untuk bagian dan segmen daripada seluruh buku dalam satu panggilan. Jika tugas Anda adalah penalaran umum, pembuatan kode, atau analisis dokumen panjang alih-alih terjemahan, model teks serbaguna biasanya lebih cocok. Namun dalam pekerjaan terjemahan, cakupan bahasa, pasangan dialek, serta alur kerja glosarium dan delimiter adalah alasan untuk memilih model ini dibandingkan model generik.