Tencent: Hy-MT2-30B-A3B

Tencent: Hy-MT2-30B-A3B, Tencent'in Hy-MT2 ailesindeki amiral gemisi çeviri modeli olarak konumlandırılan bir metin modelidir. Metin girişli, metin çıkışlı bir modeldir, yani istemleri metin olarak alır ve metin döndürür; görüntü veya ses işleme yoktur. Bir uygulamaya çeviri veya çok dilli metin işleme ekliyorsanız, bu, ailede Tencent'in en üst seçenek olarak gördüğü modeldir.

Model, beş Çince lehçe ve azınlık dili çiftinin yanı sıra 33 dil çiftini destekler. Düz cümle çevirisinin ötesinde, sağlayıcı yapılandırılmış, sınırlayıcı tabanlı, bağlamsal ve sözlük tabanlı çeviri iş akışlarını tanımlar; bu, çıktı biçimini şekillendirebileceğiniz ve modelin uyması gereken terminolojiyi sağlayabileceğiniz anlamına gelir. Bağlam penceresi 8192 token'dır ve maksimum çıktı 4096 token'dır, böylece tek bir istek makul uzunlukta bir kaynak pasajı artı talimatları barındırabilir ve yine de çevrilmiş sonuç için yer bırakabilir. Girişler ve çıktılar yalnızca metindir.

Bu yetenekler oldukça belirli bir kullanım senaryoları kümesine işaret eder. Yerelleştirme ardışık düzenleri bariz uyumdur: ürün dizelerini, belgeleri veya destek içeriğini birçok dil çiftinde çevirmek, sözlük desteği ürün adlarının ve alan terimlerinin tutarlı kalmasına yardımcı olur. Sınırlayıcı tabanlı ve yapılandırılmış iş akışları, tek bir istekte birkaç bölüm gönderdiğiniz ve yanıtların öngörülebilir bir şekilde ayrılması gereken toplu işler için uygundur. Bağlamsal çeviri, bir cümlenin tek başına iyi çevrilemediği durumlarda yardımcı olur; örneğin diyalog, yer tutucu içeren arayüz metni veya önceki cümlelere atıfta bulunan metin. Çince lehçe ve azınlık dili çiftleri, ana akım çeviri modellerinin genellikle kötü ele aldığı bölgesel ürünler ve içerik için kullanışlıdır. Çıktı sınırı 4096 token olduğundan, uzun belgelerin tamamını göndermek yerine parçalara bölmek daha iyidir.

Modeli, "tencent/hy-mt2-30b-a3b" model kimliğini kullanarak api14'ün OpenAI uyumlu API'si üzerinden çağırırsınız. Arayüz OpenAI chat completions şeklini izlediği için, mevcut bir OpenAI istemcisini api14'ün temel URL'sine yönlendirip model kimliğini değiştirebilirsiniz; başka yapısal değişiklik gerekmez. Desteklenen istek parametreleri max_completion_tokens, max_tokens, response_format, stop, structured_outputs ve temperature'dır. Çevirinin ne kadar harfi harfine veya çeşitli olacağını kontrol etmek için temperature'ı, üretimi seçilen bir dizide bitirmek için stop'u ve yanıtı serbest metin yerine tanımlı bir biçimde istediğinizde response_format veya structured_outputs'u kullanın. max_tokens ve max_completion_tokens'ın ikisinin de kabul edildiğini unutmayın, bu yüzden bir kural seçin ve tutarlı kalın.

Planlarken dikkate alınması gereken ana kısıt boyuttur. 8192 token bağlam penceresi ve 4096 token çıktı tavanı ile bu model, tek bir çağrıda tüm kitaplar yerine pasajlar ve bölümler için tasarlanmıştır. Göreviniz çeviri yerine genel akıl yürütme, kod üretimi veya uzun belge analizi ise, genel amaçlı bir metin modeli genellikle daha iyi uyar. Yine de çeviri işi içinde, dil kapsamı, lehçe çiftleri ve sözlük ile sınırlayıcı iş akışları, bu modeli genel bir model yerine seçmenizin nedenleridir.