Tencent: Hy-MT2-7B

Tencent: Hy-MT2-7B, Tencent tarafından geliştirilen bir çeviri modelidir. 7B parametreli bir modeldir, bu da onu bu tür modeller için parametre aralığının daha küçük ucuna yerleştirir ve metin kategorisinde yer alır. Sağlayıcı açıklaması onu genel amaçlı bir sohbet modeli yerine özellikle bir çeviri sistemi olarak çerçeveler, dolayısıyla amaçlanan iş metni bir dilden diğerine dönüştürmektir.

Model girdi olarak metin alır ve çıktı olarak metin döndürür. 8192 token bağlam penceresine sahiptir ve maksimum çıktı 4096 tokendır. Tencent'e göre, 33 dil çifti artı beş Çince lehçe ve azınlık dili çiftini destekler. Düz cümle çevirisinin ötesinde, yapılandırılmış çeviri, sınırlayıcı tabanlı çeviri, bağlamsal çeviri, sözlük tabanlı çeviri ve stil yönlendirmeli çeviri iş akışları sunar. Bu iş akışları önemlidir çünkü modelin varsayılan olarak ürettiğini kabul etmek yerine terminolojiyi ve tonu kontrol etmenizi sağlarlar.

Pratik kullanımlar bu özellik kümesinden kaynaklanır. Sözlük tabanlı çeviri, belirli terimlerin diller arasında tutarlı bir şekilde eşleşmesi gereken dokümantasyon, ürün katalogları ve hukuki veya teknik materyaller için uygundur. Bağlamsal çeviri, bir cümlenin tek başına iyi çevrilemeyeceği daha uzun pasajlarda yardımcı olur; örneğin diyalog, destek konuları veya çok paragraflı makaleler. Stil yönlendirmeli çeviri, aynı içeriğin farklı kitleler için farklı okunması gerektiğinde kullanışlıdır; örneğin resmi ve gündelik pazarlama metni. Sınırlayıcı tabanlı ve yapılandırılmış iş akışları, çevrilmiş segmentlerin ayrılması veya kaynağıyla hizalanması gereken ardışık düzenlere uygundur; bu yerelleştirme araçlarında yaygındır. Çince lehçe ve azınlık dili kapsamı bunu bu kitlelere yönelik içeriğe genişletir.

Modeli api14'ün OpenAI uyumlu API'si üzerinden "tencent/hy-mt2-7b" model kimliğini kullanarak çağırırsınız. Arayüz OpenAI sohbet tamamlama şeklini izlediği için mevcut bir OpenAI istemcisini api14'e yönlendirip model dizesini değiştirebilirsiniz. Desteklenen istek parametreleri max_completion_tokens, max_tokens, response_format, stop, structured_outputs ve temperature'dır. Temperature, çıktının ne kadar birebir veya çeşitli olacağı üzerinde kontrol sağlar, stop üretimi seçilen bir dizide kesmenize olanak tanır ve response_format ile structured_outputs birlikte, çevrilmiş sonucun alt süreç ayrıştırması için tanımlı bir biçimde döndürülmesi gerektiğinde kullanışlıdır.

8192 token bağlam penceresi akılda tutulması gereken ana kısıtlamadır. Çok uzun belgelerin parçalara bölünmesi gerekecektir ve parçalama çeviri kalitesiyle etkileşir çünkü sınırlarda bağlam kaybolur. 4096 token çıktı sınırı da tek bir isteğin keyfi olarak uzun bir çeviri döndüremeyeceği anlamına gelir. Göreviniz çeviri yerine genel akıl yürütme, özetleme veya kod ise, genel amaçlı bir metin modeli genellikle daha iyi uyum sağlar. Bu boyut sınırları içindeki çeviri işleri için bu model daha hedefli seçimdir.