Tencent: Hy-MT2-7B

Tencent : Hy-MT2-7B est un modèle de traduction de Tencent. C'est un modèle de 7 milliards de paramètres, ce qui le situe dans la partie basse de la plage de paramètres pour les modèles de ce type, et il appartient à la catégorie texte. La description de son fournisseur le présente spécifiquement comme un système de traduction plutôt qu'un modèle de chat généraliste, donc sa fonction prévue est de convertir du texte d'une langue vers une autre.

Le modèle prend du texte en entrée et renvoie du texte en sortie. Il dispose d'une fenêtre de contexte de 8192 tokens, et la sortie maximale est de 4096 tokens. Selon Tencent, il prend en charge 33 paires de langues plus cinq paires de dialectes chinois et de langues minoritaires. Au-delà de la simple traduction de phrases, il propose des flux de travail pour la traduction structurée, la traduction basée sur des délimiteurs, la traduction contextuelle, la traduction basée sur un glossaire et la traduction guidée par le style. Ces flux de travail sont importants car ils vous permettent de contrôler la terminologie et le ton plutôt que d'accepter ce que le modèle produit par défaut.

Les usages pratiques découlent de cet ensemble de fonctionnalités. La traduction basée sur un glossaire convient à la documentation, aux catalogues de produits et aux documents juridiques ou techniques où des termes spécifiques doivent être transposés de manière cohérente d'une langue à l'autre. La traduction contextuelle aide pour les passages longs où une phrase ne peut pas être bien traduite isolément, comme les dialogues, les fils d'assistance ou les articles de plusieurs paragraphes. La traduction guidée par le style est utile lorsque le même contenu doit se lire différemment selon les publics, par exemple un texte marketing formel ou décontracté. Les flux de travail basés sur des délimiteurs et structurés conviennent aux pipelines où les segments traduits doivent être séparés ou alignés avec leur source, ce qui est courant dans les outils de localisation. La couverture des dialectes chinois et des langues minoritaires étend cela aux contenus destinés à ces publics.

Vous appelez le modèle via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle "tencent/hy-mt2-7b". Comme l'interface suit la forme des chat completions d'OpenAI, vous pouvez pointer un client OpenAI existant vers api14 et changer la chaîne du modèle. Les paramètres de requête pris en charge sont max_completion_tokens, max_tokens, response_format, stop, structured_outputs et temperature. Temperature vous permet de contrôler le caractère littéral ou varié de la sortie, stop vous permet d'interrompre la génération à une séquence choisie, et response_format avec structured_outputs est utile lorsque vous avez besoin que le résultat traduit soit renvoyé dans une forme définie pour un traitement en aval.

La fenêtre de contexte de 8192 tokens est la principale contrainte à garder en tête. Les documents très longs devront être découpés en segments, et ce découpage interagit avec la qualité de la traduction car le contexte est perdu aux frontières. Le plafond de sortie de 4096 tokens signifie aussi qu'une seule requête ne peut pas renvoyer une traduction d'une longueur arbitrairement grande. Si votre tâche relève du raisonnement général, du résumé ou du code plutôt que de la traduction, un modèle de texte généraliste conviendra généralement mieux. Pour un travail de traduction dans ces limites de taille, ce modèle est le choix le plus ciblé.