Tencent: Hy-MT2-7B

Tencent: Hy-MT2-7B é um modelo de tradução da Tencent. É um modelo de 7B parâmetros, o que o coloca na extremidade menor do intervalo de parâmetros para modelos deste tipo, e situa-se na categoria de texto. A descrição do fornecedor enquadra-o especificamente como um sistema de tradução e não como um modelo de chat de uso geral, pelo que a tarefa pretendida é converter texto de um idioma para outro.

O modelo recebe texto como entrada e devolve texto como saída. Tem uma janela de contexto de 8192 tokens, e a saída máxima é de 4096 tokens. Segundo a Tencent, suporta 33 pares de idiomas mais cinco pares de dialetos chineses e línguas minoritárias. Para além da tradução simples de frases, oferece fluxos de trabalho para tradução estruturada, tradução baseada em delimitadores, tradução contextual, tradução baseada em glossário e tradução guiada por estilo. Esses fluxos de trabalho são importantes porque permitem controlar a terminologia e o tom em vez de aceitar o que o modelo produz por predefinição.

Os usos práticos decorrem desse conjunto de funcionalidades. A tradução baseada em glossário é adequada para documentação, catálogos de produtos e material jurídico ou técnico onde termos específicos têm de ser mapeados de forma consistente entre idiomas. A tradução contextual ajuda com passagens mais longas onde uma frase não pode ser bem traduzida isoladamente, como diálogos, tópicos de apoio ou artigos com vários parágrafos. A tradução guiada por estilo é útil quando o mesmo conteúdo tem de ser lido de forma diferente para públicos diferentes, por exemplo texto de marketing formal versus casual. Os fluxos de trabalho baseados em delimitadores e estruturados encaixam em pipelines onde os segmentos traduzidos têm de ser separados ou alinhados com a sua origem, o que é comum em ferramentas de localização. A cobertura de dialetos chineses e línguas minoritárias estende isto a conteúdo dirigido a esses públicos.

Chama o modelo através da API compatível com OpenAI da api14 usando o id de modelo "tencent/hy-mt2-7b". Como a interface segue a forma das chat completions da OpenAI, pode apontar um cliente OpenAI existente para a api14 e alterar a string do modelo. Os parâmetros de pedido suportados são max_completion_tokens, max_tokens, response_format, stop, structured_outputs e temperature. A temperature dá-lhe controlo sobre quão literal ou variada é a saída, o stop permite-lhe cortar a geração numa sequência escolhida, e o response_format juntamente com structured_outputs é útil quando precisa que o resultado traduzido seja devolvido numa forma definida para análise posterior.

A janela de contexto de 8192 tokens é a principal restrição a ter em conta. Documentos muito longos terão de ser divididos em blocos, e a divisão em blocos interage com a qualidade da tradução porque o contexto perde-se nos limites. O limite de saída de 4096 tokens também significa que um único pedido não pode devolver uma tradução arbitrariamente longa. Se a sua tarefa for raciocínio geral, resumo ou código em vez de tradução, um modelo de texto de uso geral será normalmente mais adequado. Para trabalho de tradução dentro destes limites de tamanho, este modelo é a escolha mais direcionada.