Tencent: Hy-MT2-7B

Tencent: Hy-MT2-7B es un modelo de traducción de Tencent. Es un modelo de 7B parámetros, lo que lo sitúa en el extremo más pequeño del rango de parámetros para modelos de este tipo, y se encuentra en la categoría de texto. Su descripción del proveedor lo enmarca específicamente como un sistema de traducción en lugar de un modelo de chat de propósito general, por lo que el trabajo previsto es convertir texto de un idioma a otro.

El modelo toma texto como entrada y devuelve texto como salida. Tiene una ventana de contexto de 8192 tokens, y la salida máxima es de 4096 tokens. Según Tencent, admite 33 pares de idiomas más cinco pares de dialectos chinos y lenguas minoritarias. Más allá de la traducción simple de oraciones, ofrece flujos de trabajo para traducción estructurada, traducción basada en delimitadores, traducción contextual, traducción basada en glosarios y traducción guiada por estilo. Esos flujos de trabajo importan porque permiten controlar la terminología y el tono en lugar de aceptar lo que el modelo produzca por defecto.

Los usos prácticos se derivan de ese conjunto de características. La traducción basada en glosarios es adecuada para documentación, catálogos de productos y material legal o técnico donde términos específicos deben mapearse de forma consistente entre idiomas. La traducción contextual ayuda con pasajes más largos donde una oración no puede traducirse bien de forma aislada, como diálogos, hilos de soporte o artículos de varios párrafos. La traducción guiada por estilo es útil cuando el mismo contenido debe leerse de forma diferente para distintas audiencias, por ejemplo texto de marketing formal frente a informal. Los flujos de trabajo basados en delimitadores y estructurados encajan en canalizaciones donde los segmentos traducidos deben separarse o alinearse con su origen, lo cual es común en herramientas de localización. La cobertura de dialectos chinos y lenguas minoritarias extiende esto a contenido dirigido a esas audiencias.

Se llama al modelo a través de la API compatible con OpenAI de api14 usando el id de modelo "tencent/hy-mt2-7b". Dado que la interfaz sigue la forma de chat completions de OpenAI, se puede apuntar un cliente de OpenAI existente a api14 y cambiar la cadena del modelo. Los parámetros de solicitud admitidos son max_completion_tokens, max_tokens, response_format, stop, structured_outputs y temperature. Temperature da control sobre cuán literal o variada es la salida, stop permite cortar la generación en una secuencia elegida, y response_format junto con structured_outputs es útil cuando se necesita que el resultado traducido se devuelva en una forma definida para su análisis posterior.

La ventana de contexto de 8192 tokens es la principal restricción a tener en cuenta. Los documentos muy largos tendrán que dividirse en fragmentos, y la fragmentación interactúa con la calidad de la traducción porque se pierde contexto en los límites. El límite de salida de 4096 tokens también significa que una sola solicitud no puede devolver una traducción arbitrariamente larga. Si la tarea es razonamiento general, resumen o código en lugar de traducción, un modelo de texto de propósito general suele ser una opción más adecuada. Para trabajo de traducción dentro de estos límites de tamaño, este modelo es la opción más específica.