Tencent: Hy-MT2-7B

Tencent: Hy-MT2-7BはTencentの翻訳モデルです。7Bパラメータのモデルであり、この種のモデルの中ではパラメータ範囲の小さい側に位置し、テキストカテゴリに属します。提供元の説明では、汎用チャットモデルではなく翻訳システムとして明確に位置づけられているため、想定された役割はテキストをある言語から別の言語へ変換することです。

このモデルはテキストを入力として受け取り、テキストを出力として返します。コンテキストウィンドウは8192トークンで、最大出力は4096トークンです。Tencentによると、33の言語ペアに加えて、5つの中国語方言および少数民族言語のペアをサポートしています。単純な文の翻訳にとどまらず、構造化翻訳、区切り文字ベースの翻訳、文脈を考慮した翻訳、用語集ベースの翻訳、スタイル誘導翻訳のワークフローを提供します。これらのワークフローは、モデルがデフォルトで生成するものをそのまま受け入れるのではなく、用語とトーンを制御できるようにするため重要です。

実用的な用途は、この機能セットから導かれます。用語集ベースの翻訳は、特定の用語を言語間で一貫して対応させる必要があるドキュメント、製品カタログ、法務または技術資料に適しています。文脈を考慮した翻訳は、文を単独で翻訳するとうまくいかない長い文章、たとえば対話、サポートスレッド、複数段落の記事に役立ちます。スタイル誘導翻訳は、同じ内容を異なる読者向けに異なる印象で読ませる必要がある場合、たとえばフォーマルなマーケティングコピーとカジュアルなマーケティングコピーを使い分ける場合に有用です。区切り文字ベースおよび構造化ワークフローは、翻訳されたセグメントを分離したりソースと対応付けたりする必要があるパイプラインに適合し、これはローカリゼーションツールで一般的です。中国語方言および少数民族言語への対応により、こうした読者層向けのコンテンツにも适用范围が広がります。

このモデルは、モデルID「tencent/hy-mt2-7b」を使用してapi14のOpenAI互換APIを通じて呼び出します。インターフェースがOpenAI chat completionsの形式に従っているため、既存のOpenAIクライアントをapi14に向け、モデル文字列を変更できます。サポートされるリクエストパラメータは、max_completion_tokens、max_tokens、response_format、stop、structured_outputs、temperatureです。temperatureは出力がどの程度逐語的または多様になるかを制御でき、stopは選択したシーケンスで生成を打ち切ることができ、response_formatとstructured_outputsは、翻訳結果を下流の解析のために定義された形で返す必要がある場合に有用です。

8192トークンのコンテキストウィンドウが、留意すべき主な制約です。非常に長いドキュメントはチャンクに分割する必要があり、チャンク分割は境界で文脈が失われるため翻訳品質に影響します。4096トークンの出力上限も、1回のリクエストで任意の長さの翻訳を返すことはできないことを意味します。タスクが翻訳ではなく汎用推論、要約、コードである場合、通常は汎用テキストモデルの方が適しています。このサイズ制限内での翻訳作業では、このモデルの方がより目的に合った選択です。