Tencent: Hy-MT2-30B-A3B

Tencent: Hy-MT2-30B-A3B は Tencent のテキストモデルで、Hy-MT2 ファミリーにおける旗艦翻訳モデルとして位置づけられています。テキスト入力、テキスト出力のモデルであるため、プロンプトをテキストとして受け取り、テキストを返します。画像や音声の処理は行いません。アプリケーションに翻訳や多言語テキスト処理を組み込む場合、Tencent が最上位の選択肢として扱うファミリー内のモデルがこれです。

このモデルは 33 の言語ペアに加えて、5 つの中国語方言および少数民族言語のペアをサポートしています。単純な文の翻訳に加えて、プロバイダーは構造化、区切り文字ベース、文脈依存、用語集ベースの翻訳ワークフローを説明しており、つまり出力形式を整えたり、モデルに従わせる用語を指定したりできます。コンテキストウィンドウは 8192 トークン、最大出力は 4096 トークンであるため、1 回のリクエストでかなり長い原文と指示を保持しつつ、翻訳結果のための余地も残せます。入力と出力はテキストのみです。

これらの機能は、かなり特定のユースケース群を示しています。ローカリゼーションパイプラインは明らかな適合先です。製品文字列、ドキュメント、サポートコンテンツを多くの言語ペアに翻訳し、用語集サポートによって製品名やドメイン用語の一貫性を保つのに役立ちます。区切り文字ベースおよび構造化ワークフローは、1 回のリクエストで複数のセグメントを送信し、応答を予測可能な方法で分離する必要があるバッチジョブに適しています。文脈依存翻訳は、文を単独で翻訳するとうまくいかない場合に役立ちます。たとえば、対話、プレースホルダーを含む UI コピー、以前の文を参照するテキストなどです。中国語方言および少数民族言語のペアは、主流の翻訳モデルがしばしばうまく扱えない地域向け製品やコンテンツに有用です。出力上限が 4096 トークンであるため、長いドキュメントは全体を送るよりもチャンクに分割する方が適しています。

モデルは、モデル id "tencent/hy-mt2-30b-a3b" を使用して api14 の OpenAI 互換 API を通じて呼び出します。インターフェースは OpenAI chat completions の形式に従っているため、既存の OpenAI クライアントを api14 のベース URL に向け、モデル id を変更するだけで、他の構造変更は不要です。サポートされているリクエストパラメータは max_completion_tokens、max_tokens、response_format、stop、structured_outputs、temperature です。temperature は翻訳がどれだけ直訳的か、または多様かを制御するために使用し、stop は選択したシーケンスで生成を終了するために使用し、response_format または structured_outputs は自由なテキストではなく定義された形式で返信が必要な場合に使用します。max_tokens と max_completion_tokens はどちらも受け入れられるため、一方の慣例を選び、一貫して使用してください。

計画時に考慮すべき主な制約はサイズです。8192 トークンのコンテキストウィンドウと 4096 トークンの出力上限により、このモデルは 1 回の呼び出しで本全体を扱うというよりも、段落やセグメント向けに作られています。タスクが翻訳ではなく、一般的な推論、コード生成、長文ドキュメント分析である場合、汎用テキストモデルの方が通常は適しています。ただし翻訳作業においては、言語カバレッジ、方言ペア、用語集および区切り文字のワークフローが、汎用モデルではなくこのモデルを選ぶ理由です。