Tencent: Hunyuan A13B Instruct

Tencent Hunyuan A13B Instruct は、2025年7月8日にリリースされた Tencent のテキスト生成モデルです。これは Mixture-of-Experts (MoE) 言語モデルであり、13B のアクティブパラメータと、合計 80B のパラメータ数を持ちます。標準的な指示追従に加えて、Chain-of-Thought による推論をサポートしており、最終的な回答を生成する前に中間ステップを経ることがモデルにとって有益なタスクに役立ちます。

このモデルはテキストを入力として受け取り、テキストを出力として返します。コンテキストウィンドウは 131,072 トークン、最大出力は 117,964 トークンであるため、長い文書を処理し、1回のリクエストで長い応答を生成できます。知識カットオフは 2025年3月31日です。これらの特性により、短いプロンプトだけでなく、実質的なシングルパスの作業に適したモデルの範囲に位置づけられます。

コンテキストウィンドウが大きく、最大出力も長いため、典型的なユースケースには、長文文書の要約や分析、長い入力からの構造化情報の抽出、チャンク分割なしでの長い技術文書や編集用ドラフトの生成が含まれます。Chain-of-Thought 推論は、計画立案、複数部分からなる質問応答、可視または内部の推論トレースが信頼性を高めるタスクなど、多段階の問題に適しています。構造化出力と response_format のサポートにより、自由テキストではなく機械可読な結果を必要とするパイプラインにも適しています。

このモデルは、モデル ID "tencent/hunyuan-a13b-instruct" を使用して api14 の OpenAI 互換 API を通じて呼び出します。サポートされるリクエストパラメータは、frequency_penalty、include_reasoning、max_tokens、reasoning、response_format、structured_outputs、temperature、top_k、top_p です。モデルの推論動作を表出させたり制御したりしたい場合は、include_reasoning と reasoning が関連するパラメータです。決定的なフォーマットが必要な場合は、response_format と structured_outputs を利用できます。テキスト専用モデルであるため、入力はテキストでなければならず、出力もテキストになります。

テキスト専用のモダリティを考えると、アプリケーションが画像、音声、その他の非テキスト入力 を必要とする場合は、別のモデルの方が適しています。これらは Hunyuan A13B Instruct が受け付ける範囲外だからです。幅広いサンプリングおよびフォーマット用パラメータをサポートしているため、ほとんどの標準的なテキスト生成ワークロードは、回避策を必要とせずに直接構成できます。