XingChen: Xing4.0 29B A4B (free)

XingChen: Xing4.0 29B A4B (free) は、中国電信の AI チーム (TeleAI) によって開発された、XingChen のオープンウェイトな mixture-of-experts 言語モデルです。TeleChat シリーズの後継です。このモデルは合計 29B パラメータを持ち、トークンあたり 4B がアクティブです。つまり、生成される各トークンに対してネットワークの一部のみが使用されます。テキスト専用モデルであり、api14 の text カテゴリに掲載されています。

このモデルはテキストを入力として受け取り、テキストを出力として生成します。262144 トークンのコンテキストウィンドウをサポートし、最大出力長は 235929 トークンです。この組み合わせにより、非常に長い文書や長時間の会話を 1 回のリクエストで処理する必要があり、生成される応答自体も長くなる可能性があるワークロードに適しています。mixture-of-experts 設計であるため、トークンあたりのアクティブパラメータ数は合計よりもはるかに少なく、これは生のパラメータ数だけでなくスループットやサービング特性を検討している場合に関係します。

実用的なユースケースは、長いコンテキストとテキスト専用インターフェースから直接導かれます。より小さなコンテキストウィンドウには収まらない長いレポート、契約書、文字起こし、コードベースの要約や分析に使用できます。大量の以前の会話を保持する必要があるマルチターンアシスタントや、ソース資料を完全に渡す文書質問応答に適しています。ツールと構造化出力のサポートにより、エージェント形式のワークフロー、関数呼び出し、自由テキストではなく定義された JSON 形式の応答を必要とするアプリケーションの候補にもなります。

モデル ID "xingchen-agi/xing4.0-29b-a4b:free" を使用して、api14 の OpenAI 互換 API を通じてこのモデルを呼び出します。エンドポイントは OpenAI chat completions 形式に従っているため、既存の OpenAI SDK を使用して api14 を指定できます。このモデルは幅広いリクエストパラメータをサポートしています: frequency_penalty、include_reasoning、max_tokens、min_p、presence_penalty、reasoning、repetition_penalty、response_format、seed、stop、structured_outputs、temperature、tool_choice、tools、top_k、top_p。reasoning と include_reasoning の存在は、モデルが公開する場合に推論出力を要求できることを意味し、tools と tool_choice および structured_outputs は関数呼び出しとスキーマ制約付き生成をカバーします。

考慮すべき点の 1 つは、これがテキスト専用モデルであるため、画像や音声を入力として受け取ることができず、それらを生成することもできません。アプリケーションがマルチモーダル入力に依存している場合は、別のモデルが必要になります。また、無料版は本番環境で採用する前に、独自のレイテンシと品質要件に対してテストする価値があります。ここに記載されている事実は、測定されたパフォーマンスではなく、機能とパラメータを説明しているためです。