Qwen: Qwen3.8 2.4T A95B

Qwen3.8 2.4T A95B は Qwen のオープンウェイトなスパース mixture-of-experts モデルであり、Qwen3.8 Max のオープンウェイト版です。名前はそのアーキテクチャを反映しています。2.4 兆の総パラメータのうち 95 億がアクティブパラメータなので、トークンごとにネットワークの一部だけが使われますが、モデル全体としては非常に大きな重みのプールを保持しています。テキストカテゴリに属し、テキストを入力として受け取り、テキストを出力します。

ほとんどの統合において最重要の数値は 1,048,576 トークンのコンテキストウィンドウです。これはコードベース全体、長い文書セット、拡張された会話履歴を 1 回のリクエストに収められる大きさです。出力は 131,072 トークンに制限されているため、長い入力と並行して長い生成も可能です。このモデルは推論動作をサポートしており、reasoning パラメータ、reasoning_effort コントロール、include_reasoning フラグがあり、推論内容を表に出すかどうかを決められます。また structured outputs と response_format もサポートしているため、自由テキストを解析するのではなく、返答をスキーマに制約できます。

これらの機能は、かなり特定の用途群を示しています。長コンテキスト分析は明らかな用途です。リポジトリ全体、契約書の束、ログアーカイブ、研究コーパスを投入し、検索レイヤーなしでその全体に対して質問できます。tools と tool_choice がサポートされているため、関数や外部 API を呼び出すエージェントの推論コアとして機能できます。structured outputs は、乱雑な入力から一貫した JSON が必要となる抽出パイプラインに適しています。reasoning コントロールは、モデルに問題を段階的に考えさせたいタスクに適しており、サンプリングパラメータによって、決定論的な生成やより探索的な生成に向けて動作を調整する余地があります。

api14 経由での呼び出しは、API が OpenAI 互換であるため、プラットフォーム上の他のモデルと同じように機能します。リクエストを chat completions エンドポイントに送り、モデル id "qwen/qwen3.8-2.4t-a95b" と通常の形式の messages を指定します。サポートされるリクエストパラメータは frequency_penalty、include_reasoning、logit_bias、logprobs、max_tokens、min_p、presence_penalty、reasoning、reasoning_effort、repetition_penalty、response_format、seed、stop、structured_outputs、temperature、tool_choice、tools、top_k、top_logprobs、top_p です。すでに OpenAI SDK 向けのコードがある場合、base URL を api14 に向け、モデル id を差し替えるのが一般的には必要な変更のすべてです。

実務上の注意が 2 点あります。第一に、これはテキスト専用モデルです。画像や音声の入力はないため、マルチモーダルなものには別のモデルが必要です。第二に、mixture-of-experts 設計によりアクティブパラメータ数は総数よりはるかに少ないものの、2.4 兆パラメータのモデルは依然として大規模であり、1M トークンのコンテキストはリクエストが大量の入力を運び得ることを意味します。深さよりもレイテンシやスループットが重要な短く単純なタスクでは、通常はより小さなモデルの方が良い選択です。