Z.ai: GLM Flash Latest

GLM Flash Latest は Z.ai のテキスト生成モデルで、モデル id ~z-ai/glm-flash-latest で公開されています。この名前はエンドポイントの挙動を反映しています。つまり、常に GLM Flash ファミリーの最新モデルへリダイレクトされるため、今日行ったリクエストと後日行ったリクエストが、Z.ai がファミリーを更新するにつれて異なる基盤バージョンによって処理される可能性があります。バージョン番号を自分で追跡することなく最新の GLM Flash の挙動を利用したい場合、このエイリアスがそれを得るための想定された方法です。

このモデルはテキスト、画像、動画を入力として受け取り、テキストを出力として生成します。コンテキストウィンドウは 1,048,576 トークンで、最大出力は 943,718 トークンです。非常に大きな入力ウィンドウと非常に大きな出力許容量のこの組み合わせにより、長い文書、文字起こし、メディアを指示と一緒に送信しても、モデルの返答のために十分な余地を残せます。入力側で画像と動画が受け入れられるため、プロンプトでは書き言葉の素材と視覚的素材を 1 つのリクエスト内で混在させることができます。

これらの能力は、かなり特定の用途群を示しています。長いコンテキストの作業は明らかな適合先です。小さなウィンドウには収まらないような長いレポート、コードベース、ログ、書籍コレクションから要約したり構造化情報を抽出したりする用途です。マルチモーダル入力は、画像や動画クリップについて説明したり推論したりするタスクを支えます。たとえば、映像やスクリーンショットを書面による要約、キャプション、構造化ノートに変換するようなものです。大きな出力予算は、回答自体が長い生成タスクにも適しています。短い返答ではなく、文書の下書きや詳細な分析の作成などです。

このモデルは、モデル id "~z-ai/glm-flash-latest" を使用して api14 の OpenAI 互換 API を通じて呼び出します。インターフェースは OpenAI chat completions の形に従っているため、既存の OpenAI クライアントライブラリとコードは、通常 base URL とモデル id を変更するだけで動作します。このモデルは幅広いリクエストパラメータをサポートしています。temperature、top_p、top_k、min_p、frequency_penalty、presence_penalty、repetition_penalty、max_tokens、stop、seed、logit_bias、logprobs、top_logprobs です。また、制約付き出力のための response_format と structured_outputs、関数呼び出しのための tools、tool_choice、parallel_tool_calls、推論制御の reasoning、reasoning_effort、include_reasoning もサポートしています。

実用上の考慮点の 1 つはエイリアスの挙動です。エンドポイントは最新の GLM Flash モデルへリダイレクトするため、正確な基盤モデルは時間とともに変化する可能性があります。これは最新の状態を保つには便利ですが、回帰テストのために固定された再現可能なバージョンが必要な場合にはあまり適していません。このモデルは出力側ではテキストのみであるため、生成画像、音声、その他の非テキスト出力を必要とするタスクはその範囲外です。ただしテキスト生成内では、100 万トークンの入力ウィンドウ、マルチモーダル入力、大きな出力許容量の組み合わせにより、幅広い開発者のワークロードをカバーします。