StepFun: Step 3.5 Flash

Step 3.5 Flash は StepFun のテキストモデルで、api14 にモデル ID stepfun/step-3.5-flash として掲載されています。StepFun はこれを、最も高性能なオープンソース基盤モデルと説明しており、スパースな Mixture of Experts アーキテクチャに基づいて、196B のパラメータのうち 1 トークンあたり 11B のみを活性化します。テキストカテゴリに属するため、画像、音声、その他のモダリティではなく、言語処理を対象としています。

このモデルはテキストを入力として受け取り、テキストを出力します。262144 トークンのコンテキストウィンドウをサポートしており、これは長い文書、長時間の会話、かなり大きなコードファイルを 1 回のリクエストに収めるのに十分な大きさで、出力では最大 65536 トークンを生成できます。サポートされるパラメータには reasoning と include_reasoning があり、通常の応答と並んで推論モードを公開できます。また tools と tool_choice も受け付けるため、関数定義を与えて呼び出しを依頼できます。

これらの機能はいくつかの実用的な用途を示します。長いコンテキストは、技術文書、契約書、複数ファイルのコードベースなどの長いソース資料を、まずチャンクに分割することなく要約または問い合わせるのに適しています。reasoning パラメータは、段階的な作業が役立つ問題、たとえば多段階の分析やデバッグに合います。ツール呼び出しにより、モデルがどの関数を呼び出すかを決めるエージェント形式のワークフローの候補となります。また 65536 トークンの出力上限は、生成されたレポートや大規模なリファクタリングなど、回答自体が長い場合に役立ちます。

これは api14 の OpenAI 互換 API を通じて、モデル ID stepfun/step-3.5-flash を使って呼び出します。そのため既存の OpenAI クライアントライブラリとリクエスト形式は、モデル名を変更するだけで動作します。サポートされるリクエストパラメータは frequency_penalty、include_reasoning、max_tokens、reasoning、temperature、tool_choice、tools、top_k、top_p です。実際には、temperature、top_p、top_k を設定してサンプリングを調整し、max_tokens で応答を制限し、関数呼び出しのために tools と tool_choice を渡し、応答でモデルの推論動作を求める場合に reasoning または include_reasoning を切り替えます。

留意すべき主な制約は、これがテキスト専用モデルであることです。画像や音声の入力は受け付けないため、マルチモーダルなタスクには別のモデルが必要です。ワークロードが純粋にテキストで、262144 トークンのコンテキストと 65536 トークンの出力制限内に収まるなら、Step 3.5 Flash は妥当な選択であり、特に推論とツール呼び出しを同じモデルで求める場合に適しています。