OpenAI: gpt-oss-20b (batch)

OpenAI: gpt-oss-20b (batch) は、OpenAI によるオープンウェイトのテキストモデルで、Apache 2.0 ライセンスの下で公開されています。これは Mixture-of-Experts (MoE) アーキテクチャに基づいて構築された 21B パラメータのモデルで、フォワードパスごとに 3.6B のアクティブパラメータを持ちます。batch バリアントは api14 を通じてテキスト生成エンドポイントとして提供され、リクエストで使用するモデル id は openai/gpt-oss-20b:batch です。

このモデルはテキスト入力を受け取り、テキスト出力を生成します。コンテキストウィンドウは 131072 トークン、最大出力は 117964 トークンで、知識カットオフは 2024-06-30 です。推論可能なモデルであるため、リクエストで推論出力を有効にし、適用される推論努力の量を制御できます。また、構造化出力とレスポンスフォーマットをサポートしており、返されるテキストの内容だけでなく形状が重要となるタスクに適しています。

これらの機能は、かなり幅広い実用的な用途を示しています。長いコンテキストの処理は、ドキュメントの要約、複数ファイルのコードレビュー、大規模な参考資料に対する質問応答に適しています。推論サポートは、多段階の問題、計画、およびモデルが中間ステップを経て検討することで恩恵を受ける分析に役立ちます。ツール呼び出しと構造化出力は、エージェント形式のワークフロー、固定スキーマへのデータ抽出、および機械可読なレスポンスを必要とするパイプラインに適合します。batch バリアントは、即時の対話性よりもスループットが重要となるワークロード、たとえばオフライン生成、一括分類、データセットの拡充を対象としています。

api14 を通じて呼び出すには、モデル id openai/gpt-oss-20b:batch を指定して、OpenAI 互換の chat completions インターフェースを使用します。リクエストボディは、frequency_penalty、include_reasoning、logit_bias、max_tokens、min_p、presence_penalty、reasoning、reasoning_effort、repetition_penalty、response_format、seed、stop、structured_outputs、temperature、tool_choice、tools、top_k、top_p を受け付けます。すでに OpenAI クライアントライブラリを使用している場合は、api14 のベース URL を指定し、既存のリクエスト構造を維持したまま、モデル id と設定したいパラメータのみを調整できます。

知識カットオフに注意してください。モデルは 2024-06-30 以降の出来事を知らないため、時間に敏感なものは検索や別のモデルが必要になる場合があります。入力はテキストのみであるため、画像や音声のタスクはその範囲外です。ワークロードがバッチ処理ではなく低遅延の対話型レスポンスを必要とする場合は、非バッチのデプロイの方が適している可能性があります。