OpenAI: o4 Mini (batch)

OpenAI o4 Mini（batch）は、OpenAIのoシリーズのコンパクトな推論モデルで、api14を通じてモデルID openai/o4-mini:batch として提供されています。テキストカテゴリに属し、強力なマルチモーダル機能とエージェント機能を維持しながら、高速でコスト効率の高いパフォーマンスを実現するように作られています。batchバリアントは、バッチスタイルのワークロード向けに表面化された同じモデルであるため、ここで得られる推論動作は、一般にo4 Miniから期待されるものと一致します。

このモデルは入力としてテキスト、画像、ファイルを受け取り、テキストを返します。コンテキストウィンドウは200,000トークンで、最大100,000出力トークンを生成できます。これは長い推論トレース、拡張された回答、または大規模な構造化ペイロードに対して十分な余裕があります。知識カットオフは2024年6月30日です。これは推論モデルであるため、要求すれば推論ステップを公開でき、ツール使用をサポートします。そのため、単純な単一ターンの質問応答だけでなく、エージェント的パターンに適しています。

これらの機能は、いくつかの実用的な用途を示しています。マルチモーダル入力とツール呼び出しは、スクリーンショットやドキュメントを読み取り、次に何をするかを判断し、その過程で関数を呼び出す必要があるエージェントに適しています。大きなコンテキストウィンドウは、長いドキュメント、コードベース、または以前のコンテキストが重要となるマルチターン会話に役立ちます。構造化出力とresponse formatのサポートにより、抽出、分類、その他機械可読な結果が必要なタスクに妥当な選択肢となります。推論出力は、モデルがどのように回答に到達したかを調べたい場合、デバッグの場合、または中間ステップが重要なタスクの場合に役立ちます。

これは、モデルID openai/o4-mini:batch を使用して、api14のOpenAI互換APIを通じて呼び出します。サポートされているリクエストパラメータは、include_reasoning、max_tokens、reasoning、response_format、seed、structured_outputs、tool_choice、toolsです。実際には、推論動作と推論を返すかどうかを制御し、max_tokensで出力長を制限し、response_formatとstructured_outputsを通じてJSONまたはスキーマ制約付き出力を要求し、より再現性の高いサンプリングのためにseedを設定し、tool_choiceを指定してツールを定義し、関数呼び出しを駆動できます。

知識カットオフに留意してください。2024年6月30日より後のものはモデルが学習した範囲外であるため、時間に敏感な質問には、最新の事実を提供するための検索またはツールが必要になる場合があります。このモデルはテキストのみを出力するため、生成画像や音声が必要な場合は別のものを探すことになります。これらの範囲内では、速度と効率が重要となる推論重視、マルチモーダル、ツール駆動の作業に対して、妥当なデフォルトです。