OpenAI: o3 (batch)

OpenAI o3 (batch) は OpenAI のテキストモデルで、ここではモデル id openai/o3:batch として提供されています。これは o3 ファミリーに属し、OpenAI はこれを数学、科学、コーディング、視覚的推論のタスクにおいて新しい基準を打ち立てる、ドメイン全般にわたるバランスの取れた強力なモデルと説明しており、テクニカルライティングや指示追従でも良好な性能を発揮します。batch バリアントは同じ基盤モデルを api14 上のバッチ形式エンドポイント経由で公開したもので、すべての応答をインラインで必要とするのではなく、処理を投入して結果を収集できるワークロードに適しています。

このモデルは画像、テキスト、ファイルの入力を受け付け、テキストを返します。コンテキストウィンドウは 200,000 トークン、最大出力は 100,000 トークンなので、同じリクエスト内で長い入力と長い生成の両方が可能です。ナレッジカットオフは 2024-06-30 であり、最近の出来事や新しく公開された資料に依存するタスクではこれが重要になります。テキストとともに画像やファイルを扱えるため、文書と質問、またはスクリーンショットと指示といった混在入力を、別途前処理モデルなしで処理できます。

これらの機能はかなり幅広い実用的用途を示します。多段階の数学、科学的問題解決、コード生成やデバッグといった推論重視の作業は自然に適合し、図、グラフ、スクリーンショットに対する視覚的推論も同様です。テクニカルライティングと指示追従により、構造化されたドキュメント、仕様書の起草、モデルに形式を守らせる必要があるタスクにも使用できます。200,000 トークンのコンテキストは長いレポート、大きなソースファイル、複数文書の入力に役立ち、100,000 トークンの出力上限は単一呼び出しでの長文生成を支えます。

モデル id openai/o3:batch を使用して、api14 の OpenAI 互換 API 経由で呼び出します。サポートされるリクエストパラメータは include_reasoning、max_tokens、reasoning、response_format、seed、structured_outputs、tool_choice、tools です。実際には、推論の動作と推論を表に出すかどうかを制御し、max_tokens で出力長を制限し、response_format と structured_outputs を通じて構造化または JSON 形式の出力を要求し、seed で実行を再現可能にし、tools と tool_choice で関数呼び出しを定義できます。

注目すべき制限の 1 つは 2024-06-30 のナレッジカットオフであり、アプリケーションが最新情報を必要とする場合は、プロンプトまたはツールを通じてそれを提供する必要があります。タスクが純粋にテキストのみで、推論、画像、ファイル入力の恩恵を受けない場合、より軽量なテキストモデルの方が適しているかもしれません。