OpenAI: o1

OpenAI o1 は、2024年12月17日にリリースされた OpenAI のテキスト重視モデルです。これは o1 ファミリーに属し、OpenAI はこれを最新かつ最強のモデルファミリーと説明しています。このシリーズの定義的な考え方は、モデルが応答する前に多くの時間を思考に費やすというもので、推論のために大規模な強化学習でトレーニングされました。以前の OpenAI チャットモデルを使用したことがあるなら、実用的な違いは、o1 が即座に答えるのではなく、問題を内部的に処理するように作られている点です。

入力側では、o1 はテキスト、画像、ファイルを受け取り、テキストを返します。コンテキストウィンドウは 200,000 トークンで、最大出力は 100,000 トークンなので、長い文書や大きなプロンプトでも、かなりの量の生成応答と一緒に余裕を持って収まります。知識カットオフは 2023年10月31日であり、これはタスクがその日付以降の出来事やライブラリのバージョンに依存する場合に重要です。サポートされるリクエストパラメータには、max_tokens、seed、response_format、structured_outputs、tools、tool_choice、reasoning、include_reasoning が含まれます。reasoning と include_reasoning パラメータはこのファミリー固有のもので、モデルの内部推論をブラックボックスとして扱うのではなく、制御したり表面化したりできます。

これらの機能は、かなり特定のユースケース群を示しています。大きなコンテキストとファイル入力は、長い文書、契約書、研究論文、またはコードベースの分析に適しており、答えが多くのページに散在する詳細に依存する場合に役立ちます。画像入力はこれを拡張し、テキストと一緒に解釈する必要がある図、スクリーンショット、スキャン資料にも対応します。モデルは推論するようにトレーニングされているため、マルチステップの問題に適しています。デバッグ、数学的な作業、計画、そして最初の推測を間違えると高くつくタスクです。ツールと構造化出力のサポートにより、モデルが関数を呼び出したり、下流のコードが解析できる JSON を返したりする必要があるパイプライン内で使用できます。

o1 は、モデル id "openai/o1" を使用して api14 の OpenAI 互換 API を通じて呼び出します。インターフェースは OpenAI chat completions の形に従っているため、既存の OpenAI SDK クライアントは通常、ベース URL を api14 に向け、そのモデル id に差し替えれば動作します。上記のリクエストパラメータは、頼るべきものです。max_tokens、seed、response_format、structured_outputs、tools、tool_choice、reasoning、include_reasoning です。テストのために決定論的サンプリングが必要なら seed が利用でき、機械可読な出力が必要なら structured_outputs と response_format がそれをカバーします。

注意すべき制限の1つは、知識カットオフが 2023年10月31日であることです。そのため、最新情報を必要とするものは、モデル自身の知識ではなく、プロンプト、アップロードされたファイル、またはツール呼び出しから来る必要があります。出力はテキストのみなので、画像生成は範囲外です。ワークロードが単純で、レイテンシに敏感なチャットであり、拡張された推論の恩恵を受けない場合は、より軽量なモデルの方が適しているかもしれません。