OpenAI: GPT-4o

GPT-4o は OpenAI のテキスト生成モデルで、api14 上では openai/gpt-4o として識別されます。この名前は「omni」を表しており、複数の種類の入力を受け付けることを反映しています。プロバイダーによって 2024 年 5 月 13 日にリリースされ、テキストカテゴリに属し、知識カットオフは 2023 年 10 月 31 日です。GPT-4 Turbo を使用したことがあるなら、GPT-4o はその知能レベルを維持する位置づけにあるため、特殊化されたモデルではなく汎用の OpenAI モデルが欲しいときの妥当なデフォルト選択になります。

入力では、このモデルはテキスト、画像、ファイルを受け付け、出力はテキストのみです。この組み合わせは、プロンプトが単なる文章ではないタスクで重要です。スクリーンショット、スキャンしたページ、添付ドキュメントを指示と一緒に送信でき、モデルはテキストで応答します。コンテキストウィンドウは 128,000 トークンで、長いドキュメント、複数ターンの会話、大きなコードファイルを 1 回のリクエストで扱うのに十分です。出力は応答ごとに 16,384 トークンに制限されるため、非常に長い生成はこの上限を考慮して計画する必要があります。たとえば、セクションを順番に要求する方法があります。

実用的な用途はこれらの機能から導かれます。ドキュメントの質疑応答や要約は、ファイルを添付したり長い文字起こしを貼り付けたりして具体的な回答を求める場合にうまく機能します。画像理解は、グラフを読む、スクリーンショットを説明する、写真からテキストを抽出する、UI モックを仕様と照合するといったタスクを支えます。このモデルはツールと構造化出力をサポートしているため、応答がスキーマに準拠する必要があるエージェント形式のワークフローやデータ抽出パイプラインにも適しています。一般的なチャット、起草、書き直し、コード支援はすべて範囲内であり、長いコンテキストにより単一のスニペットではなくリポジトリ単位の質問にも使用できます。

これは api14 の OpenAI 互換 API を通じて、モデル id である openai/gpt-4o を使用して呼び出します。そのため、既存の OpenAI SDK とクライアントはベース URL とキーを変更するだけで動作します。サポートされるリクエストパラメータは、frequency_penalty、logit_bias、logprobs、max_completion_tokens、max_tokens、prediction、presence_penalty、response_format、seed、stop、structured_outputs、temperature、tool_choice、tools、top_logprobs、top_p、web_search_options です。実際には、サンプリング制御、seed によるほぼ決定的な動作、response_format と structured_outputs による JSON およびスキーマ制約付き出力、tools と tool_choice による関数呼び出し、トークン制限、任意の Web 検索をカバーします。

選択時に留意すべき 2 つの制限があります。出力は 16,384 トークンで停止するため、非常に長い単一の生成が必要な場合は、作業を分割するか、より大きな出力許容量を持つモデルを選ぶ必要があるかもしれません。知識カットオフが 2023 年 10 月 31 日であることは、モデルがそれ以降の出来事を自力では知らないことを意味し、ここで web_search_options パラメータや独自に取得したコンテキストが役立ちます。タスクが純粋にテキストで、画像やファイル入力の恩恵を受けない場合、同じ処理に対してより小さなテキスト専用モデルのほうが安価で高速なことがあります。