OpenAI: GPT-4 Turbo

GPT-4 TurboはOpenAIのテキスト生成モデルで、api14にモデルID openai/gpt-4-turboとして掲載されています。これは最新のGPT-4 Turbo変種であり、GPT-4 Turbo系に視覚機能を追加したものです。OpenAIはこれを、JSONモードと関数呼び出しに加えて視覚リクエストをサポートすると説明しており、そのトレーニングデータは2023年12月までに及んでいます。

このモデルは入力としてテキストと画像を受け取り、テキストを返します。コンテキストウィンドウは128,000トークンで、長い文書、拡張された会話、複数の画像を単一のリクエストで処理できます。最大出力は4,096トークンなので、入力が大きくても応答は制限されます。知識カットオフは2023-12-31であり、プロンプトで情報を提供しない限り、その日付以降の出来事を認識しません。

テキストだけでなく画像も読み取るため、このモデルはスクリーンショット、図、チャート、スキャンした文書からの情報の説明や抽出、アップロードされた画像に関する質問への回答、視覚的なコンテキストと書面による指示の組み合わせといったタスクに適しています。大きなコンテキストウィンドウにより、長いレポートの要約、かなり大きなコードファイルや契約書のレビュー、長いマルチターン会話の維持に合理的に適合します。ツール呼び出しと構造化出力により、モデルが関数を選択したり、定義された形でデータを返したりするワークフローを構築でき、これはエージェント、抽出パイプライン、機械可読な結果を必要とする統合に有用です。

これはapi14のOpenAI互換APIを通じてモデルID openai/gpt-4-turboを使用して呼び出すため、既存のOpenAI SDKとクライアントはベースURLとキーの変更だけで動作します。サポートされるリクエストパラメータはfrequency_penalty、logit_bias、logprobs、max_tokens、presence_penalty、response_format、seed、stop、structured_outputs、temperature、tool_choice、tools、top_logprobs、top_pです。これにはサンプリング制御、seedによるほぼ決定的な挙動、トークン制限、停止シーケンス、logprobsとtop_logprobsによる確率検査、構造化出力フォーマット、tool_choiceを用いた関数またはツール呼び出しが含まれます。

このモデルを選択する際に留意すべき2つの制約があります。出力は4,096トークンに制限されるため、非常に長い単一応答を必要とするタスクではチャンク分割か、より高い出力制限を持つモデルが必要になる場合があります。知識カットオフが2023-12-31であるため、より新しい出来事に関する質問は提供するコンテキストに依存します。ワークロードがテキストのみで画像入力の恩恵を受けない場合、テキストに特化したモデルの方がより単純に適合するかもしれませんが、128,000トークンのコンテキスト内でのテキストと画像が混在するリクエストには、このモデルが一般的なケースをカバーします。