OpenAI: GPT-4

GPT-4 は OpenAI のテキストモデルで、api14 にモデル ID openai/gpt-4 として掲載されています。テキストカテゴリに属し、プロバイダーによる説明では、OpenAI の旗艦大規模言語モデルであり、より広範な一般知識と高度な推論を通じて、以前のモデルよりも高い精度で難しい問題を解決するために構築されたとされています。プロバイダーのリリース日は 2023-05-28 で、モデルの知識カットオフは 2021-09-30 です。

api14 では、このモデルはテキスト入力を受け取り、テキスト出力を返します。コンテキスト長は 8191 トークンで、最大出力は 4096 トークンです。サポートされるリクエストパラメータには、temperature、top_p、frequency_penalty、presence_penalty、stop、seed、logit_bias、logprobs、top_logprobs、max_tokens、max_completion_tokens、response_format、structured_outputs、tools、tool_choice が含まれます。この組み合わせは、サンプリング制御、seed によるある程度再現可能な動作、logprobs によるトークンレベルの検査、tools パラメータによる関数呼び出しをカバーします。

実用的な用途はこれらの機能から導かれます。一般的な推論や知識を多用する質問応答は、モデルが公表している強みに合致します。より長いプロンプトは 8191 トークンのコンテキスト内で扱えるため、入力と要求する出力がウィンドウ内に収まる限り、文書要約、複数段落の起草、抽出、書き換えタスクは妥当です。tools と tool_choice がサポートされているため、外部関数を呼び出すエージェントやワークフローにおける推論ステップとしてこのモデルを使用できます。structured_outputs と response_format は、自由な文章ではなく機械可読な結果が必要な場合に役立ち、logprobs または top_logprobs は、たとえば分類や評価パイプラインにおいて、モデルが各トークンでどれほど確信的だったかを検査したい場合に有用です。

api14 を通じた呼び出しは、他の OpenAI 互換エンドポイントと同じように機能します。model フィールドを openai/gpt-4 に設定してチャット補完リクエストをゲートウェイに送信し、選択したパラメータをリクエストボディに渡します。API は OpenAI 互換であるため、既存の OpenAI クライアントライブラリとコードは、通常、ベース URL と API キーを変更するだけで api14 を向くようにでき、リクエストの形式に他の変更は不要です。サンプリングには temperature と top_p を設定でき、max_tokens または max_completion_tokens で応答を制限し、stop シーケンスで生成を早期に終了し、より反復可能な出力が必要な場合は seed を設定できます。ツール使用では tools と任意で tool_choice を指定し、構造化結果では response_format または structured_outputs を使用します。

いくつかの制限に留意する価値があります。8191 トークンのコンテキストウィンドウは現在の基準では控えめであるため、非常に長い文書や長いマルチターン会話ではチャンク分割や切り詰めが必要になる場合があります。知識カットオフが 2021-09-30 であることは、モデルがその日付以降の出来事を認識していないことを意味するため、時間に敏感なものはプロンプトで提供するか、ツールを通じて取得する必要があります。入力はテキストのみであるため、画像と音声はここでは対象外です。タスクがはるかに大きなコンテキスト、より新しい知識、または非テキスト入力を必要とする場合、api14 上の別のモデルの方が適している可能性が高いです。