OpenAI: GPT-3.5 Turbo

GPT-3.5 Turbo は OpenAI のテキストモデルで、api14 上では openai/gpt-3.5-turbo として識別されます。OpenAI はこれを同社最速のモデルと説明しており、プロバイダーによって 2023-05-28 にリリースされました。これはテキストカテゴリに属し、自然言語またはコードを理解して生成するように構築されており、チャットおよび従来の補完タスクに最適化されています。日常的なテキスト作業向けに汎用の OpenAI モデルを選ぶなら、これはエコシステムの多くがその上に築かれてきた長年のデフォルトです。

このモデルは入力としてテキストを受け取り、出力としてテキストを返すため、画像、音声、ファイルの処理を計画する必要はありません。コンテキストウィンドウは 16,385 トークンで、最大出力は 4,096 トークンです。つまり、長い入力は可能ですが、返信自体はコンテキストサイズよりかなり低く制限されます。知識カットオフは 2021-09-30 なので、それ以降の日付のものはモデルの学習データからではなく、プロンプトから供給する必要があります。サポートされるリクエストパラメータには、temperature、top_p、max_tokens、stop、frequency_penalty、presence_penalty、logit_bias、logprobs、top_logprobs、seed、response_format、structured_outputs、tools、tool_choice が含まれます。

これらの機能は、かなり幅広い実用的な作業に対応します。チャットアシスタント、下書きと書き直し、コンテキストウィンドウ内に収まる文書の要約、固定された形への分類と抽出、コード生成または説明はすべて妥当な適合先です。モデルは自然言語とコードの両方を扱えるためです。tools と tool_choice がサポートされているため、関数スキーマを定義し、いつ呼び出すかをモデルに判断させることができ、これはモデルがデータを要求する必要があるエージェント形式のワークフローや検索パイプラインに適しています。seed パラメータは再現可能なサンプリングが欲しいときに役立ち、response_format と structured_outputs は、下流のパーサーが自由な文章ではなく予測可能な構造を期待するときに便利です。

api14 を通じて呼び出す方法は、他の OpenAI 互換エンドポイントと同じです。リクエストをモデル id openai/gpt-3.5-turbo とともに chat completions ルートへ送り、必要に応じて上記のパラメータをリクエストボディで使用してください。すでに OpenAI SDK または互換クライアントに対して書かれたコードがある場合、ベース URL を api14 に向け、モデル id を差し替えるのが通常は唯一必要な変更です。

コミットする前に留意すべき制約が 2 つあります。2021-09-30 の知識カットオフは、そのコンテキストを自分で供給しない限り、モデルが最近の出来事、ライブラリ、API を知らないことを意味し、4,096 トークンの出力上限は 1 回の応答で生成できる量を制限します。非常に大きな入力、非常に長い生成、または最近の知識に依存するタスクでは、api14 上の別のモデルの方がより適している場合があります。