OpenAI: GPT-3.5 Turbo (batch)

OpenAI: GPT-3.5 Turbo (batch) は OpenAI のテキストモデルで、api14 を通じてモデル id openai/gpt-3.5-turbo:batch として提供されています。これは GPT-3.5 Turbo ファミリーに属し、OpenAI はこれを最速のモデルと説明しています。プロバイダーのリリース日は 2023-05-28 で、トレーニングデータは 2021 年 9 月までをカバーしているため、モデルの組み込み知識はその時点で止まっています。

このモデルはテキスト入力で動作し、テキスト出力を生成します。自然言語またはコードを理解して生成し、チャットおよび従来の補完タスクに最適化されています。コンテキストウィンドウは 16,385 トークンで、最大出力は 4,096 トークンです。散文とコードの両方を扱えるため、会話のターンと構造化されたテキスト生成が混在するワークロードに適しています。

実用的な用途はこれらの特性から直接導かれます。チャットアシスタント、会話インターフェース、マルチターンの対話は、チャット最適化を考えれば自然に適合します。文章の作成、要約、書き換えなどの従来の補完タスクも機能します。モデルはコードを生成できるため、コード指向のプロンプトにも役立ちます。16,385 トークンのコンテキストはより長い会話や大きなプロンプトの余地を与え、4,096 トークンの出力上限は極端に長くする必要のない応答に適しています。

これは api14 の OpenAI 互換 API を通じて、モデル id openai/gpt-3.5-turbo:batch を使用して呼び出します。サポートされるリクエストパラメータは frequency_penalty、logit_bias、logprobs、max_tokens、presence_penalty、response_format、seed、stop、structured_outputs、temperature、tool_choice、tools、top_logprobs、top_p です。このセットはサンプリング制御、トークン制限、停止シーケンス、決定論的シード、構造化出力、ツールまたは関数呼び出しをカバーしているため、標準インターフェースから離れることなく、プレーンテキストの応答とツール駆動のフローの両方を調整できます。

知識のカットオフに注意してください。2021 年 9 月より後のものはモデルのトレーニングデータ外であるため、時間に敏感な質問には検索やプロンプトで提供するコンテキストが必要になる場合があります。4,096 トークンの出力制限も、長い単一応答を必要とするタスクでは重要です。そのような状況、またはタスクがより新しい情報に依存する場合は、別のモデルの方が適しているかもしれません。