OpenAI: GPT-3.5 Turbo (older v0613)

GPT-3.5 Turbo (古い v0613) は OpenAI のテキストモデルで、モデル id openai/gpt-3.5-turbo-0613 で配布されています。これは GPT-3.5 Turbo ファミリーに属し、OpenAI はこれを最速のモデルラインと説明しており、この特定のバージョンは、その特定の挙動に依存するワークロード向けに引き続き利用可能な古いスナップショットです。学習データは 2021 年 9 月までなので、プロンプトで自分で情報を提供しない限り、それ以降の出来事に関する知識はありません。

このモデルはテキストを入力として受け取り、テキストを出力として返すため、チャットおよび従来の補完タスク向けの汎用言語モデルです。自然言語だけでなくコードも理解および生成できます。コンテキストウィンドウは 4,095 トークン、最大出力は 3,685 トークンなので、プロンプトと返信は、より大きな現代のモデルと比べてかなり厳しい予算を共有します。ここには画像、音声、ファイル入力はありません。送信するものはすべてテキストでなければなりません。

散文とコードの両方を扱うため、このモデルはさまざまな日常的なタスクに適しています。チャットアシスタントや会話インターフェース、テキストの下書きと書き直し、短い文書の要約、小さな入力に対する分類と抽出、軽量なコード生成や説明などです。ツールと構造化出力のサポートにより、単純な関数呼び出しや、定義された形式での応答生成にも使用でき、自由なテキストではなく機械可読な出力が必要な場合に役立ちます。4,095 トークンのウィンドウは、数ページのテキストに余裕をもって収まるプロンプトと回答に適しており、長い文書分析には向いていません。

api14 の OpenAI 互換 API を通じて、リクエストでモデル id openai/gpt-3.5-turbo-0613 を渡すことで呼び出せるため、既存の OpenAI SDK とクライアントライブラリはベース URL とキーを変更するだけで動作します。サポートされるリクエストパラメータは frequency_penalty、logit_bias、logprobs、max_completion_tokens、presence_penalty、response_format、seed、stop、structured_outputs、temperature、tool_choice、tools、top_logprobs、top_p です。これにはサンプリング制御、seed による決定性、logprobs と top_logprobs によるトークンレベルの検査、tools、tool_choice、response_format、structured_outputs によるツールまたはスキーマ駆動の出力が含まれます。

計画時に考慮すべき主な制約はコンテキスト長です。4,095 トークンで出力上限が 3,685 トークンのため、長い会話、大規模なコードベース、複数文書のプロンプトでは、チャンク化、検索、または切り詰めが必要になり、2021 年 9 月の知識カットオフにより、最近の情報は自分のコンテキストから提供する必要があります。タスクにもっと大きなウィンドウ、新しい知識、またはマルチモーダル入力が必要な場合は、api14 上の別のモデルの方が適している可能性があります。速度が重要で、短く大量のテキストおよびコードタスクには、このモデルは依然として妥当な選択肢です。