OpenAI: GPT-4o-mini

GPT-4o-miniは、2024年7月18日にリリースされたOpenAIのテキスト生成モデルです。OpenAIの小型モデルラインに位置し、そのティアではGPT-4oの後継として位置付けられており、単一の狭いタスクではなく汎用的なテキスト作業向けに作られています。アプリケーションのデフォルトモデルを選ぶ場合、これは幅広い日常的なリクエストを処理することを意図した種類のモデルです。

このモデルはテキスト、画像、ファイルを入力として受け付け、返すのはテキストのみです。コンテキストウィンドウは128,000トークンで、最大出力は16,384トークンです。知識カットオフは2023年10月31日であるため、それ以降の内容はモデルがトレーニング中に学習した範囲外です。テキストに加えて画像とファイルの入力がサポートされているため、単一のリクエストで混在したコンテンツを送信し、テキストの回答を受け取ることができ、アプリケーションがすでにテキストプロンプトで動作している場合には統合をシンプルに保てます。

これらの機能はいくつかの実用的な用途を示しています。ドキュメントとファイルの分析は自然に適合します。ファイルを渡して、その内容に対する要約、抽出、または質問応答を依頼できるからです。画像理解は、スクリーンショットの説明、チャートの読み取り、写真からの構造化された詳細の抽出といったタスクをカバーします。一般的なチャット、ドラフト作成、分類、書き換え、コード支援はすべてテキストだけで機能します。大きなコンテキストウィンドウにより、長いドキュメントやマルチターンの会話を多数の小さなリクエストに分割せずに処理でき、16,384トークンの出力上限により、より長い生成回答の余地が確保されます。

このモデルは、モデルID「openai/gpt-4o-mini」を使用して、api14のOpenAI互換APIを通じて呼び出します。インターフェースはOpenAI形式に従っているため、既存のOpenAI SDKとクライアントはベースURLとキーの変更だけで動作します。このモデルは幅広いリクエストパラメータをサポートしています: frequency_penalty、logit_bias、logprobs、max_completion_tokens、max_tokens、prediction、presence_penalty、response_format、seed、stop、structured_outputs、temperature、tool_choice、tools、top_logprobs、top_p、web_search_options。ツール呼び出しと構造化出力が利用可能であるため、モデルを関数呼び出しフローに組み込んだり、レスポンスをスキーマに強制したりできます。seedパラメータは再現性に役立ち、web_search_optionsによりリクエストが検索を利用できます。

コミットする前に注意すべき2つの制限があります。2023年10月31日という知識カットオフは、モデルがそれ以降の出来事を内在的に認識していないことを意味するため、時間に敏感な質問にはモデルだけに頼るのではなく、検索や取得が必要です。出力はテキストのみであるため、生成画像や音声が必要な場合、このモデルは適切な選択ではありません。これらの範囲内では、テキストおよび画像理解のワークロードに対して妥当なデフォルトです。