OpenAI: GPT-4o-mini (2024-07-18)

GPT-4o-mini (2024-07-18) は、2024年7月18日にリリースされた OpenAI のテキスト生成モデルです。OpenAI の小型モデルラインに位置し、プロバイダーによってそのティアで最も先進的な小型モデルであり、GPT-4 Omni の後継と位置づけられています。バージョン付きモデル id はスナップショットを 2024-07-18 に固定するため、動作はフローティングエイリアスで変わることなく、呼び出し間で一貫します。

このモデルはテキスト、画像、ファイルを入力として受け取り、テキストのみを返します。コンテキストウィンドウは 128,000 トークンで、1回の応答で最大 16,384 出力トークンを生成できます。知識カットオフは 2023年10月31日であるため、それ以降の内容はプロンプト、提供したファイル、または検索ツールから取得する必要があります。画像入力がサポートされているため、スクリーンショット、スキャンしたページ、図などをテキスト指示と一緒に渡し、テキストの回答を受け取ることができます。

これらの機能は、さまざまな日常的な開発者タスクに適しています。ドキュメントおよびファイル入力は、契約書、レポート、PDF の要約、抽出、質問応答に適しており、画像入力はチャート、レシート、UI スクリーンショット、撮影されたテキストの読み取りをカバーします。128k コンテキストにより、長い文字起こし、コードベース、複数ドキュメントのバンドルを最初に分割せずに送信できます。ツール呼び出しと構造化出力により、エージェント、関数ルーティング、スキーマに沿った JSON が必要なパイプラインに適した選択肢となり、seed、temperature、ペナルティパラメータによって出力の決定性や多様性を制御できます。

モデル id「openai/gpt-4o-mini-2024-07-18」を使用して、api14 の OpenAI 互換 API を通じて呼び出します。インターフェースは OpenAI chat completions の形式に従っているため、既存の OpenAI SDK やクライアントはベース URL を変更するだけで動作します。サポートされるリクエストパラメータは、frequency_penalty、logit_bias、logprobs、max_tokens、prediction、presence_penalty、response_format、seed、stop、structured_outputs、temperature、tool_choice、tools、top_logprobs、top_p、web_search_options です。これには、サンプリング制御、トークン制限、停止シーケンス、対数確率の検査、JSON およびスキーマに制約された出力、ツール定義と強制ツール選択、Web 検索オプションが含まれます。

コミットする前に注意すべき制約が2つあります。出力はテキストのみであるため、生成画像、音声、埋め込みが必要な場合、このモデルは適していません。知識カットオフが 2023年10月31日であるため、時間に敏感な質問にはモデル自身の知識に頼るのではなく、検索、ファイル入力、または Web 検索オプションが必要です。また、16,384 トークンの出力上限は1回の応答の長さを制限し、これは長文生成タスクで重要です。