Microsoft: Phi 4

Microsoft Phi 4 は Microsoft のテキストモデルで、2025 年 1 月 10 日にリリースされ、api14 では microsoft/phi-4 として識別されます。これは Phi ファミリーを手がけたグループである Microsoft Research から提供されており、プロバイダーは、メモリが限られた状況や迅速な応答が必要な場面で効率的に動作しながら、複雑な推論タスクで優れた性能を発揮するように構築された 140 億パラメータのモデルだと説明しています。テキストカテゴリに属するため、画像や音声ではなく言語作業を対象としています。

このモデルはテキスト入力を受け取り、テキスト出力を返します。コンテキストウィンドウは 16,384 トークン、最大出力は 14,745 トークンで、知識カットオフは 2024 年 6 月 30 日です。サポートされるリクエストパラメータは frequency_penalty、logit_bias、max_tokens、min_p、presence_penalty、repetition_penalty、response_format、seed、stop、structured_outputs、temperature、top_k、top_p です。この組み合わせは通常のサンプリング制御に加えて構造化出力をカバーしており、返信を自由文ではなくスキーマに準拠させる必要がある場合に重要です。

これらの機能はいくつかの実用的な用途を示しています。多段階の分析、数学的な問題、論理的な質問など、推論を多用するプロンプトが公表されている焦点であるため、回答前にモデルが中間ステップを処理する必要があるタスクに適しています。限られたメモリで効率的に動作し、迅速に応答するように設計されているため、非常に大きなモデルよりも小さめのモデルが好まれるローカルまたはセルフホスト環境を含め、レイテンシに敏感な、またはリソースが制約されたデプロイにも適しています。構造化出力と response_format により、JSON や別の定義された形式で返してほしい抽出や分類にも使用できます。16,384 トークンのコンテキストは、ドキュメント、文字起こし、コードファイルなど中程度に長い入力をサポートしますが、長コンテキストモデルではありません。

モデル id である microsoft/phi-4 を使用して、api14 の OpenAI 互換 API を通じて呼び出します。既存の OpenAI クライアントを api14 のベース URL に向け、チャット補完スタイルのリクエストを維持し、model フィールドをその id に設定します。上記のパラメータはいずれもリクエスト本文で渡せるため、temperature、top_p、top_k、min_p、repetition_penalty、frequency_penalty、presence_penalty、logit_bias、seed、stop、max_tokens、response_format、structured_outputs はすべて、応答を調整または制約するために利用できます。

留意すべき主な制約はコンテキストウィンドウです。16,384 トークンで、最大 14,745 トークンの出力を伴うため、焦点を絞ったプロンプトや中程度のドキュメントには適していますが、入力が大規模なコードベース、長い書籍、長い会話履歴である場合は、より大きなコンテキストを持つモデルのほうが適しています。また、知識カットオフが 2024 年 6 月 30 日であることは、モデルがその日付以降の出来事を認識していないことを意味するため、時間に敏感な内容はプロンプトで提供する必要があります。