Microsoft: Microsoft-Decision-1

Microsoft-Decision-1 は Microsoft のモデルで、api14 上にモデル ID microsoft/microsoft-decision-1 で掲載されています。これは一般的なチャットのカテゴリではなく decisions カテゴリに属しており、それが何をするために作られたかを反映しています。つまり、会話をするのではなく、迅速に意思決定を行うことです。Microsoft はこれを小規模モデルと説明しているため、長文の生成よりも素早い回答が重要なワークロードを対象としています。

このモデルはテキストのみを入力として受け取り、出力として decisions を返します。文章を書くのではありません。代わりに、提供されたコンテンツを読み取り、指定した固定の回答選択肢ごとに較正された確率を返します。つまり、取り得る回答をあなたが定義し、モデルは自由なテキストで 1 つを選ぶのではなく、それらをスコアリングします。コンテキストウィンドウは 32768 トークンで、最大出力は 29491 トークンです。このモデルでサポートされているリクエストパラメータは記載されていません。

出力が選択肢ごとの確率であるため、自然なユースケースは分類とルーティングのタスクです。受信したテキストを既知の複数のラベルのいずれかに振り分けたり、どのキューまたはハンドラがリクエストを処理すべきかを決めたり、単一の厳密な選択ではなく信頼度の値が必要なときに候補の回答をスコアリングしたりするために使用できます。固定セットから 1 語で応答するようチャットモデルにプロンプトを出すような場面ではどこでも、このモデルは同じ意思決定を較正された確率付きで提供します。これは、下流のロジックがモデルの確信度に基づいて動作する必要がある場合に有用です。

api14 を通じた呼び出しは、ゲートウェイ上の他のモデルと同じように、モデル ID microsoft/microsoft-decision-1 を指定して OpenAI 互換 API を使用して動作します。リクエストでコンテンツと固定の回答選択肢を送信すると、確率が返されます。サポートされているリクエストパラメータは記載されていないため、基本的なリクエスト形式を前提とし、temperature や top_p などのオプションの調整項目に動作の変更を依存しないようにしてください。現在の料金については、ページ上のライブ料金表を確認してください。

主な制限は設計に由来します。入力はテキストのみであるため、画像、音声、その他のモダリティは対象外です。出力は文章ではなく decisions であるため、説明、要約、生成された文書が必要な場合は、テキスト生成モデルの方が適しています。32768 トークンのコンテキストウィンドウも、1 回の呼び出しで投入できるコンテンツ量を制限します。これらの範囲内では、テキストをスコア付きの選択肢に迅速に変換するための焦点を絞ったツールです。