Mistral: Mistral Medium 3.5 (batch)

Mistral Medium 3.5 (batch) は Mistral AI のテキスト生成モデルで、api14 上では mistralai/mistral-medium-3-5:batch として識別されます。これは密な 128B の指示追従モデルです。つまり、すべてのパラメータがリクエストごとに有効になり、mixture-of-experts の構成を通じてルーティングされることはありません。batch バリアントはこのエンドポイントを通じて公開されるバージョンであり、このモデルは api14 上のテキストカテゴリに属します。

このモデルはテキスト、画像、ファイルの入力を受け付け、テキストのみを返します。コンテキストウィンドウは 262,144 トークン、最大出力長は 209,715 トークンであるため、非常に大きな入力を受け取り、1 回の呼び出しで長い応答を生成できます。テキストとともに画像やファイルも受け付けるため、書面による指示と視覚コンテンツまたはドキュメントコンテンツを組み合わせた混合プロンプトを送信でき、モデルは回答を生成する前にそのすべてを推論します。

これらの機能は、いくつかの実用的な用途を示しています。大きなコンテキストウィンドウは、長いドキュメント、コードベース、複数ファイルの入力にわたる作業に適しており、そうでなければ結果をチャンクに分割してつなぎ合わせる必要があります。画像入力により、スクリーンショット、図、スキャンしたページとテキスト指示を組み合わせたタスクに適しています。Mistral はこのモデルをエージェントワークフロー、コーディング、複雑なタスク向けに設計されたものと説明しているため、ツール呼び出しと構造化生成は妥当な出発点です。batch バリアントは、多くのリクエストを送信して結果を収集するオフラインまたはスループット指向のジョブに自然な選択であり、レイテンシが最も重要となる対話型チャット向けではありません。

このモデルは、モデル ID mistralai/mistral-medium-3-5:batch を使用して api14 の OpenAI 互換 API を通じて呼び出します。このエンドポイントは frequency_penalty、include_reasoning、max_tokens、presence_penalty、reasoning、reasoning_effort、response_format、seed、stop、structured_outputs、temperature、tool_choice、tools、top_p をサポートします。実際には、temperature、top_p、および 2 つのペナルティパラメータでサンプリングを制御し、max_tokens で出力を上限設定し、seed でランダム性を固定し、stop シーケンスを定義できます。構造化作業では、response_format と structured_outputs によって応答の形を制約でき、tools と tool_choice は関数呼び出しをサポートし、reasoning パラメータによってモデルが公開または実行する内部推論の量を調整できます。

考慮すべき点の 1 つは batch 指定です。アプリケーションが低レイテンシのターンごとの応答を必要とする場合、非 batch モデルの方が適している可能性が高く、テキスト入力と出力のみが必要な場合も同様です。その場合、画像とファイルのモダリティは使用されません。262,144 トークンのコンテキストと 209,715 トークンの出力上限は十分に大きいですが、依然として有限であるため、極端に大きなコーパスは呼び出し間で分割する必要があるかもしれません。これらの範囲内で、このモデルは長コンテキストのテキスト作業、マルチモーダルプロンプト、コーディング、ツール駆動のエージェントフローを単一のエンドポイントからカバーします。