Mistral: Ministral 3 8B 2512 (batch)

Mistral: Ministral 3 8B 2512 (batch) は、Mistral のテキスト生成モデルで、Ministral 3 ファミリーの一部です。Mistral はこれを同ファミリーの中でもバランスの取れたモデルと説明しています。つまり、視覚機能を備えた、強力で効率的な小型言語モデルです。api14 上のモデル id は mistralai/ministral-8b-2512:batch で、batch サフィックスはこのバリアントが同期エンドポイントではなくバッチエンドポイント経由で提供されることを示しており、各呼び出しを待つのではなく、作業を投入して結果を収集するようなワークロードに適しています。

このモデルはテキストと画像の入力を受け付け、テキストを出力するため、通常の言語タスクと画像を含むプロンプトの両方を扱えます。コンテキストウィンドウは 262144 トークンで、最大出力は 209715 トークンです。大きなコンテキストと大きな出力予算の組み合わせにより、長いドキュメントや長い画像とテキストのプロンプトを入力しても、十分な生成応答の余地を残せます。サポートされるリクエストパラメータには、temperature、top_p、frequency_penalty、presence_penalty、max_tokens、stop、seed、response_format、structured_outputs、tool_choice、tools があります。

これらの機能は、いくつかの実用的な用途を示しています。長文ドキュメントの要約や抽出といった長コンテキストのテキスト作業は、262144 トークンのウィンドウに適合します。画像が入力として受け付けられるため、画像の説明、スクリーンショットに関する質問への回答、スキャンしたページからのテキストと構造の抽出といったタスクも範囲内です。ツール呼び出しと構造化出力により、モデルに JSON を返させたり関数を呼び出させたりする必要があるパイプラインで使用でき、seed パラメータは実行間で再現可能な結果を得たい場合に役立ちます。

api14 経由で呼び出すには、OpenAI 互換の chat completions インターフェースをモデル id mistralai/ministral-8b-2512:batch とともに使用します。通常のチャットリクエストフィールドに加えて、上記のパラメータを渡せます: temperature、top_p、frequency_penalty、presence_penalty、max_tokens、stop、seed、response_format、structured_outputs、tool_choice、tools。これは batch バリアントであるため、即時の応答ではなく非同期の投入と取得を想定し、現在の料金についてはページ上のライブ価格表を確認してください。

注意すべき制限の 1 つは出力モダリティです。このモデルは画像を読み取りますが、返すのはテキストのみであるため、生成画像が必要な場合には適していません。タスクが純粋にテキストで、視覚や非常に大きなコンテキストウィンドウを必要としない場合は、より小型のモデルまたは非 batch モデルの方が、より速く応答し、運用上のオーバーヘッドも少なくなる可能性があります。