Mistral: Codestral 2508 (batch)

Mistral: Codestral 2508 (batch) は Mistral のテキストモデルで、プロバイダーによって 2025 年 8 月 1 日にリリースされました。これは Mistral のコーディング向け言語モデルであり、一般的な会話ではなく、低レイテンシで高頻度のタスクを中心に構築されています。api14 ではテキストカテゴリに掲載されており、呼び出すモデル id は mistralai/codestral-2508:batch です。

このモデルはテキストとファイルの入力を受け付け、テキストを返します。コンテキストウィンドウは 256,000 トークンで、最大出力は 204,800 トークンです。知識カットオフは 2025 年 3 月 31 日です。Mistral はその焦点を fill-in-the-middle (FIM)、コード修正、テスト生成と説明しているため、ファイル入力は、インラインで貼り付けたコードではなく、提供したソースに対してモデルを動作させたい場合に役立ちます。

これらの機能は、かなり特定のジョブ群を示しています。Fill-in-the-middle は、関数やブロックの途中でコードを補完するエディタ統合に適しています。コード修正は、リンティング、レビュー支援、または出荷前にモデル生成コードを修正するのに向いています。テスト生成は、実装と並行して単体テストを書く必要があるパイプラインに適合します。コンテキストウィンドウが大きいため、プロンプトと一緒にファイル全体やかなりの規模のリポジトリを渡すことができます。これらはすべて、自由形式のチャットではなく、バッチ指向のコーディングタスクです。

呼び出すには、api14 の OpenAI 互換 API に対してモデル id mistralai/codestral-2508:batch を使用します。つまり、既存の OpenAI SDK の設定は、base URL とキーを変更するだけで動作します。このモデルは frequency_penalty、max_tokens、prediction、presence_penalty、response_format、seed、stop、structured_outputs、temperature、tool_choice、tools、top_p をサポートします。tools と tool_choice により関数呼び出しに組み込むことができ、response_format と structured_outputs は下流のコードが固定された形状を必要とする場合に役立ち、seed は実行を再現可能にし、prediction は投機的デコーディング形式のワークフローに利用できます。api14 ではこのモデルの画像入力や音声入力は掲載されておらず、出力はテキストのみであることに注意してください。タスクがコードではなく一般的な文章、画像理解、または音声である場合、カタログ内の別のモデルの方が適した選択肢である可能性が高いです。