MoonshotAI: Kimi K3 (batch)

MoonshotAI: Kimi K3 (batch) は Moonshot AI のテキスト生成モデルで、api14 上ではモデル id moonshotai/kimi-k3:batch で識別されます。これはオープンウェイトのマルチモーダル推論モデルで、2.8 兆パラメータを持ち、軽量なチャットではなく要求の厳しい作業向けに構築されています。batch バリアントは api14 を通じて呼び出すバージョンであり、プロバイダーからのベース Kimi K3 リリースと同じモデルアイデンティティと動作を保ちます。

このモデルはテキスト、画像、動画を入力として受け取り、テキストを出力として生成します。コンテキストウィンドウは 1,048,576 トークンで、コードベース全体、長い文書セット、または拡張された会話履歴を 1 回のリクエストに収めるのに十分な大きさです。最大出力長は 1 レスポンスあたり 16,384 トークンです。推論モデルであるため、最終的な回答を生成する前に生成バジェットの一部を内部推論に費やすことができ、その動作は reasoning および reasoning_effort パラメータを通じて影響を与えられます。

これらの機能はいくつかの実用的な用途を示しています。複雑なコーディングタスクは相性が良く、完全なソースをコンテキストに入れる必要がある大規模リポジトリ全体での作業も含まれます。長い文書やレポートの要約、比較、抽出といったナレッジワークも自然に適合し、特にソース資料にテキストと併せて解釈する必要がある画像や動画が含まれる場合に適しています。長期的なエージェントワークフローも対象のユースケースで、モデルが多くのステップにわたって計画し、ツールを呼び出し、長いコンテキストを通じて状態を追跡します。

このモデルは、モデル id moonshotai/kimi-k3:batch を使用して api14 の OpenAI 互換 API を通じて呼び出します。リクエストは frequency_penalty、include_reasoning、logit_bias、max_tokens、min_p、presence_penalty、reasoning、reasoning_effort、repetition_penalty、response_format、seed、stop、structured_outputs、temperature、tool_choice、tools、top_k、top_p をサポートします。ツール呼び出しと構造化出力は tools、tool_choice、response_format、structured_outputs パラメータを通じて利用でき、サンプリングは temperature、top_p、top_k、min_p およびペナルティパラメータで調整できます。再現可能なサンプリングのために seed を設定できます。

出力上限に注意してください。レスポンスは 16,384 トークンに制限されるため、非常に長い単一の回答が必要なタスクでは、作業を複数の呼び出しに分割する必要がある場合があります。また、このモデルはテキスト出力のみであるため、画像や動画の入力は生成されたメディア出力ではなく、テキストを生成するために解釈されます。単純で短いテキストタスクでは、2.8T パラメータの推論モデルよりも、より小さく高速なモデルの方が経済的な選択肢になる場合があります。