DeepSeek: DeepSeek V3 0324

DeepSeek V3 0324は、DeepSeekのテキストモデルで、プロバイダーによって2025年3月24日にリリースされました。これはDeepSeekのフラッグシップチャットモデルファミリーの最新版であり、以前のDeepSeek V3モデルを引き継ぐものです。内部的には685Bパラメータのmixture-of-expertsモデルであり、これは任意のトークンに対してネットワークの一部のみがアクティブになることを意味し、大規模モデルがすべてのリクエストですべてのパラメータをアクティブにすることなくチャットトラフィックを処理できる設計です。api14におけるモデルidはdeepseek/deepseek-chat-v3-0324です。

このモデルはテキスト入力、テキスト出力です。テキストプロンプトを受け取り、テキスト補完を返し、画像や音声を入力として受け取りません。コンテキストウィンドウは163,840トークンで、長い文書、複数ファイルのソースツリー、または拡張された会話履歴を単一のリクエストに保持するのに十分な大きさです。最大出力は115,200トークンなので、応答も長くできます。知識カットオフは2024年7月31日であり、それ以降の出来事や情報はモデルがトレーニング中に学習した範囲外です。

これらの機能は、かなり幅広い実用的用途を示しています。長いコンテキストは、文書分析、要約、長大なソース資料に対する質問応答に適しており、複数ファイルにわたるコードレビューやリファクタリングにも適しています。モデルがツール呼び出しと構造化出力をサポートしているため、応答が自由テキストではなくスキーマに準拠する必要があるエージェント形式のワークフローやパイプラインにも適合します。これがチャットモデルファミリーであることを踏まえると、一般的なチャット、ドラフト作成、編集も自然に適合します。大きな出力上限は、完全なレポートやかなりのサイズのコードファイルを一度に生成するなど、長い成果物を生成するタスクに役立ちます。

モデルid deepseek/deepseek-chat-v3-0324を使用してapi14のOpenAI互換APIを通じて呼び出すため、既存のOpenAI SDKとクライアントはベースURLとキーを変更するだけで動作します。サポートするリクエストパラメータはfrequency_penalty、logprobs、max_tokens、response_format、seed、structured_outputs、temperature、tool_choice、tools、top_k、top_logprobs、top_pです。これにはサンプリング制御、seedによる決定論的実行、logprobsとtop_logprobsによるトークンレベルの確率検査、tools、tool_choice、response_format、structured_outputsによる関数呼び出しまたはスキーマ制約付き出力が含まれます。

考慮すべき点の1つはモダリティです。タスクが画像、音声、その他の非テキスト入力に依存する場合、このモデルはテキスト専用であるため処理できません。2024年7月31日の知識カットオフも、最近の出来事に関する質問では注意に値し、その場合は検索またはより新しいカットオフを持つモデルの方が適しているかもしれません。これらの範囲内では、長いコンテキストのテキストおよびツール駆動型の作業にとって straightforward な選択です。