TheDrummer: Skyfall 36B V2

TheDrummer: Skyfall 36B V2 は、TheDrummer によるテキスト生成モデルで、2025 年 3 月 10 日にリリースされました。これは Mistral Small 2501 を強化した反復版であり、創造性、ニュアンスのある文章作成、ロールプレイング、一貫性のあるストーリーテリングを改善するために特化してファインチューニングされています。このモデルの知識カットオフは 2024 年 6 月 30 日であるため、その時点までに利用可能な情報に基づいて動作します。

このモデルはテキスト入力を受け取り、テキスト出力を返します。コンテキストウィンドウは 32,768 トークンで、最大出力は 29,491 トークンです。幅広いサンプリングおよび制御パラメータをサポートしています: temperature、top_p、top_k、frequency_penalty、presence_penalty、repetition_penalty、max_tokens、stop、seed、logit_bias、logprobs、top_logprobs、response_format、structured_outputs。この組み合わせにより、サンプリングパラメータを通じて創造的な自由度を得られると同時に、予測可能な形が必要な場合には structured outputs と response formats を通じてより厳密な制御も得られます。

ファインチューニングの焦点は、いくつかの実用的な用途を示しています。創作やニュアンスのある文章作成タスクは相性がよく、フィクションの草稿作成、アウトラインを散文へ展開すること、多様なマーケティングコピーの生成などに適しています。ロールプレイングやキャラクター主導の対話も自然に合致し、インタラクティブフィクション、ゲームの NPC、長いやり取りの中でキャラクターを保ち続ける必要があるチャットペルソナなどに使えます。長めの文章にわたる一貫したストーリーテリングも用途の一つで、32,768 トークンのコンテキストがこれを支えます。これにより、以前の場面、キャラクター設定メモ、スタイルガイドをプロンプト内に保持できます。structured outputs と response_format は、返信がスキーマに従う必要があるタスク、たとえば物語からフィールドを抽出することや、下流のコード向けに一貫した JSON を生成することに利用できます。

このモデルは、モデル id "thedrummer/skyfall-36b-v2" を使用して api14 の OpenAI 互換 API を通じて呼び出します。インターフェースは OpenAI chat completions の形に従っているため、既存の OpenAI クライアントを api14 の base URL に向け、通常のリクエスト構造を保ち、model フィールドをその id に設定できます。上記のリクエストパラメータはサポートされているため、必要に応じて temperature、top_p、top_k、frequency_penalty、presence_penalty、repetition_penalty、max_tokens、stop、seed、logit_bias、logprobs、top_logprobs、response_format、structured_outputs を渡せます。このページのライブ価格表にコストが記載されています。

選択時に注意すべき制限が 2 つあります。入力はテキストのみであるため、タスクが画像や音声に依存する場合、このモデルは適していません。また、32,768 トークンのコンテキストは、1 回のリクエストに保持できる以前の資料の量を制限します。これは非常に長い文書や長期にわたる会話で重要であり、そのような場合はチャンク化や検索、またはより大きなコンテキストウィンドウを持つモデルが必要になります。