Mancer: Weaver (alpha)

Mancer: Weaver (alpha) は Mancer のテキスト生成モデルで、プロバイダーによって 2023-08-02 にリリースされました。Mancer はこれを Claude 風の冗長さを再現する試みと説明しており、同じレベルの一貫性や記憶を期待すべきではないという明確な注意書きがあります。ロールプレイやナラティブの場面での使用を想定しているため、汎用アシスタントではなく創作執筆モデルとして位置づけられています。

このモデルはテキスト入力を受け取りテキスト出力を返すため、画像や音声を扱わない純粋な言語モデルです。コンテキストウィンドウは 8000 トークンで、1 回の応答で最大 6000 トークンを生成できます。知識カットオフは 2023-06-30 であり、プロンプトがその日付以降の出来事や情報に依存する場合には重要です。これらの範囲内では、中程度のコンテキストウィンドウと大きな最大出力の組み合わせにより、短い回答よりも長く連続した文章の生成に適しています。

プロバイダーが Weaver を冗長さとナラティブを中心に位置づけているため、自然に合うのはインタラクティブフィクション、キャラクター主導のチャット、シーン執筆、その他流れるように饒舌な語り口が利点となるロールプレイ風のタスクです。大きな出力上限は、モデルにシーンを途中で止めずに進めさせたい場合に役立ち、8000 トークンのコンテキストはシステムプロンプト、キャラクター記述、および数ターン分の過去の対話のための余地を与えます。プロバイダー自身が一貫性と記憶について警告しているため、厳密な事実想起や厳格な指示追従を要求するタスクへの適合性は明らかではありません。

モデルは model id "mancer/weaver" を使用して api14 の OpenAI 互換 API を通じて呼び出すことができます。サポートされているリクエストパラメータは frequency_penalty、logit_bias、logprobs、max_tokens、min_p、presence_penalty、repetition_penalty、response_format、seed、stop、temperature、top_a、top_k、top_logprobs、top_p です。このセットは通常のサンプリング制御に加えて repetition_penalty、min_p、top_a をカバーしており、モデルをループから遠ざけたり、より多様な文章へ導いたりする複数の方法を提供します。seed パラメータは再現可能なサンプリングが必要な場合に利用でき、logprobs と top_logprobs によりトークンレベルの信頼度を検査できます。

留意すべき主な制限は、8000 トークンのコンテキスト、6000 トークンの出力上限、および 2023-06-30 の知識カットオフです。プロバイダー自身の説明も期待値を設定しています。これはロールプレイとナラティブを目的とした alpha モデルであり、模倣しているスタイルほどには一貫性や記憶を保持できない可能性があります。ワークロードが長い会話、最近の情報、または正確な推論に依存する場合、それらの強みのために作られたモデルの方がより適しているでしょう。OpenAI 互換エンドポイントの背後で饒舌でシーン指向のテキスト生成器を求めるなら、Weaver は試す価値のある妥当な候補です。