AionLabs: Aion-RP 1.0 (8B)

AionLabs: Aion-RP 1.0 (8B) は、AionLabs によるテキストモデルで、Llama 3.1 8B をベースにロールプレイ向けにファインチューニングされています。AionLabs は、LLM 同士が互いの応答を評価する Arena-Hard-Auto のロールプレイ特化版である RPBench-Auto ベンチマークのキャラクター評価部分で最高位にランクすると説明しています。プロバイダーによって 2025 年 2 月 4 日にリリースされました。

このモデルはテキストを入力として受け取り、テキストを出力として返すため、マルチモーダルではなくチャットまたは補完モデルとして機能します。コンテキストウィンドウは 32768 トークン、最大出力は 29491 トークンで、単一のリクエスト内で長い会話や拡張された生成のための余地があります。知識カットオフは 2023 年 12 月 31 日であるため、それ以降のものはトレーニング中に学習した範囲外です。

ロールプレイ向けにチューニングされているため、自然に適合するのはキャラクター主導のチャットです。インタラクティブフィクション、ペルソナベースのアシスタント、ゲームやシミュレーション用の対話、そして一般的な知識よりも一貫したキャラクターの声が重要なあらゆるアプリケーションです。32768 トークンのコンテキストは、シーンや会話が多くのターンにわたって一貫性を保つ必要がある場合に役立ち、大きな出力上限は長いキャラクター内の返信を支えます。これはテキストのみのモデルであるため、画像、音声、その他のモダリティに依存するタスクは対象外です。

モデル id "aion-labs/aion-rp-llama-3.1-8b" を使用して、api14 の OpenAI 互換 API を通じて呼び出します。リクエストは通常の chat completions の形式に従い、サポートされるパラメータは max_tokens、temperature、top_p です。max_tokens を使用して返信の長さを制限し、temperature または top_p を使用してキャラクターの応答の多様性を調整します。他のプロバイダーで慣れている可能性のある他のパラメータはここではサポート対象として記載されていないため、リクエストはこのセットに限定してください。

これはロールプレイを目的とした 8B のファインチューニングであるため、幅広い世界知識や重い推論に依存するタスクに明らかな選択肢ではなく、2023 年 12 月のカットオフはそれ以降の出来事を知らないことを意味します。そのような場合は、汎用またはより大きなモデルの方が適しているかもしれません。そのコンテキストと出力制限内でのキャラクター作業には、これは焦点を絞った選択肢です。