AionLabs: Aion 3.5

Aion 3.5 は AionLabs のテキストモデルで、api14 にモデル ID aion-labs/aion-3.5 として掲載されています。AionLabs はこれを、GLM 系モデルを基盤としたマルチモデル型のロールプレイおよびストーリーテリングシステムと説明しています。単一の monolithic な生成器ではなく、複数の特化モデルがそれぞれ出力に寄与する協調生成プロセスを採用しています。この設計上の選択が、このモデルが得意とする領域を形作っており、パイプラインのどこに配置するかを決める際に心に留めておく価値があります。

入力側では、Aion 3.5 はテキストのみを受け取り、テキストのみを返すため、音声、画像、動画の作業には適していません。コンテキストウィンドウは 262,144 トークンで、長い会話、長編の物語の展開、かなり大きな参照ドキュメントを 1 回のリクエストに収めるのに十分な大きさです。最大出力は 32,768 トークンなので、必要なときには応答を長くできます。このモデルは推論出力をサポートしており、include_reasoning、reasoning、reasoning_effort の各パラメータでその動作を制御できます。

これらの能力は、かなり特定の用途を示しています。ロールプレイとインタラクティブなストーリーテリングは明白な用途で、このモデルはそのために作られており、長いコンテキストによってセッション内の多くの過去ターンを切り詰めずに保持できます。同じ特性は、キャラクター主導のチャット、長編フィクションの草稿作成、ユーザーとモデルが一緒に物語を作る共同執筆ツールにも適しています。32,768 トークンの出力上限は、多数の短い補完をつなぎ合わせるのではなく、1 回の応答でシーン全体や章の一部を得たい場合に役立ちます。response_format による構造化出力と、tools および tool_choice による関数呼び出しも、モデルに定義された形でデータを返させたり、独自のコードを呼び出させたりする必要があるアプリケーションで利用可能にします。

モデル ID aion-labs/aion-3.5 を使用して api14 の OpenAI 互換 API 経由で呼び出すため、既存の OpenAI SDK やクライアントはベース URL とモデル名を変更するだけで動作します。サポートされるリクエストパラメータは、include_reasoning、max_tokens、reasoning、reasoning_effort、response_format、temperature、tool_choice、tools、top_p です。サンプリング制御には temperature と top_p を、応答長の上限には max_tokens を、モデルの推論を確認または誘導したい場合には reasoning 系パラメータを使用します。tools と tool_choice の組み合わせは関数呼び出しを、response_format は構造化出力をカバーします。

このモデルはテキスト入力およびテキスト出力であるため、他のモダリティに依存するタスクには別のモデルが必要です。ロールプレイやストーリーテリング向けに調整されたものではなく汎用アシスタントを求める場合も同様ですが、ツールと構造化出力のサポートにより、より大きなアプリケーション内の生成ステップとして依然として機能できます。