AionLabs: Aion 3.5

Aion 3.5 ist ein Textmodell von AionLabs, das auf api14 unter der Modell-ID aion-labs/aion-3.5 gelistet ist. AionLabs beschreibt es als ein Multi-Modell-Rollenspiel- und Storytelling-System, das auf der GLM-Modellfamilie aufbaut. Statt eines einzelnen monolithischen Generators verwendet es einen kollaborativen Generierungsprozess, bei dem mehrere spezialisierte Modelle jeweils zur Ausgabe beitragen. Diese Designentscheidung prägt, worin das Modell gut ist, und es lohnt sich, das im Hinterkopf zu behalten, wenn Sie entscheiden, wo Sie es in einer Pipeline platzieren.

Auf der Eingabeseite akzeptiert Aion 3.5 nur Text und gibt nur Text zurück, es eignet sich also nicht für Audio-, Bild- oder Videoarbeit. Sein Kontextfenster beträgt 262.144 Token, was groß genug ist, um lange Gespräche, ausgedehnte erzählerische Bögen oder umfangreiche Referenzdokumente in einer einzigen Anfrage zu halten. Die maximale Ausgabe beträgt 32.768 Token, Antworten können also lang ausfallen, wenn Sie das benötigen. Das Modell unterstützt Reasoning-Ausgabe, und Sie können dieses Verhalten über die Parameter include_reasoning, reasoning und reasoning_effort steuern.

Diese Fähigkeiten deuten auf eine ziemlich spezifische Gruppe von Anwendungen hin. Rollenspiel und interaktives Storytelling sind die offensichtlichen, da das Modell dafür gebaut wurde und der lange Kontext es einer Sitzung erlaubt, viele vorherige Runden ohne Kürzung mitzuführen. Dieselben Eigenschaften eignen sich für charaktergetriebenen Chat, das Verfassen von Langform-Fiktion und kollaborative Schreibwerkzeuge, bei denen ein Nutzer und das Modell gemeinsam eine Geschichte aufbauen. Die Ausgabegrenze von 32.768 Token hilft, wenn Sie eine vollständige Szene oder einen Kapitelabschnitt in einer Antwort möchten, statt viele kurze Vervollständigungen aneinanderzureihen. Strukturierte Ausgabe über response_format und Funktionsaufrufe über tools und tool_choice machen es außerdem nutzbar in Anwendungen, die vom Modell erwarten, Daten in einer definierten Form zurückzugeben oder in Ihren eigenen Code aufzurufen.

Sie rufen es über die OpenAI-kompatible API von api14 mit der Modell-ID aion-labs/aion-3.5 auf, bestehende OpenAI-SDKs und Clients funktionieren also mit einer Änderung von Basis-URL und Modellname. Die unterstützten Anfrageparameter sind include_reasoning, max_tokens, reasoning, reasoning_effort, response_format, temperature, tool_choice, tools und top_p. Verwenden Sie temperature und top_p zur Sampling-Steuerung, max_tokens zur Begrenzung der Antwortlänge und die Reasoning-Parameter, wenn Sie das Reasoning des Modells sehen oder lenken möchten. Das Paar tools und tool_choice deckt Funktionsaufrufe ab, und response_format deckt strukturierte Ausgaben ab.

Da das Modell Text hinein und Text hinaus ist, benötigen Aufgaben, die auf anderen Modalitäten beruhen, ein anderes Modell. Dasselbe gilt, wenn Sie einen Allzweck-Assistenten möchten statt einen, der auf Rollenspiel und Storytelling abgestimmt ist, wobei die Unterstützung für Tools und strukturierte Ausgabe bedeutet, dass es dennoch als Generierungsschritt innerhalb einer größeren Anwendung dienen kann.