AionLabs: Aion-RP 1.0 (8B)

AionLabs: Aion-RP 1.0 (8B) ist ein Textmodell von AionLabs, aufgebaut auf Llama 3.1 8B und für Rollenspiel feinabgestimmt. AionLabs beschreibt es als das Modell mit der höchsten Platzierung im Charakterbewertungsteil des RPBench-Auto-Benchmarks, einer rollenspielspezifischen Variante von Arena-Hard-Auto, bei der LLMs die Antworten der jeweils anderen bewerten. Es wurde vom Anbieter am 4. Februar 2025 veröffentlicht.

Das Modell nimmt Text als Eingabe und gibt Text als Ausgabe zurück, es funktioniert also als Chat- oder Completion-Modell und nicht als multimodales Modell. Es hat ein Kontextfenster von 32768 Tokens und eine maximale Ausgabe von 29491 Tokens, was Raum für lange Gespräche oder ausgedehnte Generierungen innerhalb einer einzelnen Anfrage lässt. Sein Wissensstand endet am 31. Dezember 2023, alles nach diesem Datum liegt also außerhalb dessen, was es während des Trainings gelernt hat.

Da es für Rollenspiel abgestimmt ist, passt es naturgemäß zu charaktergetriebenem Chat: interaktive Fiktion, personenbasierte Assistenten, Dialoge für Spiele oder Simulationen und jede Anwendung, bei der eine konsistente Charakterstimme wichtiger ist als allgemeines Wissen. Der Kontext von 32768 Tokens hilft, wenn eine Szene oder ein Gespräch über viele Züge hinweg kohärent bleiben muss, und die hohe Ausgabeobergrenze unterstützt lange Antworten in der Rolle. Es ist ein reines Textmodell, Aufgaben, die auf Bilder, Audio oder andere Modalitäten angewiesen sind, fallen also nicht in seinen Bereich.

Sie rufen es über die OpenAI-kompatible API von api14 mit der Modell-ID "aion-labs/aion-rp-llama-3.1-8b" auf. Anfragen folgen der üblichen Form für Chat Completions, und die unterstützten Parameter sind max_tokens, temperature und top_p. Verwenden Sie max_tokens, um die Antwortlänge zu begrenzen, und temperature oder top_p, um zu steuern, wie variabel die Charakterantworten ausfallen. Andere Parameter, die Sie von anderen Anbietern kennen mögen, sind hier nicht als unterstützt aufgeführt, beschränken Sie Anfragen also auf diese Gruppe.

Da es sich um ein 8B-Fine-Tuning handelt, das auf Rollenspiel ausgerichtet ist, ist es nicht die naheliegende Wahl für Aufgaben, die auf breites Weltwissen oder aufwendiges Schlussfolgern angewiesen sind, und sein Wissensstand von Dezember 2023 bedeutet, dass es spätere Ereignisse nicht kennt. Für diese Fälle passt ein Allzweckmodell oder ein größeres Modell möglicherweise besser. Für Charakterarbeit innerhalb seiner Kontext- und Ausgabegrenzen ist es eine fokussierte Option.