AionLabs: Aion-RP 1.0 (8B)

AionLabs : Aion-RP 1.0 (8B) est un modèle de texte d'AionLabs, construit sur Llama 3.1 8B et affiné pour le jeu de rôle. AionLabs le décrit comme classé au premier rang dans la partie évaluation des personnages du benchmark RPBench-Auto, une variante spécifique au jeu de rôle d'Arena-Hard-Auto dans laquelle les LLM évaluent les réponses les uns des autres. Il a été publié par le fournisseur le 4 février 2025.

Le modèle prend du texte en entrée et renvoie du texte en sortie, il fonctionne donc comme un modèle de chat ou de complétion plutôt que comme un modèle multimodal. Il dispose d'une fenêtre de contexte de 32768 tokens et d'une sortie maximale de 29491 tokens, ce qui laisse de la place pour de longues conversations ou des générations étendues au sein d'une seule requête. Sa date de coupure des connaissances est le 31 décembre 2023, donc tout ce qui est postérieur à cette date sort de ce qu'il a appris pendant l'entraînement.

Comme il est ajusté pour le jeu de rôle, l'usage naturel est le chat piloté par les personnages : fiction interactive, assistants basés sur des personas, dialogues pour jeux ou simulations, et toute application où une voix de personnage cohérente compte plus que la connaissance générale. Le contexte de 32768 tokens aide lorsqu'une scène ou une conversation doit rester cohérente sur de nombreux tours, et le plafond de sortie élevé prend en charge de longues réponses en personnage. C'est un modèle texte uniquement, donc les tâches qui dépendent d'images, d'audio ou d'autres modalités sont hors de son périmètre.

Vous l'appelez via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle "aion-labs/aion-rp-llama-3.1-8b". Les requêtes suivent la forme habituelle des complétions de chat, et les paramètres pris en charge sont max_tokens, temperature et top_p. Utilisez max_tokens pour plafonner la longueur de la réponse, et temperature ou top_p pour orienter la variété des réponses du personnage. Les autres paramètres que vous avez peut-être l'habitude d'utiliser chez d'autres fournisseurs ne sont pas listés comme pris en charge ici, donc limitez les requêtes à cet ensemble.

Comme il s'agit d'un affinage 8B destiné au jeu de rôle, ce n'est pas le choix évident pour les tâches qui reposent sur une large connaissance du monde ou un raisonnement lourd, et sa coupure de décembre 2023 signifie qu'il ne connaîtra pas les événements postérieurs. Dans ces cas, un modèle généraliste ou plus grand peut mieux convenir. Pour le travail sur les personnages dans les limites de son contexte et de sa sortie, c'est une option ciblée.