AionLabs: Aion-RP 1.0 (8B)

AionLabs: Aion-RP 1.0 (8B) is een tekstmodel van AionLabs, gebouwd op Llama 3.1 8B en fijn afgestemd voor roleplay. AionLabs beschrijft het als het hoogst gerangschikt in het karakterevaluatiegedeelte van de RPBench-Auto benchmark, een roleplay-specifieke variant van Arena-Hard-Auto waarin LLMs elkaars antwoorden evalueren. Het werd door de provider uitgebracht op 4 februari 2025.

Het model neemt tekst als invoer en geeft tekst als uitvoer, dus het werkt als een chat- of completion-model en niet als een multimodaal model. Het heeft een contextvenster van 32768 tokens en een maximale uitvoer van 29491 tokens, wat ruimte laat voor lange gesprekken of uitgebreide generaties binnen een enkele aanvraag. De kennisafsluitdatum is 31 december 2023, dus alles na die datum valt buiten wat het tijdens de training heeft geleerd.

Omdat het is afgestemd op roleplay, is karaktergestuurde chat de natuurlijke toepassing: interactieve fictie, persona-gebaseerde assistenten, dialoog voor games of simulaties, en elke toepassing waarin een consistente karakterstem belangrijker is dan algemene kennis. De context van 32768 tokens helpt wanneer een scène of gesprek coherent moet blijven over vele beurten, en het hoge uitvoerplafond ondersteunt lange antwoorden in karakter. Het is een tekst-only model, dus taken die afhankelijk zijn van afbeeldingen, audio of andere modaliteiten vallen buiten het bereik.

Je roept het aan via de OpenAI-compatibele API van api14 met het model-id "aion-labs/aion-rp-llama-3.1-8b". Aanvragen volgen de gebruikelijke chat completions-vorm, en de ondersteunde parameters zijn max_tokens, temperature en top_p. Gebruik max_tokens om de antwoordlengte te beperken, en temperature of top_p om te sturen hoe gevarieerd de karakterantwoorden zijn. Andere parameters die je van andere providers gewend bent, worden hier niet als ondersteund vermeld, dus houd aanvragen binnen deze set.

Omdat het een 8B fine-tune is gericht op roleplay, is het niet de voor de hand liggende keuze voor taken die leunen op brede wereldkennis of zwaar redeneren, en de afsluitdatum van december 2023 betekent dat het latere gebeurtenissen niet kent. Voor die gevallen kan een algemeen of groter model beter passen. Voor karakterwerk binnen zijn context- en uitvoerlimieten is het een gerichte optie.