AionLabs: Aion-RP 1.0 (8B)

AionLabs: Aion-RP 1.0 (8B) è un modello testuale di AionLabs, basato su Llama 3.1 8B e ottimizzato per il roleplay. AionLabs lo descrive come il modello con il punteggio più alto nella parte di valutazione dei personaggi del benchmark RPBench-Auto, una variante specifica per il roleplay di Arena-Hard-Auto in cui gli LLM valutano reciprocamente le risposte. È stato rilasciato dal provider il 4 febbraio 2025.

Il modello accetta testo come input e restituisce testo come output, quindi funziona come modello di chat o di completamento, non multimodale. Ha una finestra di contesto di 32768 token e un output massimo di 29491 token, il che lascia spazio a conversazioni lunghe o generazioni estese all'interno di una singola richiesta. Il suo knowledge cutoff è il 31 dicembre 2023, quindi tutto ciò che è successivo a tale data è al di fuori di quanto appreso durante l'addestramento.

Poiché è ottimizzato per il roleplay, l'uso naturale è la chat guidata dai personaggi: narrativa interattiva, assistenti basati su persona, dialoghi per giochi o simulazioni e qualsiasi applicazione in cui una voce del personaggio coerente conti più della conoscenza generale. Il contesto di 32768 token aiuta quando una scena o una conversazione deve restare coerente attraverso molti turni, e il tetto elevato di output supporta lunghe risposte in character. È un modello solo testuale, quindi le attività che dipendono da immagini, audio o altre modalità sono fuori ambito.

Lo si chiama tramite l'API compatibile con OpenAI di api14 usando il model id "aion-labs/aion-rp-llama-3.1-8b". Le richieste seguono la consueta forma delle chat completions, e i parametri supportati sono max_tokens, temperature e top_p. Usa max_tokens per limitare la lunghezza della risposta, e temperature o top_p per orientare quanto sono varie le risposte del personaggio. Altri parametri a cui potresti essere abituato con altri provider non sono elencati come supportati qui, quindi mantieni le richieste entro questo insieme.

Dato che è un fine-tune da 8B pensato per il roleplay, non è la scelta ovvia per attività che si basano su una vasta conoscenza del mondo o su un ragionamento intenso, e il suo cutoff di dicembre 2023 significa che non conoscerà eventi successivi. In quei casi un modello general purpose o più grande può essere più adatto. Per il lavoro sui personaggi entro i suoi limiti di contesto e output, è un'opzione mirata.