AionLabs: Aion-RP 1.0 (8B)

AionLabs: Aion-RP 1.0 (8B) es un modelo de texto de AionLabs, construido sobre Llama 3.1 8B y ajustado para roleplay. AionLabs lo describe como el que ocupa el puesto más alto en la parte de evaluación de personajes del benchmark RPBench-Auto, una variante específica de roleplay de Arena-Hard-Auto en la que los LLM evalúan las respuestas de los demás. Fue lanzado por el proveedor el 4 de febrero de 2025.

El modelo toma texto como entrada y devuelve texto como salida, por lo que funciona como un modelo de chat o de completado en lugar de uno multimodal. Tiene una ventana de contexto de 32768 tokens y una salida máxima de 29491 tokens, lo que deja espacio para conversaciones largas o generaciones extensas dentro de una sola solicitud. Su fecha de corte de conocimiento es el 31 de diciembre de 2023, por lo que cualquier cosa posterior a esa fecha queda fuera de lo que aprendió durante el entrenamiento.

Como está ajustado para roleplay, el encaje natural es el chat impulsado por personajes: ficción interactiva, asistentes basados en personas, diálogo para juegos o simulaciones, y cualquier aplicación donde una voz de personaje coherente importe más que el conocimiento general. El contexto de 32768 tokens ayuda cuando una escena o conversación necesita mantenerse coherente a lo largo de muchos turnos, y el amplio límite de salida permite respuestas largas en personaje. Es un modelo solo de texto, por lo que las tareas que dependen de imágenes, audio u otras modalidades quedan fuera de su alcance.

Se llama a través de la API compatible con OpenAI de api14 usando el id de modelo "aion-labs/aion-rp-llama-3.1-8b". Las solicitudes siguen la forma habitual de chat completions, y los parámetros admitidos son max_tokens, temperature y top_p. Usa max_tokens para limitar la longitud de la respuesta, y temperature o top_p para controlar cuán variadas son las respuestas del personaje. Otros parámetros que puedas conocer de otros proveedores no se listan como admitidos aquí, así que limita las solicitudes a este conjunto.

Dado que es un ajuste fino de 8B orientado a roleplay, no es la elección obvia para tareas que dependen de un conocimiento amplio del mundo o de un razonamiento intenso, y su corte de diciembre de 2023 significa que no conocerá eventos posteriores. Para esos casos, un modelo de propósito general o uno más grande puede encajar mejor. Para el trabajo de personajes dentro de sus límites de contexto y salida, es una opción enfocada.