AionLabs: Aion-RP 1.0 (8B)

AionLabs: Aion-RP 1.0 (8B) to model tekstowy od AionLabs, zbudowany na Llama 3.1 8B i dostrojony do odgrywania ról. AionLabs opisuje go jako zajmującego najwyższe miejsce w części oceny postaci w benchmarku RPBench-Auto, czyli wariantu Arena-Hard-Auto specyficznego dla odgrywania ról, w którym LLM-y oceniają nawzajem swoje odpowiedzi. Został udostępniony przez dostawcę 4 lutego 2025.

Model przyjmuje tekst jako dane wejściowe i zwraca tekst jako dane wyjściowe, więc działa jako model czatu lub uzupełniania, a nie multimodalny. Ma okno kontekstu wynoszące 32768 tokenów i maksymalne wyjście 29491 tokenów, co pozostawia miejsce na długie rozmowy lub rozszerzone generowanie w ramach jednego żądania. Jego data odcięcia wiedzy to 31 grudnia 2023, więc wszystko po tej dacie wykracza poza to, czego nauczył się podczas treningu.

Ponieważ jest dostrojony do odgrywania ról, naturalnym zastosowaniem jest czat oparty na postaciach: fikcja interaktywna, asystenci oparci na personach, dialogi do gier lub symulacji oraz wszelkie aplikacje, w których spójny głos postaci liczy się bardziej niż ogólna wiedza. Kontekst 32768 tokenów pomaga, gdy scena lub rozmowa musi pozostać spójna przez wiele tur, a wysoki limit wyjścia wspiera długie odpowiedzi wcieleniowe. To model wyłącznie tekstowy, więc zadania zależne od obrazów, dźwięku lub innych modalności są poza jego zakresem.

Wywołujesz go przez API zgodne z OpenAI w api14, używając identyfikatora modelu "aion-labs/aion-rp-llama-3.1-8b". Żądania mają zwykłą formę uzupełnień czatu, a obsługiwane parametry to max_tokens, temperature i top_p. Użyj max_tokens, aby ograniczyć długość odpowiedzi, oraz temperature lub top_p, aby sterować zróżnicowaniem odpowiedzi postaci. Inne parametry, do których możesz być przyzwyczajony u innych dostawców, nie są tutaj wymienione jako obsługiwane, więc ogranicz żądania do tego zestawu.

Ponieważ jest to dostrojenie 8B ukierunkowane na odgrywanie ról, nie jest oczywistym wyborem do zadań opierających się na szerokiej wiedzy o świecie lub intensywnym rozumowaniu, a jego data odcięcia z grudnia 2023 oznacza, że nie będzie znał późniejszych wydarzeń. W takich przypadkach lepiej może pasować model ogólnego przeznaczenia lub większy. Do pracy z postaciami w ramach jego limitów kontekstu i wyjścia jest to opcja skupiona na tym zadaniu.