AionLabs: Aion-RP 1.0 (8B)

AionLabs: Aion-RP 1.0 (8B) är en textmodell från AionLabs, byggd på Llama 3.1 8B och finjusterad för rollspel. AionLabs beskriver den som högst rankad i karaktärsutvärderingsdelen av RPBench-Auto-riktmärket, en rollspelsspecifik variant av Arena-Hard-Auto där språkmodeller utvärderar varandras svar. Den släpptes av leverantören den 4 februari 2025.

Modellen tar text som indata och returnerar text som utdata, så den fungerar som en chatt- eller kompletteringsmodell snarare än en multimodell. Den har ett kontextfönster på 32768 tokens och en maximal utdata på 29491 tokens, vilket lämnar utrymme för långa konversationer eller utökade genereringar inom en enda begäran. Dess kunskapsavgränsning är 31 december 2023, så allt efter det datumet ligger utanför vad den lärde sig under träningen.

Eftersom den är finjusterad för rollspel är den naturliga tillämpningen karaktärsdriven chatt: interaktiv fiktion, personbaserade assistenter, dialog för spel eller simuleringar, och alla applikationer där en konsekvent karaktärsröst är viktigare än allmän kunskap. Kontextfönstret på 32768 tokens hjälper när en scen eller konversation behöver förbli sammanhängande över många turer, och det stora utdatataket stöder långa svar i karaktär. Det är en textmodell, så uppgifter som är beroende av bilder, ljud eller andra modaliteter ligger utanför omfånget.

Du anropar den via api14:s OpenAI-kompatibla API med modell-id:t "aion-labs/aion-rp-llama-3.1-8b". Begäranden följer den vanliga formen för chattkompletteringar, och de parametrar som stöds är max_tokens, temperature och top_p. Använd max_tokens för att begränsa svarslängden, och temperature eller top_p för att styra hur varierade karaktärssvaren är. Andra parametrar som du kan vara van vid från andra leverantörer listas inte som stödda här, så håll begäranden till denna uppsättning.

Eftersom det är en 8B-finjustering inriktad på rollspel är den inte det självklara valet för uppgifter som lutar sig mot bred världskunskap eller tung resonemang, och dess avgränsning i december 2023 innebär att den inte kommer att känna till senare händelser. För dessa fall kan en allmän eller större modell passa bättre. För karaktärsarbete inom dess kontext- och utdatagränser är den ett fokuserat alternativ.