AionLabs: Aion-RP 1.0 (8B)

AionLabs: Aion-RP 1.0 (8B) adalah model teks dari AionLabs, dibangun di atas Llama 3.1 8B dan disetel secara khusus untuk roleplay. AionLabs mendeskripsikannya sebagai model dengan peringkat tertinggi pada bagian evaluasi karakter dalam benchmark RPBench-Auto, varian khusus roleplaying dari Arena-Hard-Auto di mana LLM saling mengevaluasi respons satu sama lain. Model ini dirilis oleh penyedia pada 4 Februari 2025.

Model ini menerima teks sebagai input dan mengembalikan teks sebagai output, sehingga berfungsi sebagai model chat atau completion, bukan model multimodal. Model ini memiliki context window 32768 token dan output maksimum 29491 token, yang menyisakan ruang untuk percakapan panjang atau generasi yang diperpanjang dalam satu permintaan. Batas pengetahuan (knowledge cutoff) nya adalah 31 Desember 2023, sehingga apa pun setelah tanggal tersebut berada di luar apa yang dipelajarinya selama pelatihan.

Karena disetel untuk roleplay, kecocokan alaminya adalah chat yang digerakkan oleh karakter: fiksi interaktif, asisten berbasis persona, dialog untuk game atau simulasi, dan aplikasi apa pun di mana konsistensi suara karakter lebih penting daripada pengetahuan umum. Context 32768 token membantu ketika sebuah adegan atau percakapan perlu tetap koheren selama banyak giliran, dan batas output yang besar mendukung balasan panjang yang tetap dalam karakter. Ini adalah model teks saja, sehingga tugas yang bergantung pada gambar, audio, atau modalitas lain berada di luar cakupannya.

Anda memanggilnya melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id "aion-labs/aion-rp-llama-3.1-8b". Permintaan mengikuti bentuk chat completions yang biasa, dan parameter yang didukung adalah max_tokens, temperature, dan top_p. Gunakan max_tokens untuk membatasi panjang balasan, dan temperature atau top_p untuk mengarahkan seberapa bervariasi respons karakter. Parameter lain yang mungkin biasa Anda gunakan dari penyedia lain tidak tercantum sebagai didukung di sini, jadi batasi permintaan pada kumpulan ini.

Karena ini adalah fine-tune 8B yang ditujukan untuk roleplay, model ini bukan pilihan yang jelas untuk tugas yang mengandalkan pengetahuan dunia yang luas atau penalaran berat, dan batas pengetahuan Desember 2023 nya berarti model ini tidak akan mengetahui peristiwa setelahnya. Untuk kasus tersebut, model serbaguna atau model yang lebih besar mungkin lebih cocok. Untuk pekerjaan karakter dalam batas context dan output nya, model ini adalah opsi yang terfokus.