AionLabs: Aion 3.5

Aion 3.5 adalah model teks dari AionLabs, terdaftar di api14 dengan model id aion-labs/aion-3.5. AionLabs mendeskripsikannya sebagai sistem roleplay dan bercerita multi-model yang dibangun di atas keluarga model GLM. Alih-alih generator monolitik tunggal, model ini menggunakan proses generasi kolaboratif di mana beberapa model khusus masing-masing berkontribusi pada output. Pilihan desain itu membentuk keunggulan model ini, dan perlu diingat ketika Anda memutuskan di mana menempatkannya dalam sebuah pipeline.

Di sisi input, Aion 3.5 hanya menerima teks dan hanya mengembalikan teks, jadi model ini tidak cocok untuk pekerjaan audio, gambar, atau video. Jendela konteksnya adalah 262.144 token, cukup besar untuk menampung percakapan panjang, alur naratif yang diperluas, atau dokumen referensi berukuran besar dalam satu permintaan. Output maksimum adalah 32.768 token, sehingga respons bisa panjang saat Anda membutuhkannya. Model ini mendukung output reasoning, dan Anda dapat mengontrol perilaku tersebut melalui parameter include_reasoning, reasoning, dan reasoning_effort.

Kemampuan tersebut mengarah pada serangkaian penggunaan yang cukup spesifik. Roleplay dan bercerita interaktif adalah yang paling jelas, karena model ini dibangun untuk itu dan konteks panjangnya memungkinkan satu sesi membawa banyak giliran sebelumnya tanpa pemangkasan. Properti yang sama cocok untuk chat yang digerakkan karakter, penyusunan fiksi panjang, dan alat penulisan kolaboratif di mana pengguna dan model membangun cerita bersama. Batas output 32.768 token membantu ketika Anda menginginkan satu adegan penuh atau bagian bab dalam satu respons alih-alih menggabungkan banyak completion pendek. Output terstruktur melalui response_format dan pemanggilan fungsi melalui tools dan tool_choice juga membuatnya dapat digunakan dalam aplikasi yang membutuhkan model mengembalikan data dalam bentuk yang telah ditentukan atau memanggil kode Anda sendiri.

Anda memanggilnya melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id aion-labs/aion-3.5, sehingga SDK dan klien OpenAI yang ada dapat bekerja dengan mengubah base URL dan nama model. Parameter permintaan yang didukung adalah include_reasoning, max_tokens, reasoning, reasoning_effort, response_format, temperature, tool_choice, tools, dan top_p. Gunakan temperature dan top_p untuk kontrol sampling, max_tokens untuk membatasi panjang respons, dan parameter reasoning ketika Anda ingin melihat atau mengarahkan reasoning model. Pasangan tools dan tool_choice mencakup pemanggilan fungsi, dan response_format mencakup output terstruktur.

Karena model ini teks masuk dan teks keluar, tugas yang bergantung pada modalitas lain memerlukan model yang berbeda. Hal yang sama berlaku jika Anda menginginkan asisten serbaguna alih-alih yang disetel untuk roleplay dan bercerita, meskipun dukungan tool dan output terstruktur berarti model ini masih dapat berfungsi sebagai langkah generasi di dalam aplikasi yang lebih besar.