AionLabs: Aion 3.5 Mini

Aion 3.5 Mini, AionLabs tarafından sunulan bir metin modelidir ve api14 üzerinde aion-labs/aion-3.5-mini model kimliğiyle listelenmiştir. AionLabs onu GLM model ailesi üzerine kurulu çok modelli bir rol yapma ve hikaye anlatma sistemi olarak tanımlar ve Aion 3.5'in daha küçük kardeşi olarak konumlandırır. Bu tanım, ikisi arasında seçim yaparken önemlidir: Mini varyantı aynı serinin daha hafif seçeneğidir ve yalnızca genel amaçlı sohbetten ziyade aynı tür işlere yönelmiştir.

Model metin alır ve metin döndürür, dolayısıyla planlanması gereken bir görüntü veya ses işleme yoktur. Bağlam penceresi 262144 tokendır; bu, uzun konuşmaları, genişletilmiş anlatı taslaklarını veya büyük referans materyalini tek bir istekte tutmak için yeterince büyüktür. Çıktı 32768 token ile sınırlıdır. İstek tarafında max_tokens, temperature, top_p ve response_format ile birlikte fonksiyon çağrısı için tools ve tool_choice destekler. Ayrıca akıl yürütme kontrolleri sunar: include_reasoning, reasoning ve reasoning_effort, böylece akıl yürütme içeriğinin döndürülüp döndürülmeyeceğine ve modelin buna ne kadar çaba harcayacağına siz karar verebilirsiniz.

Bu yetenekler oldukça belirli bir kullanım kümesine işaret eder. Rol yapma ve etkileşimli hikaye anlatma belirtilen odak noktasıdır ve uzun bağlam, önceki sahnelerin görünür kalması gereken çok turlu karakter çalışmalarına uygundur. Aynı özellikler uzun kurgu taslakları, dallanan anlatı oyunları ve birçok tur boyunca tutarlı bir sesi koruması gereken diyalog sistemleri için de uygundur. tools ve response_format aracılığıyla yapılandırılmış çıktı mevcut olduğundan, düzyazı üretmeye devam ederken fonksiyon çağırması veya JSON biçimli sonuçlar döndürmesi gereken bir uygulamanın içinde de yer alabilir; örneğin sahneler arasında dünya durumunu sorgulayan bir hikaye motoru.

Onu api14 üzerinden çağırmak, diğer OpenAI uyumlu uç noktalar gibi çalışır. İstemcinizi api14 temel URL'sine yönlendirin, bir chat completions isteği gönderin ve model alanını aion-labs/aion-3.5-mini olarak ayarlayın. Yukarıda listelenen parametreler istek gövdesinde her zamanki gibi iletilebilir: max_tokens, temperature, top_p, response_format, tools ve tool_choice ile akıl yürütme seçenekleri include_reasoning, reasoning ve reasoning_effort. Mevcut kodunuz zaten OpenAI uyumlu bir API'yi hedefliyorsa özel bir SDK gerekmez.

Tartılması gereken ana şey kapsamdır. Girdiler ve çıktılar yalnızca metindir, dolayısıyla görüntü veya ses içeren görevler farklı bir model gerektirir. 32768 token çıktı sınırı ayrıca çok uzun tek yanıtların bölünmesi veya çağrılar arasında sürdürülmesi gerektiği anlamına gelir. AionLabs bunu bir rol yapma ve hikaye anlatma sistemi olarak çerçevelediğinden, anlatı ve konuşma işlerinin çok dışındaki görevler için genel amaçlı bir model daha iyi bir seçim olabilir.