AionLabs: Aion 3.5

Aion 3.5, AionLabs tarafından geliştirilen ve api14 üzerinde aion-labs/aion-3.5 model kimliğiyle listelenen bir metin modelidir. AionLabs onu, GLM model ailesi üzerine kurulu çok modelli bir rol yapma ve hikaye anlatma sistemi olarak tanımlar. Tek bir bütünleşik üretici yerine, birden fazla özelleşmiş modelin çıktıya katkıda bulunduğu işbirlikçi bir üretim süreci kullanır. Bu tasarım tercihi, modelin nelerde iyi olduğunu şekillendirir ve onu bir iş akışında nereye yerleştireceğinize karar verirken akılda tutulmaya değerdir.

Girdi tarafında Aion 3.5 yalnızca metin kabul eder ve yalnızca metin döndürür, bu nedenle ses, görüntü veya video işleri için uygun değildir. Bağlam penceresi 262.144 tokendır; bu, uzun konuşmaları, genişletilmiş anlatı yaylarını veya büyük referans belgelerini tek bir istekte tutacak kadar büyüktür. Maksimum çıktı 32.768 tokendır, yani ihtiyaç duyduğunuzda yanıtlar uzun olabilir. Model akıl yürütme çıktısını destekler ve bu davranışı include_reasoning, reasoning ve reasoning_effort parametreleriyle kontrol edebilirsiniz.

Bu yetenekler oldukça belirli bir kullanım kümesine işaret eder. Rol yapma ve etkileşimli hikaye anlatma en belirgin olanlardır, çünkü model bunlar için geliştirilmiştir ve uzun bağlam, bir oturumun çok sayıda önceki turu kırpmadan taşımasına olanak tanır. Aynı özellikler, karakter odaklı sohbet, uzun soluklu kurgu taslağı ve kullanıcı ile modelin birlikte bir hikaye oluşturduğu işbirlikçi yazma araçları için de uygundur. 32.768 tokenlık çıktı tavanı, birçok kısa tamamlamayı birleştirmek yerine tek bir yanıtta tam bir sahne veya bölüm kesiti istediğinizde yardımcı olur. response_format aracılığıyla yapılandırılmış çıktı ve tools ile tool_choice aracılığıyla fonksiyon çağırma, modelin tanımlı bir biçimde veri döndürmesi veya kendi kodunuza çağrı yapması gereken uygulamalarda da kullanılabilir olmasını sağlar.

Modeli, aion-labs/aion-3.5 model kimliğini kullanarak api14'ün OpenAI uyumlu API'si üzerinden çağırırsınız, böylece mevcut OpenAI SDK'ları ve istemcileri yalnızca temel URL ve model adı değiştirilerek çalışır. Desteklenen istek parametreleri include_reasoning, max_tokens, reasoning, reasoning_effort, response_format, temperature, tool_choice, tools ve top_p'dir. Örnekleme kontrolü için temperature ve top_p, yanıt uzunluğunu sınırlamak için max_tokens ve modelin akıl yürütmesini görmek veya yönlendirmek istediğinizde akıl yürütme parametrelerini kullanın. tools ve tool_choice ikilisi fonksiyon çağırmayı, response_format ise yapılandırılmış çıktıları kapsar.

Model metin girişi ve metin çıkışı olduğundan, diğer modalitelere bağlı görevler farklı bir model gerektirir. Aynı durum, rol yapma ve hikaye anlatma için ayarlanmış bir model yerine genel amaçlı bir asistan istiyorsanız da geçerlidir, ancak araç ve yapılandırılmış çıktı desteği, daha büyük bir uygulama içinde üretim adımı olarak hizmet edebileceği anlamına gelir.