XingChen: Xing4.0 29B A4B (free)

XingChen: Xing4.0 29B A4B (free), China Telecom'un yapay zeka ekibi (TeleAI) tarafından geliştirilen, XingChen'e ait açık ağırlıklı bir uzmanlar karışımı dil modelidir. TeleChat serisinin halefidir. Model, toplam 29B parametreye sahiptir ve token başına 4B aktif parametre kullanır; bu, üretilen her token için ağın yalnızca bir alt kümesinin devreye girdiği anlamına gelir. Yalnızca metin tabanlı bir modeldir ve api14 üzerinde text kategorisi altında listelenmiştir.

Model girdi olarak metin kabul eder ve çıktı olarak metin üretir. 262144 token'lık bir bağlam penceresini destekler ve maksimum çıktı uzunluğu 235929 token'dır. Bu kombinasyon, çok uzun belgelerin veya genişletilmiş konuşmaların tek bir istekte işlenmesi gereken ve üretilen yanıtın kendisinin de uzun olabileceği iş yükleri için uygun kılar. Uzmanlar karışımı bir tasarım olduğu için, token başına aktif parametre sayısı toplama göre çok daha küçüktür; bu, yalnızca ham parametre sayısını değil, verim ve sunum özelliklerini düşünüyorsanız önemlidir.

Pratik kullanım senaryoları doğrudan uzun bağlam ve yalnızca metin arayüzünden kaynaklanır. Daha küçük bağlam pencerelerine sığmayacak uzun raporları, sözleşmeleri, transkriptleri veya kod tabanlarını özetlemek ya da analiz etmek için kullanabilirsiniz. Büyük miktarda önceki konuşmayı koruması gereken çok turlu asistanlar ve kaynak materyalin tamamen iletildiği belge soru yanıtlama için uygundur. Araç ve yapılandırılmış çıktı desteği de onu ajan tarzı iş akışları, fonksiyon çağırma ve serbest metin yerine tanımlanmış bir JSON şeklinde yanıt gerektiren uygulamalar için bir aday haline getirir.

Modeli, "xingchen-agi/xing4.0-29b-a4b:free" model kimliğini kullanarak api14'ün OpenAI uyumlu API'si üzerinden çağırırsınız. Uç nokta OpenAI sohbet tamamlama formatını izlediği için, mevcut OpenAI SDK'larını kullanabilir ve bunları api14'e yönlendirebilirsiniz. Model geniş bir istek parametresi kümesini destekler: frequency_penalty, include_reasoning, max_tokens, min_p, presence_penalty, reasoning, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k ve top_p. reasoning ve include_reasoning parametrelerinin varlığı, modelin açığa çıkardığı yerlerde akıl yürütme çıktısı isteyebileceğiniz anlamına gelir; tools ile tool_choice ve structured_outputs ise fonksiyon çağırma ve şema kısıtlı üretimi kapsar.

Dikkate almanız gereken bir nokta, bunun yalnızca metin tabanlı bir model olmasıdır; dolayısıyla girdi olarak görüntü veya ses kabul etmez ve bunları üretmez. Uygulamanız çok modlu girdiye bağlıysa farklı bir modele ihtiyacınız olur. Ücretsiz varyantı da üretimde kullanmaya karar vermeden önce kendi gecikme ve kalite gereksinimlerinize karşı test etmeye değer; çünkü buradaki bilgiler ölçülen performansı değil, yetenekleri ve parametreleri tanımlar.