Writer: Palmyra X5

Yazar: Palmyra X5, Writer'dan bir metin modelidir ve api14 üzerinde writer/palmyra-x5 model id'si ile listelenmiştir. Writer onu, kurum genelinde yapay zeka ajanları oluşturmak ve ölçeklendirmek için özel olarak üretilmiş en gelişmiş modeli olarak tanımlıyor. Metin kategorisinde yer alır, yani görüntü, ses veya diğer modaliteler yerine dil işlerine yöneliktir.

Model metin alır ve metin döndürür. Bağlam penceresi 1.040.000 token'dır, bu bir milyon token'ın biraz üzerindedir ve maksimum çıktı 8.192 token'dır. Writer'ın kendi açıklaması, 1 milyon token'a kadar bağlam pencerelerinde sektör lideri hız ve verimliliği vurgular, dolayısıyla büyük pencere tesadüfi bir rakam değil tasarımın bilinçli bir parçasıdır. Burada görüntü veya ses girişi yoktur; gönderdiğiniz her şey metin olmalıdır.

Çok büyük bir bağlam penceresi ile mütevazı bir çıktı tavanının bu birleşimi pratik kullanım senaryolarını şekillendirir. Uzun belgeler, büyük kod tabanları, genişletilmiş transkriptler ve çok belgeli kümeler tek bir istekte parçalara bölünmeden sağlanabilir; bu da erişim yoğun ajan iş akışlarına, uzun kaynaklar üzerinde özetlemeye, büyük referans materyaline dayanan soru yanıtlamaya ve yanıtın kısa olduğu ancak kanıtın birçok sayfaya yayıldığı çıkarım görevlerine uygundur. Çıktı 8.192 token ile sınırlandığı için, uzun bir üretilmiş belge yerine odaklanmış bir yanıta ihtiyaç duyduğunuzda en iyi şekilde uyar.

Modeli api14'ün OpenAI uyumlu API'si üzerinden writer/palmyra-x5 model id'sini kullanarak çağırırsınız, böylece mevcut OpenAI istemci kütüphaneleri ve istek şekilleri özel bir işleme gerek olmadan çalışır. Desteklenen istek parametreleri max_tokens, stop, temperature, top_k ve top_p'dir. Yanıtı 8.192 çıktı tavanı içinde sınırlamak için max_tokens, üretimin nerede durması gerektiğini tanımlamak için stop ve örneklemeyi kontrol etmek için temperature, top_k ve top_p kullanın. Başka hiçbir parametre destekleniyor olarak listelenmemiştir, bu yüzden istekleri bu kümeyle sınırlı tutun.

Planlama yaparken dikkate alınacak ana kısıt 8.192 token'lık çıktı sınırıdır. Göreviniz tek geçişte uzun bir rapor, tam bir dosya veya genişletilmiş bir düzyazı parçası üretmekse, bu model işiniz bitmeden önce keser ve daha büyük bir çıktı iznine sahip bir model daha uygun olabilir. Palmyra X5, girdi büyük ve gereken yanıt görece küçük olduğunda en güçlüdür.