MythoMax 13B

MythoMax 13B, Gryphe tarafından geliştirilen ve api14 üzerinde gryphe/mythomax-l2-13b olarak tanımlanan bir metin modelidir. Llama 2 13B'nin bir fine-tune sürümüdür, tek bir eğitim çalışmasıyla değil birleştirme yöntemiyle üretilmiştir ve Gryphe bunu o temel modelin en yüksek performanslı ve en popüler fine-tune sürümlerinden biri olarak tanımlar. Metin kategorisinde yer alır, yani görüntü, ses veya diğer modaliteler yerine dil çalışmaları için tasarlanmıştır.

Model girdi olarak metin alır ve çıktı olarak metin döndürür. 8192 token bağlam penceresine sahiptir, bu da makul uzunlukta bir istem ile üretilen yanıtı kapsar ve maksimum çıktısı 3686 tokendır. Bilgi kesim tarihi 30 Haziran 2023'tür, yani bu tarihten sonraki her şey eğitim sırasında öğrendiklerinin dışında kalır. Gryphe, zengin betimlemeleri ve rol yapmayı bu fine-tune sürümünün öne çıkan güçlü yönleri olarak vurgular; bu da modelin üretmeye eğilimli olduğu metin türü hakkında faydalı bir işarettir.

Bu özellikler oldukça belirli bir kullanım kümesine işaret eder. Rol yapma ve zengin betimleme güçlü yönleri, onu etkileşimli kurgu, karakter odaklı sohbet ve ton ile ayrıntının önemli olduğu anlatı veya diyalog üretimi için doğal bir uygun hale getirir. 8192 token bağlamı, sürekli kırpma yapmadan uzun süren bir konuşmayı veya kapsamlı bir sahneyi görünümde tutmanıza olanak tanır ve 3686 token çıktı sınırı birkaç paragrafa uzanan yanıtları destekler. Yaratıcı yazarlığın ötesinde, genel metin üretimi ve sohbet tarzı asistanlar için de çalışır, ancak bilgi kesim tarihi Haziran 2023 sonrası olaylarla ilgili sorularda ona güvenmemeniz gerektiği anlamına gelir.

Modeli api14'ün OpenAI uyumlu API'si üzerinden gryphe/mythomax-l2-13b model kimliğiyle çağırırsınız, yani mevcut OpenAI istemci kütüphaneleri ve istek yapıları yalnızca model adı değiştirilerek çalışır. Desteklenen istek parametreleri frequency_penalty, logit_bias, logprobs, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, top_a, top_k, top_logprobs ve top_p'dir. Bu geniş bir örnekleme ve kontrol yüzeyidir: olağan temperature, top_p, top_k ve ceza ayarlarının yanı sıra topluluk fine-tune iş akışlarında yaygın olan min_p, top_a ve repetition_penalty. Seed size tekrarlanabilir örnekleme sağlar, stop dizileri üretimi seçtiğiniz bir dizede kesmenize olanak tanır ve logprobs ile top_logprobs token düzeyinde olasılıkları açığa çıkarır. Çıktının belirli bir biçimde şekillendirilmesine ihtiyacınız varsa response_format ve structured_outputs kullanılabilir.

Akılda tutulması gereken başlıca sınırlar 8192 token bağlam ve 3686 token çıktı üst sınırı ile Haziran 2023 bilgi kesim tarihidir. Göreviniz çok daha büyük bir bağlam, daha güncel bilgi veya metin dışı girdi gerektiriyorsa, api14 üzerindeki farklı bir model daha iyi uyacaktır. Bu sınırlar içinde yaratıcı yazarlık, karakter sohbeti ve genel metin üretimi için bu model makul bir seçimdir.