TheDrummer: UnslopNemo 12B

TheDrummer: UnslopNemo 12B, Rocinante'nin yaratıcısı TheDrummer tarafından geliştirilen bir metin modelidir. Sağlayıcı tarafından 2024-11-08 tarihinde yayımlanmıştır ve sağlayıcı açıklaması onu UnslopNemo v4.1 olarak tanımlar; bu serinin en yeni üyesi olup macera yazarlığı ve rol yapma senaryoları için tasarlanmıştır. Metin kategorisinde yer alır, yani görüntü, ses veya diğer modaliteler yerine dil çalışmalarına yöneliktir.

Girdi tarafında model yalnızca metin kabul eder ve yalnızca metin üretir. Bağlam penceresi 1.024.000 tokendır; bu alışılmadık derecede büyüktür ve uzun el yazmalarını, genişletilmiş sohbet geçmişlerini veya büyük referans belgelerini tek bir istekte tutmanıza olanak tanır. Maksimum çıktı 819.200 tokendır, yani bu pencere içinde uzun üretimler mümkündür. Bilgi kesim tarihi 2024-04-30'dur; göreviniz bu tarihten sonraki olaylara bağlıysa bu önemlidir. Desteklenen istek parametreleri arasında frequency_penalty, logit_bias, logprobs, max_tokens, presence_penalty, repetition_penalty, seed, stop, structured_outputs, temperature, top_k, top_logprobs ve top_p bulunur.

Belirtilen macera yazarlığı ve rol yapma odağı, bu modelin en iyi nereye uyduğunu gösterir. Etkileşimli kurgu ve metin maceraları doğal bir eşleşmedir, çünkü model uzun bir senaryoyu ileri taşıyabilir ve karaktere uygun yanıt verebilir. Kapsamlı geçmişe sahip kalıcı karakterler dahil rol yapma sohbeti, büyük bağlam penceresinden fayda görür; çünkü önceki turları ve ortam notlarını istemde tutabilirsiniz. Serileştirilmiş hikayeler veya kampanya materyali gibi daha uzun biçimli yaratıcı yazarlık da makul bir kullanımdır. Örnekleme parametreleri ton ve tekrar üzerinde kontrol sağlar; bu, bir karakterin veya anlatıcının sesinin uzun bir oturum boyunca tutarlı kalması gerektiğinde yardımcı olur. Makine tarafından okunabilir yanıtlar istiyorsanız veya modelin her adımda ne kadar kendinden emin olduğunu incelemek istiyorsanız structured_outputs ve logprobs kullanılabilir.

Modeli api14'ün OpenAI uyumlu API'si üzerinden "thedrummer/unslopnemo-12b" model kimliğiyle çağırırsınız. Arayüz OpenAI chat completions biçimini izlediği için mevcut bir OpenAI istemcisini api14 temel URL'sine yönlendirip model alanında bu kimliği geçebilirsiniz. Yukarıda listelenen istek parametreleri desteklenir, bu nedenle temperature, top_p, top_k, repetition_penalty, presence_penalty, frequency_penalty, max_tokens, stop, seed, logit_bias, logprobs, top_logprobs ve structured_outputs değerlerini gerektiği gibi ayarlayabilirsiniz. seed parametresi, test sırasında yeniden üretilebilir örnekleme istediğinizde kullanışlıdır.

Bilgi kesim tarihini unutmayın: 2024-04-30 sonrasındaki her şey modelin öğrendiklerinin dışındadır, bu nedenle güncel bilgilere bağlı görevler başka bir yaklaşım gerektirebilir. Model yalnızca metindir, yani uygulamanızın görüntü veya ses işlemesi gerekiyorsa farklı bir model daha uygun olur. Metin üretimi, rol yapma ve uzun bağlamlı yazarlık işleri için denemeye değer basit bir seçenektir.