TheDrummer: UnslopNemo 12B

TheDrummer: UnslopNemo 12B adalah model teks dari TheDrummer, pencipta Rocinante. Model ini dirilis oleh penyedia pada 2024-11-08, dan deskripsi penyedianya menyebutnya sebagai UnslopNemo v4.1, tambahan terbaru untuk lini tersebut, yang dirancang untuk penulisan petualangan dan skenario role-play. Model ini berada di kategori teks, jadi ditujukan untuk pekerjaan bahasa, bukan gambar, audio, atau modalitas lain.

Di sisi input, model hanya menerima teks, dan hanya menghasilkan teks. Jendela konteksnya adalah 1.024.000 token, yang luar biasa besar dan memungkinkan Anda menyimpan manuskrip panjang, riwayat obrolan yang diperpanjang, atau dokumen referensi besar dalam satu permintaan. Output maksimumnya adalah 819.200 token, sehingga generasi panjang memungkinkan dalam jendela tersebut. Batas pengetahuan (knowledge cutoff) nya adalah 2024-04-30, yang penting jika tugas Anda bergantung pada peristiwa setelah tanggal itu. Parameter permintaan yang didukung meliputi frequency_penalty, logit_bias, logprobs, max_tokens, presence_penalty, repetition_penalty, seed, stop, structured_outputs, temperature, top_k, top_logprobs dan top_p.

Fokus yang dinyatakan pada penulisan petualangan dan role-play menunjukkan di mana model ini paling cocok. Fiksi interaktif dan petualangan teks adalah pasangan alami, karena model dapat membawa skenario panjang ke depan dan merespons sesuai karakter. Obrolan role-play, termasuk karakter persisten dengan latar belakang yang luas, mendapat manfaat dari jendela konteks besar karena Anda dapat menyimpan giliran sebelumnya dan catatan latar dalam prompt. Penulisan kreatif bentuk panjang, seperti cerita berseri atau materi kampanye, adalah penggunaan lain yang masuk akal. Parameter sampling memberi Anda kendali atas nada dan pengulangan, yang membantu ketika suara karakter atau narator perlu tetap konsisten sepanjang sesi panjang. Structured outputs dan logprobs tersedia jika Anda menginginkan respons yang dapat dibaca mesin atau ingin memeriksa seberapa yakin model pada setiap langkah.

Anda memanggil model melalui API yang kompatibel dengan OpenAI dari api14 menggunakan id model "thedrummer/unslopnemo-12b". Karena antarmukanya mengikuti bentuk chat completions OpenAI, Anda dapat mengarahkan klien OpenAI yang ada ke base URL api14 dan meneruskan id tersebut di field model. Parameter permintaan yang tercantum di atas didukung, jadi Anda dapat mengatur temperature, top_p, top_k, repetition_penalty, presence_penalty, frequency_penalty, max_tokens, stop, seed, logit_bias, logprobs, top_logprobs dan structured_outputs sesuai kebutuhan. Parameter seed berguna ketika Anda menginginkan sampling yang dapat direproduksi selama pengujian.

Ingatlah batas pengetahuan: apa pun setelah 2024-04-30 berada di luar apa yang dipelajari model, jadi tugas yang bergantung pada informasi terbaru mungkin memerlukan pendekatan lain. Model ini hanya teks, jadi jika aplikasi Anda perlu menangani gambar atau audio, model lain akan lebih cocok. Untuk pembuatan teks, role-play dan pekerjaan penulisan konteks panjang, ini adalah opsi langsung untuk dicoba.