TheDrummer: Skyfall 36B V2

TheDrummer: Skyfall 36B V2 adalah model generasi teks dari TheDrummer, dirilis pada 10 Maret 2025. Ini adalah iterasi yang ditingkatkan dari Mistral Small 2501, disempurnakan secara khusus untuk kreativitas yang lebih baik, penulisan yang bernuansa, role-playing, dan penceritaan yang koheren. Batas pengetahuan model ini adalah 30 Juni 2024, sehingga ia bekerja dari informasi yang tersedia hingga titik tersebut.

Model ini menerima input teks dan mengembalikan output teks, dengan jendela konteks 32.768 token dan output maksimum 29.491 token. Model ini mendukung berbagai parameter sampling dan kontrol: temperature, top_p, top_k, frequency_penalty, presence_penalty, repetition_penalty, max_tokens, stop, seed, logit_bias, logprobs, top_logprobs, response_format, dan structured_outputs. Kombinasi itu memberi Anda kebebasan kreatif melalui parameter sampling dan kontrol yang lebih ketat melalui structured outputs dan response formats saat Anda membutuhkan bentuk yang dapat diprediksi.

Fokus fine-tuning mengarah pada beberapa penggunaan praktis. Tugas penulisan kreatif dan bernuansa cocok, seperti menyusun fiksi, mengembangkan kerangka menjadi prosa, atau menghasilkan copy marketing yang bervariasi. Role-playing dan dialog yang digerakkan karakter juga sangat cocok, baik untuk fiksi interaktif, NPC game, atau persona chat yang perlu tetap dalam karakter selama percakapan panjang. Penceritaan yang koheren di sepanjang bagian yang lebih panjang adalah penggunaan lain, dibantu oleh konteks 32.768 token, yang memungkinkan Anda menyimpan adegan sebelumnya, catatan karakter, atau panduan gaya dalam prompt. Structured outputs dan response_format membuatnya dapat digunakan untuk tugas di mana balasan harus mengikuti skema, seperti mengekstrak field dari narasi atau menghasilkan JSON yang konsisten untuk kode hilir.

Anda memanggil model ini melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id "thedrummer/skyfall-36b-v2". Karena antarmukanya mengikuti bentuk chat completions OpenAI, Anda dapat mengarahkan klien OpenAI yang ada ke base URL api14, mempertahankan struktur permintaan Anda yang biasa, dan mengatur field model ke id tersebut. Parameter permintaan yang tercantum di atas didukung, sehingga Anda dapat meneruskan temperature, top_p, top_k, frequency_penalty, presence_penalty, repetition_penalty, max_tokens, stop, seed, logit_bias, logprobs, top_logprobs, response_format, dan structured_outputs sesuai kebutuhan. Tabel harga langsung di halaman ini mencakup biaya.

Ada dua batasan yang perlu diperhatikan saat memilih. Input hanya teks, jadi jika tugas Anda bergantung pada gambar atau audio, model ini bukan pilihan yang tepat. Konteks 32.768 token juga membatasi berapa banyak materi sebelumnya yang dapat Anda simpan dalam satu permintaan, yang penting untuk dokumen yang sangat panjang atau percakapan yang diperpanjang; dalam kasus tersebut Anda perlu chunking atau retrieval, atau model dengan jendela konteks yang lebih besar.