MythoMax 13B

MythoMax 13B adalah model teks dari Gryphe, yang diidentifikasi di api14 sebagai gryphe/mythomax-l2-13b. Model ini merupakan fine-tune dari Llama 2 13B, yang dihasilkan melalui penggabungan (merging) bukan melalui satu proses pelatihan tunggal, dan Gryphe mendeskripsikannya sebagai salah satu fine-tune dengan performa tertinggi dan paling populer dari model dasar tersebut. Model ini berada dalam kategori teks, sehingga dirancang untuk pekerjaan bahasa bukan untuk gambar, audio, atau modalitas lainnya.

Model ini menerima teks sebagai input dan mengembalikan teks sebagai output. Model ini memiliki context window sebesar 8192 token, yang mencakup prompt yang cukup panjang ditambah balasan yang dihasilkan, dan output maksimumnya adalah 3686 token. Knowledge cutoff-nya adalah 30 Juni 2023, sehingga apa pun setelah tanggal tersebut berada di luar apa yang dipelajarinya selama pelatihan. Gryphe menyoroti deskripsi yang kaya dan roleplay sebagai kekuatan khusus dari fine-tune ini, yang merupakan sinyal berguna tentang jenis prosa yang cenderung dihasilkannya.

Karakteristik tersebut mengarah pada serangkaian penggunaan yang cukup spesifik. Kekuatan pada roleplay dan deskripsi yang kaya membuatnya cocok secara alami untuk fiksi interaktif, obrolan yang digerakkan oleh karakter, serta pembuatan narasi atau dialog di mana nada dan detail sangat penting. Konteks 8192 token memungkinkan Anda mempertahankan percakapan panjang atau adegan yang substansial tetap terlihat tanpa harus terus-menerus memangkasnya, dan batas output 3686 token mendukung balasan yang mencapai beberapa paragraf. Di luar penulisan kreatif, model ini berfungsi untuk pembuatan teks umum dan asisten bergaya obrolan, meskipun knowledge cutoff berarti Anda tidak boleh mengandalkannya untuk pertanyaan tentang peristiwa setelah Juni 2023.

Anda memanggilnya melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id gryphe/mythomax-l2-13b, sehingga pustaka klien OpenAI yang ada dan bentuk request yang ada dapat berfungsi hanya dengan mengganti nama model. Parameter request yang didukung adalah frequency_penalty, logit_bias, logprobs, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, top_a, top_k, top_logprobs dan top_p. Ini adalah permukaan sampling dan kontrol yang luas: pengaturan temperature, top_p, top_k dan penalty yang biasa, ditambah min_p, top_a dan repetition_penalty, yang umum dalam alur kerja fine-tune komunitas. Seed memberi Anda sampling yang dapat direproduksi, stop sequences memungkinkan Anda memotong generasi pada string yang dipilih, dan logprobs dengan top_logprobs mengekspos probabilitas tingkat token. response_format dan structured_outputs tersedia jika Anda memerlukan output yang dibentuk dengan cara tertentu.

Batasan utama yang perlu diingat adalah konteks 8192 token dan batas output 3686 token, bersama dengan knowledge cutoff Juni 2023. Jika tugas Anda membutuhkan konteks yang jauh lebih besar, pengetahuan yang lebih baru, atau input non-teks, model lain di api14 akan lebih cocok. Untuk penulisan kreatif, obrolan karakter dan pembuatan teks umum dalam batasan tersebut, model ini adalah pilihan yang wajar.