ReMM SLERP 13B

ReMM SLERP 13B adalah model generasi teks yang dirilis oleh Undi95 pada 22 Juli 2023. Model ini dideskripsikan oleh penyedianya sebagai uji coba pembuatan ulang MythoMax-L2-B13 asli menggunakan model yang diperbarui, dan didistribusikan sebagai merge, yang berarti bobotnya digabungkan dari model lain yang telah di-fine-tune, bukan dilatih dari awal. Undi95 adalah penerbit model independen yang dikenal karena merge komunitas, jadi ini adalah model buatan komunitas, bukan rilis pihak pertama dari laboratorium besar.

Model ini bekerja dengan input teks dan hanya menghasilkan output teks. Model ini memiliki context window 6.144 token dan output maksimum 5.529 token, sehingga prompt yang panjang menyisakan ruang yang lebih sedikit untuk balasan. Batas pengetahuan (knowledge cutoff) nya adalah 30 Juni 2023, yang berarti apa pun setelah tanggal itu berada di luar apa yang dipelajarinya selama pelatihan. Dalam batas tersebut, model ini berperilaku seperti model chat umum yang mengikuti instruksi, dan dapat diarahkan dengan kontrol sampling yang biasa.

Karena ini adalah model teks serbaguna dengan context window yang moderat, model ini cocok untuk tugas seperti chat dan dialog, penulisan dan penulisan ulang bentuk pendek, peringkasan bagian yang muat di dalam konteks, tanya jawab atas teks yang diberikan, dan pekerjaan kreatif ringan seperti penulisan karakter atau skenario. Garis keturunan merge yang berasal dari MythoMax-L2-B13 membuatnya menjadi pilihan yang wajar untuk prompt bergaya percakapan dan roleplay, di mana tuning-nya cenderung menghasilkan balasan yang lebih ekspresif daripada base model biasa. Model ini tidak cocok untuk dokumen yang sangat panjang, karena 6.144 token hanya mencakup beberapa ribu kata, dan model ini tidak memiliki input gambar, audio, atau non-teks lainnya.

Anda dapat memanggilnya melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id "undi95/remm-slerp-l2-13b". Arahkan klien OpenAI Anda yang sudah ada ke base URL api14 dan kirim permintaan chat completion dengan id tersebut, dan bentuk permintaan serta responsnya tetap sama seperti milik OpenAI. Model ini mendukung frequency_penalty, logit_bias, logprobs, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, top_a, top_k, top_logprobs dan top_p. Itu mencakup parameter sampling standar ditambah beberapa tambahan: min_p, top_a dan repetition_penalty untuk kontrol sampling yang lebih halus, seed untuk eksekusi yang dapat direproduksi, serta response_format dan structured_outputs ketika Anda membutuhkan output dalam bentuk yang telah ditentukan.

Ada dua batasan yang perlu diingat. Konteks 6.144 token dan batas output 5.529 token menyingkirkan pekerjaan dokumen panjang atau basis kode besar, dan knowledge cutoff Juni 2023 berarti model ini tidak akan mengetahui apa pun yang lebih baru. Jika tugas Anda membutuhkan context window yang jauh lebih besar, pengetahuan dunia terkini, atau input non-teks, model lain di api14 akan melayani Anda dengan lebih baik.