Magnum v4 72B

Magnum v4 72B adalah model generasi teks dari Anthracite Org, dirilis pada 22 Oktober 2024. Model ini adalah bagian dari seri yang dibangun untuk mereplikasi kualitas prosa model Claude 3, khususnya Sonnet dan Opus. Model ini di-fine-tune di atas Qwen2.5 72B, basis dengan 72 miliar parameter, sehingga mewarisi fondasi tersebut sekaligus disetel untuk gaya penulisan tertentu.

Model ini menerima input teks dan mengembalikan output teks, yang menempatkannya dalam kategori teks di api14. Model ini memiliki jendela konteks 32768 token, sehingga prompt dan riwayat percakapan secara bersamaan dapat mencapai panjang tersebut. Output maksimum per permintaan adalah 4096 token, dan knowledge cutoff-nya adalah 30 Juni 2024. Apa pun yang terjadi setelah tanggal itu berada di luar apa yang dipelajari model selama pelatihan.

Kemampuannya membentuk kasus penggunaannya. Karena model ini disetel untuk kualitas prosa, bukan untuk penggunaan tool atau multimodalitas, model ini cocok untuk pekerjaan yang berat pada penulisan: menyusun dan menulis ulang konten panjang, menyesuaikan tone dan register, menyunting untuk voice tertentu, roleplay dan dialog yang digerakkan karakter, serta peringkasan dokumen panjang yang muat di dalam jendela konteks. Konteks 32768 token mendukung pemberian materi sumber yang substansial, dan batas output 4096 token cocok untuk bab, artikel, dan balasan multi-paragraf, bukan untuk generasi tunggal yang sangat panjang.

Anda memanggilnya melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id "anthracite-org/magnum-v4-72b". API ini mendukung berbagai parameter permintaan: frequency_penalty, logit_bias, logprobs, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, top_a, top_k, top_logprobs dan top_p. Structured outputs dan response_format tersedia ketika Anda perlu balasan mengikuti skema, bukan prosa bebas, dan seed membantu ketika Anda menginginkan hasil yang dapat direproduksi. Kontrol sampling memungkinkan Anda menyetel kreativitas dan pengulangan agar sesuai dengan tugas.

Ingatlah batasannya saat memilih. Jendela konteksnya adalah 32768 token, sehingga basis kode yang sangat besar, input sepanjang buku utuh, atau riwayat agen yang panjang tidak akan muat, dan output maksimum 4096 token meniadakan generasi tunggal di luar panjang tersebut. Knowledge cutoff 30 Juni 2024 berarti peristiwa terkini atau dokumentasi terbaru tidak diketahui oleh model. Jika Anda memerlukan input gambar, audio, atau konteks yang jauh lebih besar, model lain di api14 akan lebih cocok.