Magnum v4 72B

Magnum v4 72B är en textgenereringsmodell från Anthracite Org, släppt den 22 oktober 2024. Den är en del av en serie byggd för att replikera prosakvaliteten hos Claude 3-modellerna, specifikt Sonnet och Opus. Modellen är finjusterad ovanpå Qwen2.5 72B, en bas med 72 miljarder parametrar, så den ärver den grunden samtidigt som den är tränad för en särskild skrivstil.

Modellen tar textinmatning och returnerar textutmatning, vilket placerar den i textkategorin på api14. Den har ett kontextfönster på 32768 tokens, så prompter och konversationshistorik kan tillsammans uppgå till den längden. Maximal utmatning per begäran är 4096 tokens, och kunskapsavbrottet är den 30 juni 2024. Allt som hände efter det datumet ligger utanför vad modellen lärde sig under träningen.

Funktionerna formar användningsområdena. Eftersom modellen tränades för prosakvalitet snarare än för verktygsanvändning eller multimodalitet passar den skrivtungt arbete: utformning och omskrivning av långt innehåll, justering av ton och register, redigering för en särskild röst, rollspel och karaktärsdriven dialog, samt sammanfattning av långa dokument som ryms inom kontextfönstret. Kontexten på 32768 tokens stödjer att man skickar in omfattande källmaterial, och taket på 4096 tokens för utmatning passar kapitel, artiklar och svar med flera stycken snarare än mycket långa enskilda genereringar.

Du anropar den via api14:s OpenAI-kompatibla API med modell-id:t "anthracite-org/magnum-v4-72b". API:et stödjer en bred uppsättning begäranparametrar: frequency_penalty, logit_bias, logprobs, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, top_a, top_k, top_logprobs och top_p. Strukturerade utmatningar och response_format är tillgängliga när du behöver att svaret följer ett schema snarare än fri prosa, och seed hjälper när du vill ha ett reproducerbart resultat. Samplingskontrollerna låter dig ställa in kreativitet och upprepning efter uppgiften.

Tänk på begränsningarna när du väljer. Kontextfönstret är 32768 tokens, så mycket stora kodbaser, indata i boklängd eller långa agenthistorik kommer inte att rymmas, och den maximala utmatningen på 4096 tokens utesluter enskilda genereringar bortom den längden. Kunskapsavbrottet den 30 juni 2024 innebär att modellen inte känner till senaste händelser eller aktuell dokumentation. Om du behöver bildinmatning, ljud eller en mycket större kontext passar en annan modell på api14 bättre.